https://doi.org/10.59851/jk.81.04.2
Napjaink sajnálatos jelensége a kiskorú képmásával való visszaélés. A számos módon és céllal megvalósítható jogsértés közül a tanulmány azt az esetkört vizsgálja, amikor a kiskorú képmásával visszaélve, az azonosíthatóságot fenntartva, generatív mesterséges intelligencia közbejöttével készítenek és terjesztenek online tipikusan szexuálisan explicit, a valódihoz a megtévesztésig hasonlító, azonban én- és valóságidegen multimédiás ábrázolást (deepfake). Az ekképp generált kimeneti adat online hozzáférhetővé tétele olyan újszerű, korábban nem tapasztalt problémát jelent a világon mindenütt, amely nemcsak a társadalom, hanem a jogrendszer rezilienciájának is a próbaköve lesz. Jóllehet az Európai Unió szabályozási kísérletei ismertek, az Egyesült Államok rendkívül összetett jogrendszerét igazán próbára tevő helyzet áttekintésére eddig sem a külföldi, sem a hazai szakirodalom nem reflektált. A jogrendszernek a tiltó normák megalkotása mellett a bekövetkezett jogsértés reparációjára is fel kell készülnie, amelyet nehezít a meglévő jogfogalmi kereteknek a jogsértés sajátosságaira történő alkalmazhatósága.
Tárgyszavak: kárfelelősség, USA, generatív MI, deepfake, online jogsértés, képmás, kiskorúak védelme
The misuse of minors' images is an alarming contemporary issue. This paper examines cases in which generative artificial intelligence is used to create and display online sexually explicit multimedia content (deepfakes) that is deceptively realistic and abusive, and which is both alien to reality and the self, although the recognisability and identifiability of the person is maintained. Making such generated content available online presents a novel and unprecedented global challenge, testing the resilience of both society and the legal system. While the European Union's regulatory efforts concerning platforms and AI are well known, neither foreign nor domestic literature has yet addressed the situation that tests the complex legal system of the US. In addition to creating prohibitive norms, the legal system must be prepared to remedy these new types of unlawful conduct. However, this is problematic due to challenges in applying existing legal concepts to the specific nature of this misconduct.
Keywords: liability, US, generative AI, deepfake, unlawful conduct online, image, minor protection
A mesterséges intelligencia (MI) okozta veszélyekkel való megbirkózás univerzális feladat. A generatív MI fejlődésével párhuzamosan nő a modern társadalmat, így különösen a kiskorúakat fenyegető veszély, amelynek fokozódása globális jelenség. A kiskorú képmása felhasználásával visszaélésszerűen, generatív MI útján készített és online megjelenített, tipikusan szexuálisan explicit, a valódihoz a megtévesztésig hasonlító, hamis, én- és valóságidegen multimédiás ábrázolások komoly kihívást fognak jelenteni a platformok és az MI szabályozása terén felkészültebb Európai Unióban is, e próbatétel azonban az Egyesült Államok jogrendszerével szemben, mint látni fogjuk, fokozottan érvényesül. A tanulmányban vizsgált esetek nemcsak a társadalom, hanem a jogrendszer rezilienciájának is próbaköve, így arra a társadalomnak és a jogrendszernek is fel kell készülnie.
A tényállási oldal jobb megértése végett a dolgozat vázolja a generált tartalmak és a deepfake meghatározását, az explicit tartalom-generálás mibenlétét, alapjait és az ahhoz fűződő diszfunkciókat, majd a hamisadat-generálás online jogsértéseket súlyosbító hatásainak bemutatását követően vizsgálja a lehetséges kárfelelősségi irányokat az amerikai jogrendszer egészében. Az amerikai jogrendszer vizsgálata hazai és nemzetközi viszonylatban egyaránt desideratum, a kutatást emellett az is indokolta, hogy az Egyesült Államokban a magas technológiai fejlettség következtében az elsők között megjelent, aggasztó jelenség a szövetségi és a tagállami jogrendszerek relatív - például az Európai Unióhoz mért - felkészületlenségével találkozott: mind a szövetségi, mind a tagállami jogrendszerek, továbbá az ítélkezési gyakorlat is - bármily meglepő - messze lemaradt az MI-technológia fejlődéséhez képest.[1] Ide tartoznak azok az elmúlt években megvalósult, számos, aggodalomra okot adó esetek is, amelyekben a technológia felhasználásával generálnak szexuális tartalmakat kiskorúakról. Az elmúlt években ilyen esetek történtek többek közt egy westfieldi középiskolában (New Jersey),[2] Issaquah (Washington) egyik iskolájában,[3] továbbá Észak-Karolina[4] és Kalifornia[5] középisko-
- 154/155 -
láiban. Precedens, illetve kártérítéssel zárult, kutatható bírósági határozat egyelőre nincs a témában, mert az ügyek vagy folyamatban vannak,[6] vagy egyezséggel zárultak, így kutathatóságuk kizárt.
Vizsgálataink korosztály szerint az amerikai kiskorúakra (kiskorúakon belül is leginkább a tizenéves korosztályra) korlátozódnak. Az, hogy kik számítanak jogi értelemben kiskorúnak, államonként differenciált, de az államok többségében a kiskorúság 18 éves korig terjed.[7] A kérdés vizsgálata több okból is kiemelten fontos ennek a korosztálynak a vonatkozásában, mert felmérések alapján kimutatható, hogy az Egyesült Államokban az internetes zaklatás és cyberbullying áldozatai között a kiskorúak felülreprezentáltak,[8] köszönhetően a magas eszközellátottságnak,[9] és használati hajlandóságnak (70%).[10] Az internetet is egyre inkább elárasztják a gyermekekkel kapcsolatos szexuális visszaélést ábrázoló tartalmak.[11] Csak az előző évben több mint százmillió ilyen tartalmat jelentettek a National Center for Missing and Exploited Children erre a célra létrehozott felületén.[12] E magas szám mögött nemcsak a való életben történt visszaélésekről készült felvételek, hanem egyre több mesterségesen előállított kép és videó is áll. Ez is világosan jelzi, hogy a jelenség a jogrendszer reagáló- és ellenállóképességét "párbajra" hívta.
Az MI-szoftverek fejlődése sok szempontból pozitív,[13] ám előnyei könnyen a visszájukra fordíthatók. Természetesen nem minden, a gyermekek szexuális bántalmazását, kizsákmányolását ábrázoló anyag (Child Sexual Abuse Material, C.S.A.M.) deepfake, és vice versa.[14] Kutatásaink tárgya e két jelenség, a generatív MI és a C.S.A.M. metszete, vagyis a generált visszaélésszerű tartalom, illetve ennek szűkebb köre, a szexuálisan explicit deepfake bír relevanciával. A C.S.A.M. alatt értünk minden olyan felvételt, amelyben a gyermekek valamilyen szexuális helyzetben, szexuális tevékenységet folytatva kerülnek ábrázolásra.[15] E tartalmak között nemcsak a megtörtént, valós visszaélésekről hang-, illetve képrögzítő eszközökkel készített felvételekről lehet szó. Ma már ennek kapcsán szükséges beszélnünk az MI felhasználásával generált tartalmakról,[16] illetve ezek egy szűkebb, specifikusabb köréről, az ugyancsak pozitív módokon is felhasználható[17] deepfake-ről, amely olyan, a generatív MI felhasználásával létrehozott vagy módosított kép-, videó- és/vagy hangfelvétel, amely más személy képmását, hangját használja fel oly módon, hogy az teljesen valóságosnak tűnjék (nem fiktív személyről van tehát szó, hanem egy létező és arca, hangja alapján azonosítható személy képmásának, hangjának nem valós testhez és helyzethez történő, megtévesztő hozzákapcsolásáról).[18]
A Jogkódex-előfizetéséhez tartozó felhasználónévvel és jelszóval is be tud jelentkezni.
Az ORAC Kiadó előfizetéses folyóiratainak „valós idejű” (a nyomtatott lapszámok megjelenésével egyidejű) eléréséhez kérjen ajánlatot a Szakcikk Adatbázis Plusz-ra!
Visszaugrás
