Gosztonyi Gergely[1] - Ruszkai Szonja[2] - Lendvai Gergely Ferenc[3]: Pornó és platform, avagy kísérletek az online pornográf tartalmak szabályozására a DSA előtt és után (Publico, 2025/2., 113-134. o.)
https://doi.org/10.32575/ppb.2025.2.6
Absztrakt
Tanulmányunkban a pornográf tartalmakat terjesztő platformokat vizsgáltuk médiajogi, különösen platformszabályozási perspektívából. Kutatásunk alapvetően három altémakört kíván áttekinteni: a (pornó)platformok eddigi szabályozásának történetét, a digitális szolgáltatásokról szóló uniós rendelet (DSA) hatását a pornográf tartalmakra és az ezeket terjesztő felületekre, illetve a szabályozási és gyakorlati kihívásokat, dilemmákat a pornóhonlapok vonatkozásában. Írásunkban egyrészt azt vizsgáltuk, hogy a DSA mint "úttörő" szabályozási megoldás milyen mértékben változtatja meg az eddigi szabályozási kezdeményezéseket, másrészt, hogy a meglévő jogi hiányosságokat miképpen lehetne orvosolni jogi és jogon kívüli megoldásokkal. A tanulmány módszertani szempontból átfogó, interdiszciplináris irodalmi áttekintésre, illetve jogi elemzésre épül. Eredményként megállapítottuk, hogy bár a DSA szignifikáns lépés a platformok biztonságos használatának garantálása terén, közel sem elégséges a pornóplatformok megfelelő kezelésére. A pornóplatformokra vonatkoznak ugyan az átláthatósági és alapjogvédő mechanizmusok, kétségesnek látjuk ezek valós, eredményes érvényesülését. Cikkünkben javasoljuk, hogy
- 113/114 -
a pornóplatformok szabályozásába be kell vonni a civil szféra szereplőit és a szakértőket, egységesíteni kell a nemzeti szabályozási környezetet, illetve szorgalmazzuk a globális együttműködést is.
Kulcsszavak: DSA, internetszabályozás, médiajog, platformszabályozás, pornó, pornográf tartalmak
Abstract - Porn and Platforms: Regulatory Attempts of Online Pornographic Content Before and After the DSA
In our study, we examined platforms distributing pornographic content from a media law perspective, in particular from a platform regulation perspective. Our research aims at reviewing three main sub-themes: the history of (porn) platform regulation, the impact of the EU Digital Services Act (DSA) on pornographic content and platforms, and the regulatory and practical challenges and dilemmas for porn websites. In this paper, we have examined the extent to which the DSA, as a "pioneer" regulatory solution, changes existing regulatory initiatives and how existing legal gaps could be addressed by legal and non-legal solutions. The study is methodologically based on a comprehensive interdisciplinary literature review and legal analysis. As a result, it is concluded that, although DSA is a significant step forward in guaranteeing the safe use of platforms, it is far from sufficient to adequately address porn platforms. While transparency and fundamental rights mechanisms apply to porn platforms, we question whether they are effective and efficient. In this article, we propose to involve civil society and experts in the regulation of porn platforms, to harmonise national regulatory environments and to encourage global cooperation.
Keywords: DSA, internet regulation, media law, platform regulation, porn, pornographic content
Bevezetés
Talán nem túlzás állítani, hogy az online pornográf tartalmak a 21. századra a mindennapok részévé váltak, legyen szó tizenéves kiskamaszról,[1] vallásilag elkötelezett csoportokról[2] vagy éppen egy őslakos törzsről, akik interneteléréssel rendelkeznek.[3] Kutatások alapján a pornográf tartalmakkal való kapcsolat kortól függetlenül, különösen a férfiak körében igen gyakori. Rafael Ballester-Arnal és szerzőtársai tanulmányából kiderül, hogy a felnőtt férfiak közel 80%-a néz, vagy valamilyen módon találkozik pornográf tartalmakkal, a 25 év vagy az alatti fiatal férfiak pedig legalább heti szinten néznek pornót.[4] Önmagában a széles körű hozzáférése és elérése az ilyen tartalmaknak nem feltétlenül vetne fel szabályozási dilemmát. Ellentétben viszont más, rendkívül népszerű online felületekkel (lásd népszerű keresőprogramok vagy e-mail-szolgáltatások), a pornográfiához való páratlanul könnyű hozzáférés számos, a tudomány által is dokumentált negatív hatással jár. A megnövekedett
- 114/115 -
pornófogyasztás például negatívan hat a férfiak szexuális és párkapcsolati elégedettségére,[5] nagyban növelheti a párkapcsolati konfliktusok kialakulását,[6] a pornófüggőség (amelynek fogalma ugyan vitatott, általánosságban a pornográf tartalmakkal való problémás kapcsolatot jelenti[7]) pedig ennél sokkal súlyosabb következményekkel is járhat.[8] A pornográfia terjedése elleni küzdelem során számos problémára kellene a jogalkotónak megoldást találnia. Ide tartozik a gyermekpornográfia[9] teljes körű tiltása, a digitális gyermekvédelem, a hozzájárulás nélkül nyilvánosságra hozott pornográf tartalmak kérdése, valamint azoknak a videómegosztó platformoknak a szabályozása, amelyek elsődleges célja a felhasználók által közzétett pornográf tartalmak megosztása.[10]
A következmények figyelembevételével a szabályozási polémia jóval inkább egy szabályozási igénnyé válik, azaz kialakul egyfajta szükséghelyzet egy olyan rigorózus keretrendszerre, amely az ilyen tartalmak online platformokon való terjesztését és fogyasztását kezelni tudja. E kezelési feladatkör nem az abszolút tiltást akarja, jóval inkább a problémás tartalmak letörlésének és bejelentésének, a fiatalkorúak hozzáférésének korlátozását vagy a nagyobb szintű átláthatóság kérdéseit. Jelen tanulmányban arra vállalkozunk, hogy a pornográf tartalmakat a platformszabályozás perspektívájából, így különösen a Digitális szolgáltatásokról szóló rendelet (a továbbiakban: DSA vagy Rendelet) kontextusában vizsgáljuk.[11] A tanulmány célja, hogy kritikusan elemezze a pornográf oldalak DSA előtti szabályozási környezetét, megvizsgálja a DSA pornóoldalakra (is) vonatkozó konkrét rendelkezéseit, aláhúzza azokat a kihívásokat, amelyekkel e platformok a DSA-nak való megfelelés során szembesülnek, és ajánlásokat fogalmazzon meg a hatékonyabb szabályozásra.
Írásunk struktúrája három fő témakörre tagolódik. Elsőként áttekintést nyújtunk a pornográf oldalakra vonatkozó szabályozásról a DSA bevezetése előtt. E helyütt rávilágítunk a széttagolt és gyakran következetlen szabályozási megközelítésekre, amelyek eddig jellemezték az online tartalmak felügyeletét, megalapozva ezzel a DSA-hoz hasonló egységes keretrendszer szükségességének megértését. A második témakör a DSA szerinti platformok, különösen az online óriásplatformok (angol elnevezése: very large online platforms, a továbbiakban: VLOP) szabályozását vizsgálja, különös tekintettel az átláthatóság szükségességére, a tartalommoderálásra, a panaszkezelésre és a rendszerszintű kockázatokra vonatkozó rendelkezésekre. A harmadik szakaszban olyan kihívásokat ismertetünk, amelyekkel a pornóplatformok - különösen a pornográf tartalmakat terjesztő VLOP-ok - a DSA-nak való megfelelés során szembesülnek,
- 115/116 -
amihez kapcsolódva ajánlásokat fogalmazunk meg, hogy miként lehetne javítani a pornográf oldalaknak a megfelelő szintű szabályozását. E körben valljuk, hogy a hatékony szabályozáshoz elengedhetetlen egy árnyaltabb megközelítés, amely figyelembe veszi a pornográf tartalmak egyedi jellemzőit és fogyasztási szokásait, és a legjobb gyakorlatok kidolgozása és a tudásmegosztás érdekében szorgalmazzuk a szabályozó hatóságok, a platformok és a civil társadalom közötti fokozott együttműködést is.
Az online (pornó)honlapokra vonatkozó szabályozási kísérletek a DSA előtt
Jelen részben áttekintjük, hogy a DSA előtt milyen felelősségi szabályok vonatkoztak az online platformokra, bemutatva azt a jogi széttagoltságot és következetlenséget, amelyből szinte egyértelműen következett a platformok techmamutokká, "a digitális világ új kormányzóivá"[12] való növekedésének lehetősége. A digitális szolgáltatásokra vonatkozó uniós keretet a 2000. évi Elektronikus kereskedelemről szóló irányelv (a továbbiakban: Eker. irányelv) fektette le,[13] amely meghatározta az információs társadalommal összefüggő szolgáltatások nyújtására alkalmazandó alapelveket. Ez az irányelv uniós szintű korlátozásokat vezetett be a közvetítő szolgáltatók felelősségére vonatkozóan a harmadik fél által biztosított tartalmakért. Az Eker. irányelv egyértelműen szabályozza, hogy az internetes közvetítő szolgáltatók nem vonhatók felelősségre a felhasználóik által közzétett illegális tartalmakért, amíg nem szereznek tudomást ezekről a jogsértésekről. Az irányelv hangsúlyozza az úgynevezett biztonságos kikötő védelem koncepcióját,[14] amely biztosítja, hogy a közvetítők nem tartoznak felelősséggel, amennyiben nincs tudomásuk az illegális tevékenységről vagy információról, és ha tudomást szereznek róla, azonnal lépéseket tesznek annak eltávolítására vagy a hozzáférés megakadályozására.[15]
A gyermekek szexuális bántalmazása, szexuális kizsákmányolása és a gyermekpornográfia elleni küzdelemről szóló irányelv[16] előírja az Európai Unió (a továbbiakban: EU) tagállamai számára, hogy hatékonyan lépjenek fel a gyermekpornográfiát tartalmazó vagy terjesztő weboldalak eltávolítása érdekében.[17] Az irányelv lehetőséget biztosít a tagállamoknak arra is, hogy megfelelő biztosítékok mellett blokkolják az ilyen oldalakhoz való hozzáférést. Az irányelv hangsúlyozza azt is, hogy az új technológiák megjelenése fokozza a probléma súlyosságát, és a (3) preambulumbekezdés felhívja a tagállamok figyelmét e kihívások kezelésére.
Az elmúlt évtizedben jelentősen megnőtt a videómegosztó platformok, mint a YouTube népszerűsége, amely arra ösztönözte az EU-t, hogy módosítsa és szigorítsa a felhasználók
- 116/117 -
által létrehozott tartalmakért való felelősség szabályozását. Ennek felismeréseként az Európai Bizottság (a továbbiakban: EB) további intézkedéseket tartott szükségesnek a jogellenes tartalmakkal szembeni fellépés terén, ami az audiovizuális médiaszolgáltatásokról szóló irányelv (a továbbiakban: AVMS) 2018. novemberi módosításához vezetett.[18] Mindez azonban nem oldotta meg teljes mértékben a videómegosztó platformokkal kapcsolatos problémákat, mivel az AVMS rendelkezései között ellentmondások maradtak. Az irányelv szerint a videómegosztó platform szolgáltatás fogalma alapján e szolgáltatók nem viselnek szerkesztői felelősséget a felhasználók által létrehozott tartalmakért, ugyanakkor a (47) preambulumbekezdés szerint csak bizonyos tartalmakért nem felelősek, tisztázatlan mégis mely tartalmakért kell ténylegesen felelősséget vállalniuk.[19] Továbbá szükséges lett volna pontosabban megkülönböztetni a videómegosztóplatform-szolgáltatásokat a többi hasonló jellegű, audiovizuális tartalmat szolgáltató információs társadalommal összefüggő szolgáltatástól.[20] Az AVMS legnagyobb hiányossága továbbra is az, hogy ugyan beleillenek a videómegosztó platform definíciójába azok a videómegosztó platformok is, amelyek kifejezetten pornográf tartalmak népszerűsítésére szolgálnak, mégis sokak szerint egy független platformkategóriát kellene képviselniük.[21] Fontos ugyanakkor kiemelni, hogy az AVMS megköveteli, hogy a platformok megfelelő intézkedéseket hozzanak a gyermekek védelmére, többek között életkor-ellenőrző rendszerek kialakításával és üzemeltetésével.[22]
Az a tény, hogy több alkalommal vonták felelősségre a Mindgeeket - a Pornhubot is magában foglaló konglomerátumot, amely 2023 óta az Aylo nevet használja[23] -, jól alátámasztja a pornográf tartalmakra specializálódott platformokra vonatkozó - jelenleg nem létező - specifikus szabályok szükségességét.[24] A bírósági eljárásban kiderült, hogy a platformon számos, nemi erőszakot dokumentáló videó volt megtalálható, és nők küzdtek azért, hogy megakadályozzák azoknak a felvételeknek az újbóli feltöltését, amelyeken beleegyezésük nélkül - gyakran még gyermekkorukban - szexuálisan bántalmazták őket.[25]
2017-ben ütötték fel a fejüket az interneten a deepfake videók, amelyekről az amszterdami székhelyű, kiberbiztonságot kutató Deeptrace intézet 2019-ben készült kutatása alapján hamar kiderült, hogy mintegy 96%-uk nem konszenzuson alapuló pornográf anyagot tartalmaz.[26] Elméletben a deepfake,[27] valamint a hozzájárulás nélkül nyilvánosságra hozott pornográf
- 117/118 -
tartalmak (bosszúpornó)[28] elterjedésére az általános adatvédelmi rendelet (a továbbiakban: GDPR)[29] adhatna megoldást. Alkalmazása azon alapulhat, hogy a deepfake- vagy a bosszúpornó-felvételek olyan felismerhető személyes adatot tartalmaznak egy természetes személyről, amelynek nyilvánosságra hozatalához az érintett nem járult hozzá.[30] A GDPR 17. cikk (1) bekezdése értelmében a felhasználó jogosult arra, hogy kérésére az adatkezelő indokolatlan késedelem nélkül törölje a rá vonatkozó személyes adatokat, az adatkezelő pedig köteles arra, hogy az érintettre vonatkozó személyes adatokat indokolatlan késedelem nélkül törölje, ha a személyes adatokat jogellenesen kezelték. Ez a folyamat ugyanakkor időigényes és gyakran nem hatékony eszköz a deepfake- és a bosszúpornó-tartalmak terjedése ellen, és az áldozatok jellemzően meghátrálnak a jogérvényesítés várható nehézségei és hossza elől. Ráadásul a törléshez való jog érvényesítése rendkívül nehézkes, mivel az eljárások költségesek, és az áldozatok sokszor nem érik el a kívánt eredményt. Emellett az újrafeltöltések elleni védelem sem garantált,[31] így a GDPR valójában nem tud hatékony védelmet nyújtani az ilyen típusú jogellenes tartalmak ellen.
Barátok, shopping, pornó - az online óriásplatformokra vonatkozó DSA-kötelezettségek rövid ismertetése
A 2022. október 27. napján kihirdetett DSA a fenti szabályozási környezet legújabb része. A Rendelet az Eker. irányelv után elsőként vállalkozott arra, hogy az internetes környezetet nemzetközi szinten, holisztikus megközelítéssel szabályozza elsősorban az online platformokra és azok átláthatóbb működésére fókuszálva.[32] Alapjogi megközelítésben a DSA az alapvető jogok online térben való érvényesülésére, a transzparenciára és a felhasználók védelmére összpontosít, azzal a közvetett céllal is, hogy az európai digitális szuverenitást előmozdítsa. Egyesek szerint az új EU-s szabályozás üdvözlendő, "áttörést implikáló szabályozás",[33] míg mások szerint a DSA kihívást jelenthet az érintett platformok üzemeltetői számára, és nem átfogó a tartalommoderálásra vonatkozó szabályozása sem.[34]
E bekezdésben kifejezetten az online platformokra vonatkozó szabályokat ismertetjük röviden, bemutatva, hogy az általános szabályok közül melyek alkalmazandók a pornóplatformok kapcsán. Ehhez elsőként szükséges a fogalmi alapok tisztázása. A DSA a platformokat sajátos módon osztja fel: az online platformok olyan tárhelyszolgáltatások, amelyek lényegében a szolgáltatást igénybe vevők kérésére információkat tárolnak és nyilvánosan terjesztenek (amennyiben ez a főszolgáltatásuk),[35] e nagyobb kategóriának az egyik alegysége a VLOP-ok, amelyek havonta
- 118/119 -
1. ábra: A DSA szabályozásának szerkezete
Forrás: a szerzők szerkesztése
átlagosan legalább 45 millió, a szolgáltatást aktívan igénybe vevővel rendelkeznek az EU-ban.[36] Mivel a szabályozás természetét tekintve hierarchikus - Martin Husovec szavaival élve "megkülönböztető"[37] -, a kötelezettségeket az adott platform mérete (illetve számban kifejezhető népszerűsége) szerint határozzák meg. A pornóoldalak tekintetében ugyanakkor az ilyen típusú szabályozás polemikus; annak megállapítása ugyanis, hogy hányan fogyasztanak pornográf tartalmakat az EU-ban, mind hatósági, mind kutatási módszerekkel lehetetlennek tűnik. Ezt azért fontos kihangsúlyozni, mert a pornóoldalaknak "platformizációját" követően csupán egy egészen apró töredéke minősül VLOP-nak, amelyekre külön, szigorúbb kötelezettségek is vonatkoznak. Mindez azért is fontos, mivel nem csupán a VLOP-ok szolgáltatnak pornográf tartalmakat, így többek szerint a DSA "nem fogja hatékonyan védeni a gyermekeket, és nem fogja csökkenteni a pornófogyasztást Európában".[38]
Elsőként érdemes áttekinteni az online platformokra vonatkozó legfontosabb szabályokat. Általában a közvetítő szolgáltatókra, így implicite a pornóplatformokra érvényesek a kapcsolattartásra vonatkozó rendelkezések. A pornóplatformoknak a DSA értelmében szükséges egy egyedüli kapcsolattartó pontot kijelölni, amely lehetővé teszi az elektronikus kommunikációt az érintett tagállami hatóságokkal, az EB-vel és a Digitális Szolgáltatások Európai Testületével.[39] Az "institucionális" kommunikációs lehetőségen túl egy olyan kapcsolattartó pontot is
- 119/120 -
ki kell jelölnie majd a platformoknak, amely - ad similiter - arra teremt opciót, hogy a felhasználók is kapcsolatba tudjanak lépni az érintett platformmal.[40]
Talán az egyik, a felhasználóvédelem tekintetében legfontosabb rendelkezés a 14. cikkben foglalt szerződési feltételekre vonatkozó szabályok. Ahogy Martin Husovec írja, "az áthatolhatatlan szakzsargon a szerződési feltételekben már nem lesz a szolgáltató előnyére"[41] - az állítás pedig nem ok nélküli. A 14. cikk előírja, hogy a szerződési feltételeknek érdemben kell tájékoztatást nyújtaniuk a felhasználók számára a szolgáltatásokról és a korlátozások (így a tartalommoderálás) mechanizmusairól. Ugyan a szakirodalom e tekintetben erősen hiányos,[42] fontos aláhúzni e rendelkezés gyakorlati jelentőségét; a pornóplatformok esetében ugyanis különösen szignifikáns annak a kérdése, hogy mi alapján maradhat fent egy adott tartalom, ki tölthet fel tartalmakat, és leginkább, kikről lehet feltenni tartalmat. Ennek az általános feltételekbe való foglalása első lépésnek alkalmas lehet arra, hogy pozitív hatásokat fejtsen ki akár alapjogi szempontból is. A pornóplatformok kutatásában különösen nagy jelentősége van a 15. cikknek is, amely előírja, hogy legalább évente egyszer ezeknek a szolgáltatóknak átláthatósági jelentéseket kell tenniük, amelyekben részletes tájékoztatást kell nyújtaniuk a tartalommoderálási tevékenységükről és az alkalmazott korlátozásokról és panaszkezelési gyakorlatokról. Mint tárhelyszolgáltatók, a pornóplatformokra további, különösen a tartalmak kezelését érintő előírások vonatkoznak. Kiemelkedik e szabályok közül a 16. cikkben a bejelentési és cselekvési mechanizmus kötelező kialakítása, amely - követve az Eker. irányelv értesítési-eltávolítási eljárását[43] - kötelezi a platformokat arra, hogy létrehozzanak egy olyan felületet, amely könnyen hozzáférhető és ahol a platform használói felhasználóbarát módon tudják jelenteni az álláspontjuk szerint jogellenes tartalmakat.
E helyütt megjegyzendő, hogy kifejezetten az online platformokra nézve a Rendelet garanciális rendelkezéseket is bevezet. A 23. cikk e tekintetben irányadó; a szolgáltatóknak lehetőségük nyílik arra, hogy felfüggesszék azokat a felhasználókat, akik gyakran bocsátanak rendelkezésre jogellenes tartalmakat, illetve azokat a bejelentőket is, akik rendszeresen tesznek megalapozatlan bejelentéseket. A bejelentésekre a platformoknak érdemben kell reagálniuk - a 17. cikk és a 24. cikk ugyanis előírják, hogy a beérkezett bejelentésekre részletes, a döntés formai és tartalmi elemeire kiterjedő indokolást kötelesek adni. A bűncselekmények jelenléte ezeken a felületeken igen gazdagon dokumentált - ugyan az "extrém" pornográf (bántalmazás, erőszak) tartalmak a kutatások szerint csekély arányban jelennek meg az elérhető felületeken,[44] e videók bejelentése rendkívül problémás és nem felhasználóbarát.[45] Ezt a konfliktust kívánja feloldani a 18. cikk, amely alapján a tárhelyszolgáltatóknak jelenteniük
- 120/121 -
kell a hatáskörrel rendelkező bűnüldöző/igazságügyi hatóságnak, ha tudomásukra jut vagy gyanúját észlelik annak, hogy olyan tartalmak kerültek fel a platformra, amelyek bűncselekménynek minősülhetnek. A panaszkezelés vonatkozásában a 20. cikk, amely már csak és kifejezetten az online platformot üzemeltető szolgáltatókra alkalmazandó, kötelezi a platformokat (és így a pornóplatformokat is), hogy kialakítsanak egy belső panaszkezelési rendszert. A belső panaszkezelési rendszer egy olyan mechanizmust jelent, amely interakciós lehetőséget biztosít a platformmal azoknak a felhasználóknak, akikkel szemben valamiféle korlátozást vagy tiltást alkalmaztak. Ilyen restriktív lépés lehet a 20. cikk (1) bekezdése alapján például a tartalom eltávolítása vagy "láthatatlanná tétele" (más néven "shadowban" vagy "árnyekletiltás"[46]), a szolgáltatás nyújtásának (így például egy platform elérésének) tiltása vagy korlátozása, egy létrehozott fiók korlátozása vagy megszüntetése, illetve - a pornóplatformok tekintetében különösen releváns kérdésként[47] - a monetizálás felfüggesztése vagy korlátozása. Akikkel szemben tehát ilyen lépéseket tett a platform, panasszal élhetnek az intézkedések ellen, és a fentebb taglalt 17. cikk szerinti indokolásra vonatkozó szabályok értelmében a platformnak érdemben, időben és részletesen kell reagálnia.
Alfejezetünk címe nem véletlenszerű - a fenti rendelkezéseken túl ugyanis a legnagyobb pornóplatformokra további kötelezettségek vonatkoznak. A korábbi definiáláson túl érdemes ugyanakkor a gyakorlatban is áttekinteni, kik az "óriások" a Rendelet szerint. Az EB által, a DSA 33. cikk (6) bekezdése szerint nyilvántartott VLOP-listán -, amelyet e kézirat véglegesítésekor, legutoljára 2024. december 9-én frissítettek - a VLOP-ok jelentős többsége három nagy kategória szerint csoportosítható:
- közösségimédia-platformok (például Instagram, Facebook, TikTok),
- vásárlást és szolgáltatás igénybevételét lehetővé tevő felületek (például Amazon, Booking, Temu) és a különböző alkalmazásboltok, illetve
- pornóoldalak.[48]
Utóbbi tekintetében négy óriás pornóplatformot jegyezhetünk: a Cipruson bejegyzett Pornhub és Stripchat, illetve a Csehországban bejegyzett XVideos és XNXX.[49] Ezek közül a legnagyobb az XVideos átlagosan havi 160 millió aktív szolgáltatást igénybe vevővel. A következőkben a kifejezetten e négy óriás pornóplatformra vonatkozó szabályokat ismertetjük.
A szerződési feltételek tekintetében kihangsúlyozandó, hogy a 14. cikk (6) bekezdés értelmében e négy óriás pornóplatformnak nem elégséges az általános szerződési feltételekre vonatkozó szabályoknak megfelelnie, hanem annak a tagállamnak a hivatalos nyelvén meg kell jelentetniük a szerződési feltételeiket, amelyben szolgáltatásaikat kínálják. A VLOP-okra vonatkozó legkritikusabb részek viszont, a Rendelet szóhasználatával élve, a "kockázatok"
- 121/122 -
kezelésére, értékelésére és csökkentésére vonatkoznak. A kockázat fogalmát ugyanakkor nem találjuk meg a Rendelet törzsszövegében, a DSA preambuluma viszont iránymutatásként szolgálhat az értelmezéshez. A (76) preambulumbekezdés kihangsúlyozza, hogy a legnagyobb platformok társadalmi kockázatokat vonhatnak maguk után, hatásuk és nagyságuk pedig arra predesztinálja őket, hogy több kötelezettségnek legyenek alávetve. A preambulum következetesen a "rendszerszintű kockázat" (a továbbiakban: RK) kifejezéssel él, amely arra utal, hogy a kockázatok nem eseti, individuális jellegűek, jóval inkább szisztematikusan előforduló vagy akár a platformhasználattal közvetve vagy közvetlenül konzekvensen együttjáró jelenségek.[50] A rendszerszintű kockázatokat négy kategóriába sorolja a (80)-(83) preambulumbekezdés:
1. Jogellenes tartalmak megosztásával járó RK. Ez a kategória magában foglalja az olyan tartalmak terjesztését, mint a gyermekek szexuális zaklatását tartalmazó tartalmak, az illegális gyűlöletbeszéd, valamint a szolgáltatásokkal egyéb bűncselekményekre való visszaélés. Olyan illegális tevékenységek is ide tartoznak, mint a tiltott termékek, köztük veszélyes vagy hamisított termékek értékesítése. A rendszerszintű kockázat jelleg ebben az esetben akkor áll fenn, ha az illegális tartalom gyorsan és széles közönséghez eljut.
2. Alapvető jogokat negatívan befolyásoló RK. Ez a kategória az alapvető jogokra gyakorolt potenciális, illetve ténylegesen káros hatásokat foglalja magában. Az alapvető jogok alatt olyan alapjogokat értünk, mint az emberi méltóság, a véleménynyilvánítás szabadsága, a magánélet védelme, az adatvédelem, a megkülönböztetésmentesség és a gyermekek jogai. Ezekre nézve kockázatot jelenthet az algoritmusok manipulatív jellegű kialakítása, a szolgáltatással való visszaélés, valamint a kiskorúakat kihasználó vagy függőséget előidéző online felületek.
3. Demokratikus folyamatokra hatást gyakorló RK. Ez magában foglalja a demokráciára, a polgári diskurzusra, a választási integritásra, valamint a közbiztonságra gyakorolt potenciális vagy tényleges negatív hatásokat, amelyek a platformok tartalom- és információkezeléséből eredhetnek.
4. Közegészségügyet és közjólétet veszélyeztető RK. Ez a kategória a platformok kialakításából vagy használatából eredő olyan kockázatokra vonatkozik, amelyek negatívan befolyásolják a közegészségügyet, a kiskorúakat és a mentális jóllétet illetve hozzájárulnak a nemi alapú erőszakhoz. Ide tartoznak az összehangolt dezinformációs kampányokból és a felhasználói felület kialakításából eredő kockázatok is, amelyek potenciálisan függőséget okozó viselkedéshez vezethetnek.
A fenti négy kategóriából a pornóoldalakra nézve egyértelműen az első és a negyedik kategória a legrelevánsabb, illetve bizonyos esetekben a harmadik RK. E kockázatok kezelésével kapcsolatban két főbb kötelezettség (kockázatértékelés és -csökkentés) lett előírva a VLOP-ok számára a DSA 34. és 35. cikkeiben.
A kockázatértékelés egyfajta gondossági kötelezettségként írható le, ugyanis a VLOP-oknak évente azonosítaniuk, elemezniük és értékelniük kell a szolgáltatásaik kialakításából,
- 122/123 -
2. ábra: A kockázatok szabályozása a VLOP-okra nézve a DSA-ban
Forrás: a szerzők szerkesztése
működéséből és használatából eredő rendszerszintű kockázatokat, különösen "olyan funkció telepítése előtt, amely valószínűsíthetően kritikus hatást gyakorol az e cikk szerint azonosított kockázatokra".[51] A kockázatértékelés során olyan tényezőket kell figyelembe vennie a VLOP-nak, mint az algoritmikus rendszerek, például az ajánlóprogramok kialakítása, a tartalommoderálási gyakorlatok, a feltételek érvényesítése, a hirdetések megjelenése, és az adatkezelés és a pornóoldalak szempontjából a legjelentősebb polémia a nemi alapú erőszakkal és kiskorúak védelmével összefüggő negatív hatások. Fontos értékelni ezeken túl, hogy a szolgáltatások miként manipulálhatók, azaz fel lehet-e használni őket illegális vagy káros tartalmak terjesztéséhez.
A kockázatok értékelésén túl az azonosított kockázatok csökkentése is feladata a VLOP-oknak.[52] Kockázatcsökkentés alatt az észszerű, arányos és hatékony enyhítő intézkedések értendők, amelyeket a VLOP-oknak kell végrehajtaniuk a rendszerszintű kockázatok kezelésére, kiemelten összpontosítva az alapvető jogok megőrzésére. Az intézkedések köre igen széles;[53] magukban foglalják a szolgáltatás kialakításának, a feltételeknek, a tartalommoderálási folyamatoknak és az algoritmikus rendszereknek a kiigazítását, a kockázatok észlelésére szolgáló belső folyamatok megerősítését, valamint a megbízható bejelentőkkel és más szolgáltatókkal való együttműködés előmozdítását. A pornográf tartalmak viszonylatában kiemelendő intézkedésként értékelhető a 35. cikk (1) bekezdés j) pontja, amely előírja, hogy a platformoknak a gyermekek jogainak védelmét szolgáló konkrét intézkedések végrehajtása, például az életkor
- 123/124 -
3. ábra: A platformokra vonatkozó rendelkezések összesítése a DSA vonatkozó rendelkezései alapján
Megjegyzés: A specifikus kihangsúlyozás miatt a lista nem teljes körű, így például az online hirdetésekre vagy a válságreagálási protokollra vonatkozó szabályok nem szerepelnek benne. Forrás: a szerzők szerkesztése
ellenőrzésére, valamint a kiskorúak számára a visszaélések bejelentésére, vagy szükség esetén a segítség igénybevételére szolgáló eszközöket biztosítaniuk kell.
A pornóplatformok megfelelőségének garantálására a Rendelet disztingvált megoldást alkalmaz. Az 56. cikk értelmében a szolgáltató székhelye szerinti tagállam rendelkezik kizárólagos hatáskörrel a Rendelet betartatásáért, kivéve a VLOP-okat, amelyeknél e hatáskör az EB kezébe kerül. A tagállamok által kijelölt digitális szolgáltatási koordinátorok (a továbbiakban: DSC) a Rendelet értelmében jelentős hatáskörrel rendelkeznek a közvetítői szolgáltatások nyújtóinak irányítására, így például indokolatlan késedelem nélkül információt kérhetnek tőlük, adott esetben helyszíni vizsgálatot tarthatnak egy feltételezett jogsértés esetében, és magyarázatot kérhetnek az érintett szolgáltató képviselőjétől, vagy akár a személyzetétől, egy feltételezett szabályszegés kivizsgálása kapcsán. A végrehajtás érdekében a DSC-k elfogadhatják és kötelezővé tehetik a szolgáltatók megfelelési kötelezettségvállalásait, elrendelhetik a jogsértések megszüntetését, bírságokat vagy büntetéseket szabhatnak ki, a súlyos jogsértések esetén pedig az igazságügyi hatóság beavatkozását is kérhetik. Súlyos esetekben - például akkor, amikor egy jogsértés továbbra is fennáll a már megtett intézkedések után is - a DSC köteles felkérni a szolgáltatásokhoz való hozzáférés ideiglenes korlátozására a tagállam igazságügyi hatóságát. A tagállam ezenfelül szankcionálási rendszert is alkalmazhat a platformmal szemben. A Rendeletnek való meg nem felelésért az 52. cikk (3) bekezdése alapján kiróható pénzbírság maximális összege az érintett közvetítő szolgáltató előző pénzügyi évi globális éves forgalmának 6%-a legyen, míg hiányos, hibás vagy félrevezető tájékoztatás, információnyújtás és válaszadás esetén ez az arány 1%.
- 124/125 -
A VLOP-okra, így a négy említett óriás pornóplatformra nézve az EB hatásköre kiterjedtebb. Egyfelől, a VLOP-ok számára az EB éves felügyeleti díjat számít fel, ezzel nem elhanyagolható anyagi terhet róva a nagy platformokra. Másfelől, a letelepedési hely szerinti digitális szolgáltatási koordinátorral egyetemben, az EB a megfelelés ellenőrzéséhez kérheti az érintett VLOP-októl az adatokhoz való hozzáférést is, továbbá az általuk alkalmazott különböző ajánlórendszerek és kapcsolódó mechanizmusok ismertetését is.[54] Ezen túlmenően az online óriásplatformok szolgáltatóinak évente - saját költségükön - független ellenőrzésnek kell alávetniük magukat. Ez a kötelezettség azt a célt szolgálja, hogy a VLOP-ok értékeljék a konkrét szabályozási kötelezettségeknek, valamint a magatartási kódexek és válságprotokollok keretében tett kötelezettségvállalásoknak való megfelelést. Az ellenőrzést követően a platformoknak foglalkozniuk kell a feltárt meg nem feleléssel, és meghatározott határidőn belül jelentést kell tenniük a korrekciós intézkedésekről.
A gyakorlati végrehajtás nehézségei és javaslatok a DSA hatékonyságának növelésére
Az online pornográfia szabályozásának nehézségei több tényezőből erednek, mint például a szexualitást meghatározó normák változása,[55] a tömegmédia és a reklámok hatása, vagy egyszerűen az a tény, hogy manapság technikailag könnyedén lehetséges képek útján kommunikálni. Azonban a legnagyobb kihívást a szabályozás szempontjából vitathatatlanul a technológiai fejlődés jelenti. A gyorsan változó és fejlődő technológiai környezet lehetővé tette a pornográf tartalmak rendkívül gyors terjedését.
Clare McGlynn és szerzőtársai megjegyzik, hogy bár a kérdés nagyon sokrétű, a kutatások szerint az online pornográfia "erőszakos, bántalmazó tartalmakat reprodukál, miközben megerősíti a szexista és rasszista attitűdöket" és "aggodalomra ad okot, hogy a pornóipar, tekintettel az emberek életében betöltött jelentős szerepére, [...] normalizálja és minimalizálja ezeket az ártalmakat".[56] A végrehajtás nehézségei között az aktív pornófogyasztó felhasználók számának valószínűsíthetően nagy látenciáját is meg kell említeni.
Máig megoldatlan probléma az is, hogy a kiskorú felhasználók számára szinte akadálytalanul hozzáférhetők a különböző pornográf platformok. E probléma kezelésére nagy valószínűséggel hatékony megoldást jelenthetne egy külső, az online tértől független azonosítási rendszer. Egy potenciálisan hatékony megoldásként szolgálhatott volna az Egyesült Királyság 2017-ben elfogadott Digitális Gazdaságról szóló törvény[57] keretében hozott rendelkezése, amely előírta, hogy azok a platformok, amelyek tartalmainak legalább egyharmada pornográf jellegű, kötelesek biztonságosan ellenőrizni felhasználóik életkorát. A törvény által kínált egyik biztonságos hitelesítési módszer a helyi postahivatalban megvásárolható pornóigazolvány, amely egy 16
- 125/126 -
számjegyű kódból áll. Ha a felhasználó megadja a kódot a felnőtt honlapon, szabadon böngészhet. Az Egyesült Királyság kormánya azonban 2019-ben határozatlan időre elhalasztotta ezeknek az életkor-ellenőrzési rendelkezéseknek a végrehajtását.[58] A németországi Észak-Rajna-Vesztfália médiaszabályozásért felelős hatósága 2023 végén azt szerette volna elérni, hogy a német internetszolgáltatók blokkolják a leglátogatottabb pornóoldalakat, vagy vezessenek be szigorú korhatár-ellenőrzést.[59] 2023-ban Franciaországban a Párizsi Törvényszék az ideig elhalasztotta a pornóoldalak blokkolásáról szóló végleges döntését az életkor-ellenőrzés be nem tartásának kérdésében, amíg a Legfelsőbb Közigazgatási Bíróság ki nem bocsátja az erre vonatkozó egyértelmű eljárásrendet.[60] Mivel az AVMS szabályait értelmező EU-s javaslatot[61] nem érezte kellően egyértelműnek, 2023 legvégén a spanyol audiovizuális piac felügyeletéért és ellenőrzéséért felelős hatóság nyilvános konzultációt indított a videómegosztó platformok korhatár-ellenőrzési rendszereinek kritériumairól.[62] Egy kanadai törvényjavaslat alapján 500 ezer kanadai dollárig (2024. átlagos júliusi árfolyam alapján 132 millió forint) terjedő bírsággal büntethető bűncselekménynek minősülne, ha egy pornóplatform lehetővé tenné a 18 év alattiak számára, hogy kereskedelmi céllal szexuális tartalmú anyagokhoz férjenek hozzá, kivéve, ha a szervezet korellenőrző rendszert alkalmaz.[63] Ugyanakkor az ilyen típusú korellenőrzések hatékonyságával kapcsolatban több kérdés is felvetődik, mivel a felhasználók könnyen megkerülhetik ezeket az ellenőrzéseket egyrészt hamis adatok megadásával, másrészt olyan technológiák segítségével, mint a virtuális magánhálózatok (VPN) vagy az anonimitást kínáló Tor böngésző.[64]
A fentiek összegzéseképpen olyan javaslatokat fogalmazunk meg, amelyek segíthetik az online pornó iparágat a szabályozás hatálya alá terelni, és amelyek egyensúlyt teremthetnek a biztonság és az elszámoltathatóság, valamint az alapvető jogok védelme között.
1. Pornóigazolvány? - A felhasználói életkor ellenőrzése alapvető fontosságú az internetes gyermekvédelem kapcsán. Az online pornográfiával való első találkozás átlagos életkora 12 év.[65] Máig megoldatlan a valós életkori ellenőrzés a pornóplatformokon - elég csak a legtöbb platformon az igenlő vagy nemleges válasz adásának elégtelenségére utalni az "Ön nagykorú-e?" kérdésre. Ugyanígy elégtelen az önbevalláson alapuló születési idő megadása is, amely semmiféle ellenőrzést nem igényel. Az EU-s tagállamok gyakorlatából kitűnik, hogy messze még az egységes megoldás a kérdés kapcsán. Hangsúlyozandó ugyanakkor, hogy az életkori ellenőrzés kötelezettségénél a valós szónak mind az életkorra, mind az ellenőrzés tényére vonatkoznia kellene. A pornóigazolvány kiváltása akár személyazonosság igazolására alkalmas okmányok[66] vagy
- 126/127 -
bankkártya bemutatásával is történhetne. Rosszul kivitelezett szabályozás esetén ugyanakkor ez olyan kevésbé szabályozott, szürke- vagy feketezónás oldalak felé is terelhetné a felhasználókat, ahol nem kérik a pornóigazolvány meglétét.[67]
2. A jogi környezet további egységesítése. Bár nem szorosan csak a pornóplatformokat érintő kérdés, de a videómegosztó platformok szabályozásának további egységesítése elősegítené mind a felügyeleti szervek jogérvényesítését, mind pedig az érintett szolgáltatók jogkövetését. Bár vannak olyan közösségimédia-felületek, amelyek a 2018-as módosítás óta az AVMS hatálya alá tartoznak,[68] az EB által kiadott nem kötelező erejű iránymutatás[69] ellenére az még mindig nem teljesen egyértelmű, hogy melyik közösségimédia-felület nem fog a jogszabály hatálya alá kerülni. Emiatt az AVMSD és a DSA videómegosztó platformokra vonatkozó szabályozásának egységesítése még bizonyosan az EB előtt álló feladat, amely puzzle kirakása a pornóplatformokkal kapcsolatos fellépést is egyszerűsíteni tudja. Emellett a pornográfia kapcsán "a létrehozás, a terjesztés, a birtoklás és a tartalom módját figyelembe vevő átfogó stratégia kritikus fontosságú".[70]
3. Szorosabb együttműködés a platformszabályozási háromszög résztvevői között. Robert Gorwa kifejezését felhasználva állítható, hogy a "platformszabályozási háromszög"[71] mindhárom szereplőjének részt kell vennie a folyamatokban, hiszen a felek együttműködésre vannak ítélve.[72] Egyértelműnek látszik, hogy sem (A) az államok, sem (B) a "techmammutok," sem pedig (C) a civil szféra, az egyetemi szféra vagy a felhasználók önállóan nem lesznek képesek az online pornográfia jelentette problémahalmaz megoldására. Valljuk, hogy a hatékony szabályozáshoz elengedhetetlen egy árnyaltabb és holisztikusabb megközelítés. Ennek keretében a résztvevők közösen tudják a legjobb gyakorlatokat kidolgozni, amit megalapozhat a kölcsönös bizalmon alapuló tudásmegosztás is.
4. Gyermekpornográfia, bosszúpornó, deepfake pornó - Valóban hozzáférhető és felhasználóbarát jelentési lehetőség kialakítása. A fentebb ismertetett DSA szerinti bejelentési és cselekvési mechanizmus alapján a platformoknak lehetővé kell tenniük olyan információk bejelentését, amelyek a bejelentő szerint jogellenes tartalomnak minősülnek. Amennyiben a platform tudomására jut ilyen tartalom, akkor "időben, kellő gondossággal, nem önkényesen és tárgyilagosan eljárva"[73] döntést kell hozzon a bejelentés tárgyát képező információkkal kapcsolatban. Mindezek mellett a tárhelyszolgáltatóknak jelenteniük kell a hatáskörrel rendelkező bűnüldöző/
- 127/128 -
igazságügyi hatóságnak, ha tudomásukra jut vagy gyanúját észlelik annak, hogy olyan tartalmak kerültek fel a platformra, amelyek bűncselekménynek minősülhetnek - a leggyakoribb ilyen tartalmak a gyermekpornográfiával, a bosszúpornóval és a deepfake pornóval[74] lehetnek kapcsolatosak. E DSA szabályok valódi és számonkérhető betartatása a platformokkal bizonyosan csökkentené a gyakorlati problémákat.
5. Az átláthatósági jelentések szisztematikus feldolgozása és elemzése. Az online platformoknak is mindent meg kell tenniük a problematikus tartalom helyes felismerése és eltávolítása érdekében. A DSA kötelezővé teszi, hogy a tartalommoderálásról minden közvetítő szolgáltató legalább évente egyszer jelentést tegyen közzé, aminek "géppel olvasható formátumban és könnyen hozzáférhető módon világosnak és jól érthetőnek" kell lennie.[75] Az indoklások megtalálhatók és kereshetők az Átláthatósági Adatbázisban,[76] ám a benne foglalt adatmennyiség olyan mértékű, amely csak alapos és hozzáértő elemzések alapján értelmezhető. A tagállami hatóságoknak kötelező jelleggel lenne szükséges feldolgozni és elemezni a platformok gyakorlatát, ami jelentősen segíthetné a kisebb pornóplatformok esetében a tagállami eljárásokat, míg az óriás pornóplatformok esetében - mivel a DSA alapján az EB rendelkezik hatáskörrel a Rendelet felügyeletére és érvényesítésére a VLOP-ok tekintetében - az egységes európai szintű eljárásokat.
Összegzés
2024-ben nagyjából 147 zettabájtnyi adat keletkezett az internetes forgalom során, amelynek több mint felét a videók tették ki.[77] A továbbított videók mintegy 30%-a pornográf tartalmú, így a globális pornóipar évente nagyjából 100-120 milliárd dollárt termelhet.[78] Egy olyan iparágról van szó, amely már rég nem intézhető el azzal, hogy egyszerűen be lehetne tiltani. Olyan megoldásokat kell találni, amelyek biztosítják a rendszerszintű kockázatok kezelését anélkül, hogy a nagykorú felhasználókat vagy a szexmunkásokat feleslegesen megbélyegeznék.
A pornóplatformok biztonságos használatának hermetikus szabályozása valószínűtlen, sőt, talán lehetetlen. E platformok forgalma, könnyű elérhetősége, hozzáférhetősége és általános "joggal szembeni" álláspontja tovább erősítheti azt a szkepszist, amely azt implikálhatná, hogy nincs értelme és nem is lehet érdemben szabályozni őket. Jelen tanulmányban mégis kísérletet tettünk arra, hogy e szkepszist - ha csak részben is - eloszlassuk. Tanulmányunkban körbejártuk a pornóplatformok korábbi szabályozását, figyelembe vettük és részletes bemutatás
- 128/129 -
mellett elemeztük a DSA vonatkozó szabályait, továbbá kihangsúlyoztuk azokat a nehézségeket, amelyekkel a jogalkotó találkozhat, ha ilyen felületeket kívánna szabályozni. Különös figyelmet szántunk arra is, hogy a deskriptív, analitikus elemzésen túl javaslatokat is tegyünk, amelyek reményeink szerint a tudományos környezeten túl a jogalkotásban részt vevő szakemberek számára is hasznosak lehetnek.
A szabályozási környezet elemzéséből kiderül, hogy a pornográf platformok irányítása széttagolt és következetlen,[79] ami egyben rávilágít arra is, hogy szükség van egy olyan egységes szabályozási keretre, amely harmonizálja a szabályokat. Amíg ez nem születik meg, addig a pornó- és nem pornóplatformok is küzdenek a rájuk felkerülő illegális tartalommal. Ennek eklatáns példája, hogy 2024. április közepén a Facebook Ellenőrző Bizottság[80] is kiválasztott egy deepfake pornóval kapcsolatos ügyet alaposabb vizsgálatra.[81]
Összegzésképpen kiemelhető, hogy meglátásunk szerint a DSA - annak ellenére, hogy jelentős előrelépéseket tett az online platformok kezelésében - még mindig nem képes megfelelően és teljeskörűen szabályozni a pornográf tartalmak által támasztott egyedi kihívásokat. Véleményünk szerint a pornóplatformok szabályozásához olyan árnyalt megközelítésre van szükség, amely egyensúlyt teremt a biztonság és az elszámoltathatóság, valamint az alapvető jogok védelme között - bizakodunk benne, hogy ez a hozzáállás a szabályozásokban is megjelenik majd.
Felhasznált irodalom
Adjer, Henry - Patrini, Giorgio - Cavalli, Francesco - Cullen, Laurence (2019): The State of Deepfakes. Landscape, Threats and Impact. Online: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
Ambrus István (2021): Digitalizáció és büntetőjog. Budapest: Wolters Kluwer.
Az AI segítségével felnőttfilmes felvételekre illesztette iskolatársai arcát egy diák. Index.hu, 2024. május 14. Online: https://index.hu/belfold/2024/05/14/pornografia-gyermek-pornografia-videofelvetel-pest-varmegyei-altalanos-iskola-mesterseges-intelligencia
Amount of Data Created Daily. Exploding Topics, 2024. június 13. Online: https://explod-ingtopics.com/blog/data-generated-per-day
Baker, Grant (2024): The EU Digital Services Act: A Win for Transparency. Freedom House, 2024. április 4. Online: https://freedomhouse.org/article/eu-digital-services-act-win-transparency
Ballaster-Arnal, Rafael - García-Barba, Marta - Castro-Calvo, Jesús - Giménez-García, Cristina - Gil-Llario, Maria Dolores (2023): Pornography Consumption in People of Different Age Groups: an Analysis Based on Gender, Contents, and Con-
- 129/130 -
sequences. Sexuality Research and Social Policy, 20(2), 776-779. Online: https://doi.org/10.1007/s13178-022-00720-z
Bennett-Brown, Margaret - Wright, Paul J. (2022): Pornography Consumption and Partnered Sex: A Review of Pornography Use and Satisfaction in Romantic Relationships. Current Addiction Reports, 9(3), 109-113. Online: https://doi.org/10.1007/s40429-022-00412-z
Blake, Pandora (2019): Age Verification for Online Porn: More Harm than Good? Porn Studies, 6(2), 228-237. Online: https://doi.org/10.1080/23268743.2018.1555054
Bőthe, Beáta - Nagy, Léna - Koós, Mónika - Demetrovics, Zsolt - Potenza, Marc - International Sex Survey Consortium - Kraus, Shane W. (2024): Problematic Pornography Use across Countries, Genders, and Sexual Orientations: Insights from the International Sex Survey and Comparison of Different Assessment Tools. Addiction, 119(5), 928-950. Online: https://doi.org/10.1111/add.16431
Carrotte, Elise R. - Davis, Angela C. - Lim, Megan SC. (2020): Sexual Behaviors and Violence in Pornography: Systematic Review and Narrative Synthesis of Video Content Analyses. Journal of Medical Internet Research, 22(5). Online: https://doi.org/10.2196/16702
Csapucha Bernadett (2019): A "világháló árnyoldala", avagy a gyermekpornográfia térnyerése az interneten. Ügyészek Lapja, 26(4-5), 55-68. Online: https://ugyeszeklapja.hu/?p=2619
De Ampuero Castellanos, Santiago (2023): Public Consultation on Age Verification Mechanisms for Video Sharing Platforms - Spain. Lexology, 2023. december 19. Online: https://www.lexology.com/library/detail.aspx?g=f24f7695-e6c8-430e-baf5-28457e472bfa
De Angeli, Antonella - Falduti, Mattia - Menendez-Blanco, Maria - Tessaris, Sergio (2023): Reporting Non-Consensual Pornography: Clarity, Efficiency and Distress. Multimedia Tools and Applications, 82(9), 12829-12858. Online: https://doi.org/10.1007/s11042-022-14291-z
De Streel, Alexandre et al. (2020): Online Platforms' Moderation of Illegal Content Online. Law, Practices and Options for Reform. Luxembourg: European Parliament. Online: https://www.europarl.europa.eu/RegData/etudes/STUD/2020/652718/IPOL_STU(2020)652718_EN.pdf
DeLacey, Hannah (2024): The Boundaries of Business and Pleasure: How Personal, Social, and Legal Factors Influence Webcam Models' Boundaries. The Journal of Sex Research, 62(6), 950-963. Online: https://doi.org/10.1080/00224499.2024.2314068
Detrekői, Zsuzsa (2021): Practical Problems of Implementing the New AVMSD Provisions on Video-Sharing Platforms. Communications Law, 26(3), 149-156.
Detrekői, Zsuzsa (2024): Navigating the Grey Zone: The Impact of the EU's Digital Services Act on Online Pornography and Child Safety. Medium, 2024. január 24. Online: https://medium.com/@MJRC/navigating-the-grey-zone-the-impact-of-the-eus-digital-services-act-on-online-pornography-and-a6c89841b321
- 130/131 -
European Parliament (2023): Online Age Verification Methods for Children. EPRS, 2023. február. Online: https://www.europarl.europa.eu/RegData/etudes/ATAG/2023/739350/EPRS_ATA(2023)739350_EN.pdf
Friedmann, Danny (2014): Sinking the Safe Harbour with the Legal Certainty of Strict Liability in Sight. Journal of Intellectual Property Law & Practice, 9(2), 148-155. Online: https://doi.org/10.1093/jiplp/jpt227
Gorwa, Robert (2019): The Platform Governance Triangle: Conceptualising the Informal Regulation of Online Content. Internet Policy Review, 8(2). Online: https://doi.org/10.14763/2019.2.1407
Gosztonyi Gergely (2022): Nyolc évnyi pereskedés egy női nemiszervért, avagy Facebook, cenzúra, meztelenség, művészet. JOG. történet, 2022. május 2. Online: https://mtajogtortenet.elte.hu/blog/gosztonyi-gergely-facebook-meztelenseg
Gosztonyi Gergely - Lendvai Gergely Ferenc (2024): Deepfake és dezinformáció. Mit tehet a jog a mélyhamisítással készített álhírek ellen? Médiakutató, 25(1), 41-49. Online: https://doi.org/10.55395/MK.2024.1.3
Grant, Harriet - Milmo, Dan (2023): A Fifth of Teenagers Watch Pornography Frequently and Some Are Addicted, UK Study Finds. The Guardian, 2023. március 10. Online: https://www.theguardian.com/society/2023/mar/10/porn-study-survey-uk-teenagers-addicted
Nikas, Jack - Suner, Rebeka - Surdam, James (2024): How Internet Access Is Transforming Life in This Amazon Tribe. The New York Times, 2024. június 2. Online: https://www.nytimes.com/video/world/americas/100000009494114/how-internet-access-is-transforming-life-in-this-amazon-tribe.html
Husovec, Martin (2023a): The DSA's Scope Briefly Explained. SSRN online, 2023. február 27. Online: http://dx.doi.org/10.2139/ssrn.4365029
Husovec, Martin (2023b): Will the DSA Work? In van Hoboken, Joris - Buri, Ilaria -Quintais, Pedro João - Fahy, Ronan - Appelman, Naomi - Straub, Marlene (szerk.): Putting the DSA into Practice. Berlin: Verfassungsblog gGmbH, 19-34. Online: https://doi.org/10.17176/20230208-093135-0
Klein Tamás (2018): A szolgáltató és a közvetítő szolgáltató felelőssége a szolgáltatásán keresztül elérhetővé tett tartalomért. In Klein Tamás - Tóth András (szerk.): Technológia jog - Robotjog - Cyberjog. Budapest: Wolters Kluwer, 151-153.
Knittel Martin (2021): A Pornhub hiába törölte videók millióit, beleragad a múltjába. Forbes, 2021. október 27. Online: https://forbes.hu/uzlet/pornhub-papers-per-bergmair
Lendvai Gergely Ferenc (2024): A Facebook Ellenőrző Bizottság működése és bíráskodása a gyűlöletbeszéd kontextusában. In Medias Res, 13(1), 195-221. Online: https://doi.org/10.59851/imr.13.1.11
Libertad vigilada para los 15 menores responsables de los falsos desnudos de niñas en Almendralejo. elDiario.es, 2024. július 9. Online: https://www.eldiario.es/extremadura/sociedad/libertad-vigilada-15-menores-responsables-falsos-desnudos-ninas-almend-ralejo_1_11511656.html
- 131/132 -
Lussier, Natalie (2022): Nonconsensual Deepfakes: Detecting and Regulating the Rising Threat to Privacy. Idaho Law Review, 58(2), 353-383. Online: https://digitalcommons.law.uidaho.edu/cgi/viewcontent.cgi?article=1252&context=idaho-law-review
Malki, Kinda - Rahm, Christoffer - Görts Öberg, Katarina - Ueda, Peter (2021): Frequency of Pornography Use and Sexual Health Outcomes in Sweden: Analysis of a National Probability Survey. The Journal of Sexual Medicine, 18(10), 1735-1751. Online: https://doi.org/10.1016/jjsxm.2021.08.003
Mania, Karolina (2022): Legal Protection of Revenge and Deepfake Porn Victims in the European Union: Findings from a Comparative Legal Study. Trauma, Violence, & Abuse, 25(1), 117-129. Online: https://doi.org/10.1177/15248380221143772
McDowell, Josh (2016): The Porn Phenomenon. The Impact of Pornography in the Digital Age. Ventura: Bama Group.
McGlynn, Clare - Woods, Lorna - Antoniou, Alexandros (2024): Pornography, the Online Safety Act 2023 and the Need for Further Reform. Journal of Media Law, 16(2), 211-239. Online: https://doi.org/10.1080/17577632.2024.2357421
Mezei Kitti (2021): Az online gyermekpornográfia és a büntetőjog. Ügyészek Lapja, 28(4), 19-30.
Naprys, Ernestas (2023): German Authorities Want to Ban Adult Sites at the ISP Level. CyberNews, 2023. november 15. Online: https://cybernews.com/news/german-authorities-to-ban-adult-sites-isp-level
Quintais, João Pedro - Appelman, Naomi - Ó Fathaigh, Ronan (2023): Using Terms and Conditions to Apply Fundamental Rights to Content Moderation. German Law Journal, 24(5), 881-911. Online: https://doi.org/10.1017/glj.2023.53
Robb, Michael B. - Mann, Supreet (2023): Teens and Pornography. San Francisco, California: Common Sense.
Rojszczak, Marcin (2023): The Digital Services Act and the Problem of Preventive Blocking of (Clearly) Illegal Content. Institutiones Administrationis, 3(2), 44-59. Online: https://doi.org/10.54201/iajas.v3i2.85
Roth, Emma (2023): Pornhub's Parent Company is Changing Its Name to Total Nonsense. The Verge, 2023. augusztus 18. Online: https://www.theverge.com/2023/8/18/23837670/pornhub-parent-company-mindgeek-rebrand-aylo
Sorbán, Kinga (2023): An Elephant in the Room - EU Policy Gaps in the Regulation of Moderating Illegal Sexual Content on Video-Sharing Platforms. International Journal of Law and Information Technology, 31(3), 171-185. Online: https://doi.org/10.1093/ijlit/eaad024
- 132/133 -
Stardust, Zahra - Obeid, Abdul - McKee, Alan - Angus, Daniel (2024): Mandatory Age Verification for Pornography Access: Why It Can't and Won't 'Save the Children'. Big Data & Society, 11(2). Online: https://doi.org/10.1177/20539517241252129
Taylor, Kris (2019): Pornography Addiction: The Fabrication of a Transient Sexual Disease. History of the Human Sciences, 32(5), 56-83. Online: https://doi.org/10.1177/0952695119854624
Things Are Looking Up in America's Porn Industry. NBC News, 2015. január 20. Online: https://www.nbcnews.com/business/business-news/things-are-looking-americas-porn-industry-n289431
Thurman, Neil - Obster, Fabian (2021): The Regulation of Internet Pornography: What a Survey of Under-18s Tells Us about the Necessity for and Potential Efficacy of Emerging Legislative Approaches. Policy & Internet, 13(3), 415-432. Online: https://doi.org/10.1002/poi3.250
Turillazzi, Aina - Taddeo, Mariarosaria - Floridi, Luciano - Casolari, Federico (2023): The Digital Services Act: An Analysis of Its Ethical, Legal, and Social Implications. Law, Innovation and Technology, 15(1), 83-106. Online: https://doi.org/10.1080/17579961.2023.2184136
Williams, Kaylee (2024): Meta Oversight Board Announces Plans to Rule on Sexually Explicit Deepfakes of Public Figures. TechPolicyPress, 2024. április 19. Online: https://www.techpolicy.press/meta-oversight-board-announces-plans-to-rule-on-sexually-ex-plicit-deepfakes-of-public-figures
Woods, Lorna - McGlynn, Clare (2022): Pornography Platforms, the EU Digital Services Act and Image-Based Sexual Abuse. LSEBlogs, 2022. január 26. Online: https://blogs.lse.ac.uk/medialse/2022/01/26/pornography-platforms-the-eu-digital-services-act-and-image-based-sexual-abuse/
Jogi források
1488/2016. (IX. 2.) Korm. határozat a Gyermekek Számára Biztonságos Internetszolgáltatás megteremtéséről, a tudatos és értékteremtő internethasználatról és Magyarország Digitális Gyermekvédelmi Stratégiájáról
Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK rendelet hatályon kívül helyezéséről
Az Európai Parlament és a Tanács (EU) 2022/2065 rendelete (2022. október 19.) a digitális szolgáltatások egységes piacáról és a 2000/31/EK irányelv módosításáról (digitális szolgáltatásokról szóló rendelet)
Az Európai Parlament és a Tanács 2000/31/EK irányelve (2000. június 8.) a belső piacon az információs társadalommal összefüggő szolgáltatások, különösen az elektronikus kereskedelem egyes jogi vonatkozásairól
- 133/134 -
Az Európai Parlament és a Tanács 2011/93/EU irányelve (2011. december 13.) a gyermekek szexuális bántalmazása, szexuális kizsákmányolása és a gyermekpornográfia elleni küzdelemről, valamint a 2004/68/IB tanácsi kerethatározat felváltásáról
Az Európai Parlament és a Tanács (EU) 2018/1808 irányelve (2018. november 14.) a tagállamok audiovizuális médiaszolgáltatások nyújtására vonatkozó egyes törvényi, rendeleti vagy közigazgatási rendelkezéseinek összehangolásáról szóló 2010/13/EU irányelvnek (Audiovizuális médiaszolgáltatásokról szóló irányelv) a változó piaci körülményekre tekintettel való módosításáról
A Bizottság közleménye: Iránymutatások az audiovizuális médiaszolgáltatásokról szóló irányelv értelmében a "videomegosztóplatform-szolgáltatás" fogalommeghatározásában szereplő alapvető funkció kritériumának gyakorlati alkalmazására vonatkozóan (2020/C 223/02)
Bill S-210, Act to restrict young persons' online access to sexually explicit material, 2023 Digital Economy Act, 2017
The United Nations (UN) Special Rapporteur on Freedom of Opinion and Expression, the Organization for Security and Co-operation in Europe (OSCE) Representative on Freedom of the Media, the Organization of American States (OAS) Special Rapporteur on Freedom of Expression and the African Commission on Human and Peoples' Rights (ACHPR) Special Rapporteur on Freedom of Expression and Access to Information : Twentieth anniversary joint declaration: challenges to freedom of expression in the next decade. FOM.GAL/3/17
Gosztonyi Gergely habilitált egyetemi docens az Eötvös Loránd Tudományegyetem Állam- és Jogtudományi Karán. Kutatási területei - többek között - az online platformok és a közösségi média világszintű szabályozása, a cenzúra, a képi mesterséges intelligencia, az alternatív média és a közvetítő szolgáltatók felelőssége. Több jogi folyóirat szerkesztője, több mint 180 szaktanulmánya jelent meg magyar és nemzetközi jogi folyóiratokban. A tanulmány a Bolyai János Kutatási Ösztöndíj támogatásával készült.
Ruszkai Szonja az Eötvös Loránd Tudományegyetem (ELTE) Állam- és Jogtudományi Karának joghallgatója. A médiajog és a szólásszabadság területeivel foglalkozik mélyebben. Az ELTE 2024/2025-ös Monroe E. Price Media Law Moot Court csapatának tagja.
Lendvai Gergely Ferenc PhD-hallgató a Pázmány Péter Katolikus Egyetemen. Kutatási területe a médiajog, a szólásszabadság, a tudománymetria és a tudományértékelés. ■
JEGYZETEK
[1] Grant-Milmo 2023.
[2] McDowell 2016.
[3] Nikas-Suner-Surdam 2024.
[4] Ballaster-Arnal et al. 2023.
[5] Malki et al. 2021.
[6] Bennett-Brown-Wright 2022.
[7] Vö. Bőthe et al. 2024.
[8] Taylor 2019.
[9] Érdekesség, hogy "az Europol és az Interpol elutasítja a gyermekpornográfia fogalmának a használatát, helyette a gyermek szexuális bántalmazását vagy kizsákmányolását ábrázoló anyag (child sexual abuse material vagy child sexual exploitation material) kifejezést használják, mert álláspontjuk szerint sokkal pontosabban tükrözi a súlyosságát és a valós természetét a tartalomnak". Mezei 2021: 21.
[10] Ráadásul ez csupán a jéghegy csúcsa, azaz a látható web (surface web). A deep web és a dark web esetjoga nem képezi jelen tanulmány tárgyát. Hurtony 2023.
[11] Az Európai Parlament és a Tanács (EU) 2022/2065 rendelete (2022. október 19.) (digitális szolgáltatásokról szóló rendelet).
[12] Balkin 2018: 225.
[13] Az Európai Parlament és a Tanács 2000/31/EK irányelve (2000. június 8.) (Elektronikus kereskedelemről szóló irányelv).
[14] Friedmann 2014: 13.
[15] De Streel et al. 2020.
[16] Az Európai Parlament és a Tanács 2011/93/EU irányelve (2011. december 13.).
[17] Csapucha 2019: 58.
[18] Az Európai Parlament és a Tanács (EU) 2018/1808 irányelve (2018. november 14.) (Audiovizuális médiaszolgáltatásokról szóló irányelv).
[19] Detrekői 2021.
[20] Sorbán 2019.
[21] Sorbán 2023.
[22] AVMS 28b. cikk (3) bekezdés f) pont.
[23] Roth 2023.
[24] Lásd többek között az Amerikai Egyesült Államokban: Jane Doe v. Mindgeek U.S. Inc., 558 F. Supp. 3d 828 (C.D. Cal. 2021), Blocher v. MindGeek U.S. Inc., 3:23-CV-00209-MMD-CLB (D. Nev. Aug. 4, 2023), Doe v. Mindgeek U.S. Inc., 8:21-CV-00338-CJC-ADS (C.D. Cal. Sep. 15, 2023), Free Speech Coalition, Inc. v. Paxton, 606 US (2025), megjelenés alatt.
[25] Knittel 2021.
[26] Adjer et al. 2019.
[27] Gosztonyi-Lendvai 2024.
[28] Ambrus 2021: 223-225.
[29] Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) (általános adatvédelmi rendelet).
[30] Lussier 2022.
[31] Mania 2022.
[32] Turillazzi et al. 2023: 85-86.
[33] Lásd ehhez a Freedom House 2024-ben készült elemzését: Baker 2024.
[34] Rojszczak 2023: 50-53.
[35] DSA 3. cikk i) pont.
[36] DSA 33. cikk (1), (4) bekezdések.
[37] Husovec 2023a.
[38] Detrekői 2024.
[39] DSA 11. cikk, 61. cikk.
[40] DSA 12. cikk.
[41] Husovec 2023b: 26.
[42] Üdítő "ellenpélda" erre Quintais - Appelman - Ó Fathaigh 2023. A cikk azt tárgyalja, hogy a DSA 14. cikke hogyan kötelezi az online platformokat arra, hogy az alapvető jogokat beépítsék és érvényesítsék általános szerződési feltételeikbe, és rávilágít az alapvető jogok alkalmazásának kihívásaira és lehetőségeire a platformok és a felhasználók közötti hatalmi dinamika kiegyensúlyozása, az átláthatóság biztosítása és a felhasználói jogok védelme érdekében a tartalom moderálása során.
[43] Klein 2018: 151-153.
[44] Carrotte-Davis-Lim 2020.
[45] De Angeli et al. 2023.
[46] DSA (55) preambulumbekezdés.
[47] Ehhez lásd példaként a webcam pornográfiát. DeLacey 2024.
[48] Lásd: https://digital-strategy.ec.europa.eu/en/policies/list-designated-vlops-and-vloses
[49] Az első körös (2023. április 25.) VLOP-kijelöléseknél a tizenhét óriásplatform közül egy sem volt elsődlegesen felnőtt tartalmat szolgáltató: a pornóplatformokat csak a második körben (2023. december 20.) és az ötödik körben (2024. július 10.) jelölték ki. Az óriás pornóplatformok kivételével az összes VLOP az alábbi európai országokba van bejegyezve: Írország, Hollandia, Luxemburg és Németország.
[50] DSA (79) preambulumbekezdés.
[51] DSA 34. cikk (1) bekezdés.
[52] DSA 35. cikk.
[53] DSA 35. cikk (1) bekezdés.
[54] DSA 40. cikk.
[55] Gosztonyi 2022.
[56] McGlynn-Woods-Antoniou 2024: 217.
[57] Digital Economy Act, 2017, lásd: https://www.legislation.gov.uk/ukpga/2017/30/contents
[58] Blake 2019.
[59] Naprys 2023.
[61] European Parliament 2023.
[62] De Ampuero Castellanos 2023.
[63] Lásd: https://www.parl.ca/documentviewer/en/44-1/bill/S-210/third-reading
[64] Thurman-Obster 2021.
[65] Robb-Mann 2023: 11.
[66] Egy másfajta függőség kapcsán érdekes ezt összevetni a magyar játékoskártyával, amelyet a Szerencsejáték Zrt. állít ki. Lásd: https://bet.szerencsejatek.hu/jatekoskartya#
[67] Stardust et al. 2024.
[68] Például a YouTube, a Vimeo vagy a streaming és annak különböző válfajai: VOD, Catch-Up TV, OTT.
[69] A Bizottság közleménye: Iránymutatások az audiovizuális médiaszolgáltatásokról szóló irányelv értelmében a "videomegosztóplatform-szolgáltatás" fogalommeghatározásában szereplő alapvető funkció kritériumának gyakorlati alkalmazására vonatkozóan (2020/C 223/02).
[70] McGlynn-Woods-Antoniou 2024: 238.
[71] Gorwa 2019.
[72] The United Nations (UN) Special Rapporteur on Freedom of Opinion and Expression, the Organization for Security and Co-operation in Europe (OSCE) Representative on Freedom of the Media, the Organization of American States (OAS) Special Rapporteur on Freedom of Expression and the African Commission on Human and Peoples' Rights (ACHPR) Special Rapporteur on Freedom of Expression and Access to Information 2017: 5.
[73] DSA 16. cikk (6) bekezdés.
[74] 2024-re a mesterséges intelligencia használata szinte elképzelhetetlenül könnyen kivitelezhetővé tette az ilyen típusú tartalmak bárki általi elkészítését: mind Spanyolországban, mind Magyarországon találkozhattunk már olyan esettel, amikor kiskorú fiúk deepfake meztelen pornóképeket készítettek és terjesztettek lány osztálytársaikról. elDiario.es 2024; Index.hu 2024.
[75] DSA 15. cikk (1) bekezdés.
[76] Lásd: https://transparency.dsa.ec.europa.eu/statement
[77] Exploding Topics 2024.
[78] Az adat csak egy inflációval korrigált becslés, hiszen a globális pornóipar kapcsán még a legnagyobb honlapok - feltételezhetően jóhiszeműen és egymásra utalva - egy 2015-re vonatkozó 97 milliárd dolláros adatot használnak, sokszor 2024-re is alkalmazva. NBC News 2015.
[79] Woods-McGlynn 2022.
[80] Lendvai 2024.
[81] Williams 2024.
Lábjegyzetek:
[1] A szerző habilitált egyetemi docens, Eötvös Loránd Tudományegyetem Állam-és Jogtudományi Kar, gosztonyi@ajk.elte.hu
[2] A szerző egyetemi hallgató, Eötvös Loránd Tudományegyetem Állam- és Jogtudományi Kar, ruszkaiszonja@gmail.com
[3] A szerző PhD-hallgató, Pázmány Péter Katolikus Egyetem Jog- és Államtudományi Kar, lendvai.gergely.ferenc@hallgato.ppke.hu