https://doi.org/10.69695/ias.2026.3.06
A felhasználók által az online platformokon közzétett tartalmak és a felhasználói fiókok elérhetőségének korlátozása és láthatóságának hátrasorolása a tartalommoderálás kevésbe szembetűnő, azonban annál hatékonyabb formái. A felhasználót érintő bármely korlátozásról szóló tájékoztatás hiánya (shadowbanning) azonban alapjaiban sérti a DSA indokolási kötelezettségét és a GDPR átláthatóság elvét. Jelen tanulmány a korlátozott számban elérhető európai hatósági és bírósági gyakorlat mentén mutatja be az online platformok shadowbanning gyakorlatának jogszerűségével és átláthatóságával szemben támasztott követelményeket.
Kulcsszavak: shadowbanning, tartalommoderálás, online platformok, véleménynyilvánítás szabadsága, adatvédelem
Mi a közös a szexmunkásokban, a konzervatív bloggerekben, a Black Lives Matter aktivistákban, az indiai farmerekben, a transznemű művészekben, a palesztin tüntetőkben és a túlsúlyos influenszerekben? Első ránézésre nem sok, azonban a Center for Democracy and Technology kutatása alapján mindegyik csoport képviselője tapasztalta már korábban, hogy a közösségi médiában közzétett tartalma shadowbanning áldozata lett.[1] A közösségi média platformok visszautasító nyilvános közleményei[2] ellenére egyre több felhasználó tapasztal hasonló korlátozásokat és szankciókat az online véleménynyilvánítása során.[3] A shadowbanning jelenség létezését igazoló empirikus kuta-
- 109/110 -
tásokon[4] túl az online platformok által bejegyzett szabadalmak is ezt támasztják alá.[5] Mivel a titokban alkalmazott tartalommoderálási technikák adott esetben az online platformon jelen lévő felhasználók nézeteinek befolyásolására is alkalmasak lehetnek, indokolt a mélyebb vizsgálatuk.[6]
Az online platformok működésének alapvető keretét az Európai Unióban a digitális szolgáltatásokról szóló rendelet (a továbbiakban: DSA)[7] adja, mely az alkalmazott tartalommoderálásról szóló általános (pl. általános szerződési feltételekben vagy közösségi irányelvekben található) és egyedi (pl. konkrét felhasználói fiók zárolása esetén) tájékoztatási kötelezettséget ír elő. Mivel a felhasználókat érintő shadowbanning intézkedések személyes adatok kezelésével történnek, az online platformokat üzemeltető adatkezelők kötelesek betartani az uniós általános adatvédelmi rendelet (a továbbiakban: GDPR)[8] átláthatósági és a felhasználók tájékoztatására vonatkozó rendelkezéseit is. Jelen tanulmány központi témája annak feltérképezése, miként tudnak az online platformok ezen kötelezettségeiknek megfelelni a shadowbanning alkalmazása esetén, mely megoldás alapvető jellemzője annak titkossága.
Jelen bevezetést követően a 2. pont a releváns szakirodalom áttekintésével értelmezi a shadowbanning fogalmát, a 3. pont bemutatja a shadowbanning adatvédelmi jogi vonatkozásait, a 4., 5. és 6. pontok összefoglalják és az alkalmazandó uniós jogi keret fényében elemzik az európai bíróságok és adatvédelmi hatóságok által online platformok által alkalmazott shadowbanning gyakorlatok jogszerűségének tárgyában tett legfontosabb megállapításait, a 7. pont pedig levonja az uniós joggyakorlat eddigi tapasztalatait és kritikai javaslatokat fogalmaz meg a jövőre tekintettel.
Az internet kezdeti éveiben a shadowbanning egy olyan moderálási technikát jelölt, amellyel fórumokról vagy üzenőfalakról lehetett kitiltani a felhasználókat anélkül, hogy értesítenék őket erről. Általában ez azt jelentette, hogy a felhasználó továbbra is normálisan posztolhatott, de a bejegyzései az online közösség többi tagja számára
- 110/111 -
láthatatlanok voltak.[9] Az internet fejlődésével, az online platformok elterjedésével és a felhasználói számuk növekedésével a shadowbanning új, szofisztikáltabb formái is elterjedtek. Megjegyzendő e körben, hogy a DSA szintén a shadowbanning fogalmának jelen klasszikus, szűkebb értelemben vett verzióját kodifikálta.[10]
Ződi fogalommeghatározása szerint a shadowbanning kizárólag a felhasználói tartalmak vonatkozásában értelmezhető, miszerint a shadowbanning "a felhasználó által létrehozott tartalmak korlátozása oly módon, hogy ezt nem közlik a felhasználóval".[11] Egy másik fogalomalkotási kísérlet szerint a shadowbanning során a felhasználó tudta nélkül csökkentik a láthatóságát, tartalmait vagy interakciós képességét, ezáltal továbbra is normálisan használhatja az online platformot, azonban tartalmai mások számára nem láthatóak.[12] A shadowbanning gyakorlati megjelenési formáit tekintve elképzelhető, hogy az érintett felhasználói fiók vagy tartalom nem jelenik meg a javasolt tartalmak, keresés esetén az automatikus kitöltési ajánlások vagy a keresési eredmények között, esetleg a konkrét felhasználói fiók vagy tartalom pontos hivatkozását beírva sem érhető el.[13]
A Center for Democracy and Technology kutatása a shadowbanning három csoportját azonosítja, elhatárolva ezen csoportokat a shadowbanning-nek nem minősülő tartalommoderálási gyakorlatoktól. A klasszikus shadowbanning esete, amennyiben egy felhasználó bejegyzései és hozzászólásai csak saját maga számára elérhetőek, a többi felhasználó részére nem. Valószínűleg shadowbanning-nek minősül, amennyiben a felhasználó fiókja, bejegyzései vagy hozzászólásai nem jelennek meg a fiókjában, bejegyzéseiben vagy hozzászólásaiban használt hashtag-eket összegző oldalon, vagy a felhasználót egyáltalán nem értesítik a tartalma eltávolításáról. Lehetséges, hogy shadowbanning-nek minősül, amennyiben a keresőmező nem jeleníti meg automatikus ajánlásként az adott felhasználó nevét vagy egy adott tartalom nem jelenik meg a felhasználónak javasolt tartalmak között. Ezekkel szemben egyértelműen nem beszélhetünk shadowbanning-ről, amennyiben a felhasználót értesítették a tartalom eltávolításáról, csak figyelmen kívül hagyta az értesítést, vagy a felhasználók azért nem érnek el bizonyos tartalmakat, mert a tartalmakban megjelenő kulcsszavak megjelenítését kifejezetten letiltották korábban.[14]
Risius és Blasiak a shadowbanning gyakorlatok négyféle csoportját határozzák meg. A szerzőpáros a ghost ban megnevezést használja a fenti klasszikus shadowbanning esetén. A search ban esetén az online platform belső keresési indexéből, a suggestion ban esetén pedig az online platform "automatikus javaslatok" funkciójából kerül el-
- 111/112 -
távolításra a tartalom, míg a demotion a tartalom láthatóságának csökkentésére vagy korlátozására utal. Külön érdekesség, hogy előbbi két esetet a szerzőpáros a tartalommoderálás, míg utóbbi két esetet a tartalomajánlás kategóriájába sorolja be.[15]
A fogalomalkotási kísérleteket tovább nehezíti, hogy a hagyományosnak tekintett eltávolítási és felfüggesztési tartalommoderálási módszerek viszonylag nyilvánvalóak, még akkor is, ha az online platformok megpróbálják titokban végezni azokat. Ezzel szemben a fiókok és tartalmak láthatóságát érintő intézkedések alig vagy egyáltalán nem feltűnőek az érintett felhasználó számára.[16] Elérhető viszonyítási alap hiányában pedig rendkívül nehéz, vagy általában lehetetlen a shadowbanning hatásainak egzakt mérése és dokumentálása. Mivel egy adott online tartalom jövőbeli elérhetősége és láthatósága nagyban függ attól, hogy hány felhasználó interaktál vele, vagyis menynyire minősül felkapottnak, az elérésbeli és láthatóságbeli csökkenésnek kumulatív hatása van. Az online közönség változó érdeklődése és tartalomfogyasztási szokásai, az online trendek és felkapott tartalmak mind megnehezítik egy adott tartalom objektíve meghatározott elérésének meghatározását.[17] Az online platformok által alkalmazott algoritmusok általános (minden felhasználóra kiterjedő) módosításai szintén befolyásolhatják a tartalmak elérését.
A legtöbb szakirodalmi vizsgálódás élesen elkülöníti az online platformok felületén általánosságban elérhető, valamint az egyes felhasználók számára láthatóvá tett tartalom szabályozásának kérdésköreit.[18] Mindkét tevékenységet túlnyomórészt algoritmusok végzik, előbbi esetben a tartalmak jogszerűségét és az online platformok közösségi irányelveinek való megfelelését vizsgálva, utóbbi esetben pedig a felhasználók korábbi aktivitása és preferenciái alapján a konkrét megjelenés helyeiről és gyakoriságáról döntve.[19] A felhasználói profilok és tartalmak láthatóságának és elérésének online platformok általi algoritmikus befolyásolása azonban nem egyértelműen besorolható a fenti bináris csoportok egyikébe sem. A shadowbanning esetében felmerülő mögöttes célok és megfontolások miatt Gillespie azzal érvel, hogy a shadowbanning inkább tartozik a tágan értelmezett tartalommoderálás kategóriája alá.[20]
Nicholas mindezzel szemben meghaladott kérdésnek tartja a shadowbanning megfelelő fogalmának megalkotását, helyette a 'nem közölt tartalommoderálás' kifejezés
- 112/113 -
használatát javasolja. Érvelése szerint a shadowbanning fogalom negatív konnotációi miatt nem alkalmas a szakmai diskurzusban való helyének betöltésére, valamint elvonja a figyelmet azon esetekről, mikor a titokban végzett tartalommoderálás az online platformok, a felhasználók és a társadalom jogos érdekeit szolgálja.[21] Bár a kritika jogos, a shadowbanning széles körben elterjedt és hétköznapi szóhasználatban is alkalmazott jelentése mind szakmai, mind társadalmi szempontból is hasznosnak bizonyulhat az online platformok által végzett, a felhasználók részéről sokszor átláthatatlan tartalommoderálás pontosabb megértésére.
Az online platformok működésének alapvető feltétele a felhasználóik által mind a platformon magán, mind azon kívül, az interneten végzett aktivitásuk által generált személyes adatok gyűjtése, elemzése, majd pedig a felhasználói preferenciákon alapuló, személyre szabott tartalmak és reklámok megjelenítése.[22] Akár automatizált, akár nem automatizált módon történik, a shadowbanning személyes adatok kezelésének minősül a GDPR szempontjából. A GDPR széles körben határozza meg a személyes adatok fogalmát - ide tartozik "azonosított vagy azonosítható természetes személyre vonatkozó bármely információ".[23] Az adatkezelés hasonlóan tág definíció, beleértve a személyes adatokon végzett bármely műveletet vagy műveletek összességét.[24] A tartalommoderálási döntések meghozatala céljából azonosítható felhasználók által közzétett tartalmakra vagy online jelenlétük elemzésére vagy felhasználására tehát kiterjed a GDPR tárgyi hatálya.
A személyes adatok kezelését "jogszerűen és tisztességesen, valamint az érintett számára átlátható módon kell végezni".[25] Jelen elv a gyakorlatban azt az elvárást támasztja az adatkezelők felé, hogy az érintettek számára átlátható legyen a személyes adatok gyűjtése, felhasználása és egyéb kezelése, valamint az adatkezelés célja. Az adatkezelők kötelesek továbbá tájékoztatni az érintetteket a "személyes adatok kezelésével összefüggő kockázatokról, szabályokról, garanciákról és jogokról", valamint az adatkezelés kapcsán megillető jogok gyakorlásának részleteiről.[26] Az online platformok shadowbanning gyakorlata ezáltal felveti a GDPR szerinti átláthatósági elv sérelmét, hiszen a felhasználók általánosságban sem értesülhetnek ezen adatkezelési műveletek lehetőségéről.
- 113/114 -
Ezen túlmenően, az egyedi shadowbanning döntésekhez kapcsolódó tájékoztatás és fellebbezési lehetőség hiányában bizonyos esetekben a felhasználók GDPR 22. cikke szerinti jogai is sérülhetnek. Automatizált döntéshozatal egyedi ügyekben ugyanis kizárólag megfelelő garanciák mellett megengedett, "amelybe beletartozik az érintett külön tájékoztatása és az ahhoz való joga, hogy emberi beavatkozást kérjen és kapjon, különösen, hogy kifejtse álláspontját, hogy magyarázatot kapjon az ilyen értékelés alapján hozott döntésről és hogy megtámadja a döntést".[27] Ezen megfelelő garanciák alkalmazandóságának két konjunktív feltétele a kizárólag automatizált adatkezelés és a joghatással járó vagy a felhasználót hasonlóképpen jelentős mértékben érintő döntés.
Kizárólag automatizált adatkezelésen alapul minden olyan döntés, mely esetében nem biztosított az érdemi emberi részvétel a döntési folyamatban. Az eredményre tényleges befolyást nem gyakorló, jelképes emberi gesztusok nem elegendők e körben, a végleges döntést meghozó személynek jogkörrel és kompetenciával kell rendelkeznie az automatizált folyamat eredményeként létrejött ajánlás megváltoztatására.[28] Vagyis, a kizárólag emberi tartalommoderálás nem esik a GDPR 22. cikkének védelme körébe, azonban az érdemi emberi közrehatás nélküli, algoritmikus shadowbanning gyakorlatok esetében fennáll a lehetősége.
A felhasználókra joghatással járnak például azon döntések, melyek befolyásolják törvényes jogaikat vagy egy szerződéses jogviszonyuk felmondását eredményezik. A befolyását tekintve ugyanolyan vagy hasonlóképpen jelentős hatást eredményeznek a felhasználók szempontjából többek között az olyan döntések, amelyek megtagadnak egy foglalkoztatási lehetőséget, megakadályozzák termékek vagy szolgáltatások igénybevételét vagy egyéb súlyos hátrányt jelentenek.[29] Mindezek alapján legalábbis kétséges, hogy az online platformok igénybevételének effektív megakadályozását jelentő shadowbanning (pl. egy felhasználói fiók minden további felhasználó általi felfedezhetőségét kizáró) döntések általánosságban a GDPR 22. cikkének védelmi körébe tartoznának. Az egyedi ügyekben történő automatizált döntéshozatal megvalósulása esetről esetre történő, egyedi mérlegelést igényel, figyelembe véve az érintett felhasználó körülményeit, valamint a shadowbanning konkrét formáját is.
A shadowbanning jelenség általános és adatvédelmi szempontú bemutatását követő -en indokolt a gyakorlati alkalmazásával kapcsolatban született európai uniós bírósági döntések és adatvédelmi hatósági gyakorlat részletes bemutatása. Fontos hangsúlyozni, hogy az online platformok shadowbanning gyakorlata kapcsán elérhető joggyakorlat rendkívül szűk körű, kizárólag a jelen tanulmányban bemutatott döntéseket jelenti. A korlátozottan elérhető jogalkalmazói aktivitás összehasonlító elemzése mindazonáltal lehetővé teszi általánosabb következtetések levonását is a DSA és a GDPR által jelentett eltérő szabályozási logika és jogi eszközök között fennálló feszültségek kapcsán.
- 114/115 -
2023. október 11-én Danny Mekić amszterdami doktorandusz és adatvédelmi aktivista éles kritikát fogalmazott meg az X (korábban Twitter) online platformon az Európai Bizottság által benyújtott rendelettervezet szerinti, a személyközi hírközlési szolgáltatásokat nyújtó szolgáltatóknak a gyermekek online szexuális bántalmazásának felderítésére irányuló kötelezettsége kapcsán. Mivel az általa közzétett bejegyzés tartalmazta a "gyermekpornográfia" kifejezést, az X automatikus moderáló rendszere az általános szerződési feltételekbe ütközőként azonosította azt, és Mekić felhasználói fiókját ideiglenesen korlátozás alá helyezte. Az alkalmazott automatikus shadowbanning eredményeként az aktivista felhasználói fiókja és bejegyzései nem jelentek meg a többi felhasználó részére a platformon történő keresés eredményei között. Mekić nem kapott hivatalos tájékoztatást a felhasználói fiókját érintő korlátozásról, arra kizárólag az X további felhasználói hívták fel figyelmét.
2023. október 13-i és 15-i leveleiben Mekić teljeskörű hozzáférési kérelmet nyújtott be az X online platformot üzemeltető adatkezelő (az ír székhelyű Twitter International Unlimited Company) részére, melyben kérte a felhasználói fiókjával kapcsolatos minden személyes adatának másolatát. Leveleiben kifejezetten kérelmezte a felhasználói fiókját érintő bármilyen korlátozó intézkedés megerősítését, valamint automatikus korlátozás esetén az alkalmazott logikára, az automatikus döntés jelentőségére és várható következményeire vonatkozó tájékoztatást. Az adatkezelő a második levelet követő napon feloldotta az aktivista felhasználói fiókját érintő korlátozást, azonban válaszként a konkrét személyes adatok másolatának és a vonatkozó magyarázat megküldése helyett az adatkezelési tájékoztatójára hivatkozó általános választ küldött. Mekić ezt követően párhuzamosan két keresetlevelet nyújtott be az amszterdami kerületi bírósághoz, egyrészt a DSA, másrészt a GDPR szerinti jogainak sérelme megállapítása és bírság kiszabása céljából.
Előbbi keresetében az aktivista arra hivatkozott, hogy az X online platform üzemeltetője a shadowbanning alkalmazásával megszegte a platform igénybevételére és annak korlátaira vonatkozó általános szerződési feltételeket, a felhasználói fiókjának korlátozása kapcsán elmulasztott tájékoztatás és indokolás, valamint az azt követő kommunikációs nehézségekre tekintettel pedig megsértette a DSA rendelkezéseit. Mindezek alapján Mekić az elszenvedett kárának megtérítését is követelte.
A DSA alapján a tárhelyszolgáltatók (köztük az online platformok is) kötelesek indokolást nyújtani a felhasználók számára, amennyiben a felhasználók tartalmának láthatóságát korlátozzák, a szolgáltatás nyújtását teljesen vagy részlegesen felfüggesztik vagy korlátozzák, vagy a felhasználói fiókjukat felfüggesztik vagy megszüntetik amiatt, mert a felhasználói tartalom jogellenes vagy nem felel meg a szerződési feltételeknek.[30] A láthatóság korlátozása a tartalom eltávolításán és a tartalomhoz való hozzáférés megszüntetését túl történhet "a rangsorolásban vagy az ajánlórendszerekben való hátrébb sorolással, valamint a szolgáltatás [...] igénybe vevője általi hozzáférhetőség
- 115/116 -
korlátozásával, illetve a felhasználónak egy online közösségből való kizárásával anélkül, hogy az érintett felhasználónak erről tudomása lenne".[31]
A példálózó felsorolás utolsó fordulata kifejezetten a shadowbanning szűk értelemben vett alkalmazására utal. Ahogy a 2. pontban bemutatásra került, a mértékadó szakirodalmi álláspontok, követve az online platformok folyamatosan fejlődő gyakorlatait, mára meghaladták a felhasználó teljes online elszigetelését a shadowbanning kizárólagos megvalósulási formájaként. A bíróság ennek megfelelően nem fogadta el a platform üzemeltetőjének azirányú érvelését, hogy a konkrét esetben nem a Mekić által közzétett egyedi tartalmak, hanem a teljes felhasználói fiókjának láthatóságát általánosságban korlátozta. A bíróság értékelése alapján a felhasználói fiók láthatóságának korlátozása az egyedi felhasználói tartalmak láthatóságának korlátozását is jelenti.[32]
A DSA csak szűk körben ad lehetőséget a szolgáltatók számára, hogy ne nyújtsanak indokolást a felhasználók részére a közzétett tartalmakat, a szolgáltatás nyújtását vagy a felhasználói fiókot érintő korlátozásokról. Az indoklási kötelezettség nem vonatkozik a szolgáltatás szándékos manipulálásával terjesztett megtévesztő, nagy mennyiségű kereskedelmi tartalomra,[33] különösen a szolgáltatás nem autentikus módon való használatára, például botok vagy hamis fiókok használatára, vagy a szolgáltatás egyéb megtévesztő használatára.[34] Jelen esetben nem merült fel olyan körülmény, mely alapján a bíróság döntése kiterjedt volna ezen kivétel értelmezésére.
A DSA 17. cikk (3) bekezdése részletesen tartalmazza azon információk körét, melyeket a platform üzemeltetője köteles a felhasználó rendelkezésére bocsátani a fentebb részletezett korlátozások alkalmazása esetén. A Mekić-csel folytatott több körös kommunikáció minden elemének figyelembevételével arra a következtetésre jutott a bíróság, hogy a platform üzemeltetője több kötelező információ szolgáltatását is elmulasztotta. Tekintettel azonban arra, hogy az eljárás során az aktivista nem bizonyította, hogy konkrét kár érte volna az indokolási kötelezettség megsértéséből eredően, a bíróság nem ítélt meg részére kártérítést emiatt.[35]
A DSA alapján a közvetítő szolgáltatók (köztük az online platformok is) kötelesek kijelölni egy egyedüli kapcsolattartó pontot, amely lehetővé teszi a felhasználók számára a közvetlen és gyors, elektronikus és felhasználóbarát kommunikációt.[36] Az egyedüli kapcsolattartó pont öltheti például telefonszám, e-mail cím, elektronikus kapcsolatfelvételi űrlap, csevegőrobot vagy azonnali üzenetküldés formáját, a közvetítő szolgáltatók pedig kötelesek minden észszerű erőfeszítést megtenni annak biztosítása érdekében, hogy "elegendő emberi és pénzügyi erőforrás álljon rendelkezésre annak biztosítására, hogy a kommunikáció időben és hatékonyan történjen".[37] A platform
- 116/117 -
üzemeltetőjének védekezése alapján súgóközpontot üzemeltet, valamint a felhasználók részére elérhető egy dedikált e-mail cím is, melyen felvehetik a kapcsolatot. A bíróság értékelése alapján azonban a platform üzemeltetője nem biztosította a hatékony kommunikációt a felhasználókkal, mivel a platform holland nyelvű változatán nem volt elérhető a platform kapcsolattartási e-mail címe, csak az angolon, a holland oldalról elérhető automatikus űrlap pedig korlátozott helyet biztosított csak a panaszok kifejtésére, és azok beküldését követően technikai hiba folytán csak egy hibaüzenetet jelenített meg a felhasználók részére.[38]
Az egyedüli kapcsolattartó pont biztosításának elmulasztása kapcsán az amszterdami kerületi bíróság 2024. július 5-i ítéletében kártérítést ítélt meg Mekić számára, melynek összege az aktivista havi 9,68 dolláros (kb. 3700 forintos) prémium előfizetésének a shadowbanning alkalmazásával érintett időtartamára vonatkozó arányos része, vagyis 1,87 dollár (kb. 700 forint). A bíróság kötelezte a platform üzemeltetőjét, hogy az ítélet kihirdetését követő két héten belül biztosítson Mekić részére hatékony egyedüli kapcsolattartó pontot. A bírósági kötelezés megszegése esetén a platform üzemeltetője napi 100 eurós (kb. 40.000 forintos) bírság fizetésére köteles. Jelen ügy kiemelkedő jelentőségű, hiszen a felhasználók és az online platformok közötti korábbi uniós bírósági jogviták rendre a jogtalan tartalommoderálás és a moderált tartalom vagy felhasználói fiók visszaállítására összpontosítottak. Ezzel szemben, jelen ügyben az X nem vitatta érdemben a tartalommoderálási döntés hibás voltát, valamint az érintett tartalom visszaállítása is teljes mértékben megtörtént.[39]
Ezzel párhuzamosan, a GDPR megsértésére vonatkozó bírósági eljárás megindítását követően az adatkezelő megerősítette Mekić részére a felhasználói fiókját érintő korábbi automatikus korlátozást és annak feloldását, azonban a kérelmezett, részletes személyes adatokat nem bocsátotta rendelkezésére az üzleti titkainak védelmére hivatkozva. A bíróság ítéletében[40] elutasította az adatkezelő üzleti titkainak védelmére vonatkozó érvelését. Bár a személyes adatokról való másolat igénylésére vonatkozó jog nem érintheti hátrányosan mások jogait és szabadságait,[41] beleértve az üzleti titkokat is, ezen megfontolások nem eredményezhetik minden információ megtagadását az érintett részére.[42]
Az ítélet központi kérdése Vandendriessche ügyéhez hasonlóan ez esetben is az volt, hogy Mekić felhasználói fiókjának automatikus korlátozása a GDPR 22. cikk (1) bekezdése szerinti automatizált döntéshozatalnak minősült-e. Ez esetben ugyanis az adatkezelő köteles lett volna a rendelkezésére bocsátani az alkalmazott logikára, az automatikus döntés jelentőségére és várható következményeire vonatkozó tájékoztatást.
- 117/118 -
A bíróság értékelése alapján az automatikus korlátozás kizárólag automatizált adatkezelésen alapult, mivel fel sem merült az érdemi emberi részvétel lehetősége a döntési folyamatban. A bíróság nem osztotta az adatkezelő érvelését, miszerint a korlátozó döntést meghozó és alkalmazó algoritmus fejlesztése során kifejtett emberi döntések a konkrét egyedi döntések körében is relevanciával bírnának. Az esetleges utólagos emberi felügyelet körében az automatikus korlátozás felülvizsgálata és adott esetben módosítása sem játszhat szerepet a döntések kizárólag automatizált adatkezelésen alapuló jellegének megítélése kapcsán.[43]
A bíróság érvelése szerint továbbá a kizárólag automatizált adatkezelésen alapuló döntés hasonlóan jelentős mértékben érintette Mekić-et. Mivel az aktivista professzionális és üzleti célokra is használta az X online platformot, az elérésének és láthatóságának csökkentése kihatással van a munkavállalási lehetőségeire. A bíróság szintén hasonlóan jelentős mértékűnek értékelte azt a körülményt, hogy a gyermekpornográfia gyanújával való érintettség miatt az adatkezelő civil szervezet partnerének való adattovábbítás esetén a Mekić-et adott esetben kitilthatták volna az Amerikai Egyesült Államokból.[44] Érdekes módon a bíróság egyik lehetséges következmény kapcsán sem követelte meg annak tényleges megtörténtét.
Mindezen érvek mentén a bíróság 2024. július 4-i ítéletében kötelezte az adatkezelőt Mekić felhasználói fiókjával kapcsolatos minden személyes adata másolatának, valamint az alkalmazott logikára, az automatikus döntés jelentőségére és várható következményeire vonatkozó tájékoztatás szolgáltatására. Az ítéletben szabott egyhónapos határidő elmulasztása esetén napi 4.000 eurós (kb. 1,6 millió forintos) bírság megfizetésére kötelezte a bíróság az adatkezelőt. Az adatkezelő bírság felfüggesztésére vagy alternatív módon enyhítésére benyújtott keresetét, valamint Mekić bírság növelésére benyújtott ellenkérelmét is elutasította a bíróság.[45]
A genti fellebbviteli bíróság 2024. június 3-i döntésének[46] alapjául szolgáló tényállás szerint Tom Vandendriessche jobboldali belga politikus több bejegyzését eltávolította a Facebook online platformot üzemeltető adatkezelő, mivel azok értékelése alapján megsértették a platform igénybevételére vonatkozó általános szerződési feltételeket. A politikus bejegyzéseiben többek között a Zwarte Piet holland folklór karakter blackface képe, egy terrorista támadás áldozatának levágott feje, nácik által elkövetett könyvégetés, valamint egy nyilvánosan vizelő személy szerepelt. Az adatkezelő ezen túlmenően korlátozta Vandendriessche felhasználói fiókjának organikus (nem fizetett) elérését és láthatóságát is a platform többi felhasználójának körében, melynek eredményeként a politikus bejegyzései a korlátozást megelőző közönségének 5%-ához jutottak csak el.
- 118/119 -
Az alkalmazott shadowbanning megoldás a demotion klasszikus példája, mely azonban (Mekić esetével ellentétben) nem zárta ki teljesen Vandendriessche felhasználói fiókjának megjelenését más felhasználók részére.
Vandendriessche bírósági eljárást indított az adatkezelővel szemben a bejegyzései eltávolításának és a felhasználói fiókja korlátozásának feloldása, valamint az adatkezelő bírságra és kártérítésre kötelezése érdekében. Az ítélet központi magját annak eldöntése alkotta, hogy Vandendriessche bejegyzéseinek eltávolítása és felhasználói fiókjának korlátozása a GDPR 22. cikk (1) bekezdése szerinti, olyan kizárólag automatizált adatkezelésen alapuló döntést eredményezett-e, amely rá nézve joghatással járt vagy őt hasonlóképpen jelentős mértékben érintette. A bíróság döntése alapján az adatkezelő bejegyzések eltávolítására és a felhasználói fiók korlátozására vonatkozó döntései kizárólag automatizált adatkezelésen alapultak.
A döntések Vandendriessche-re nézve joghatással járó vagy őt hasonlóképpen jelentős mértékben érintő jellege kapcsán a bíróság tanulságos elhatárolással élt a különböző döntések kapcsán. A bejegyzések eltávolítása a bíróság értékelése alapján nem jártak joghatással és nem is érintették hasonlóképpen jelentős mértékben a politikust, azonban a felhasználói fiókjának korlátozása igen. Az adatkezelő által alkalmazott shadowbanning ugyanis Vandendriessche felhasználói fiókjának organikus elérésének jelentős csökkenését eredményezte, és ezáltal, mivel politikusként a Facebook a politikai üzeneteinek terjesztéséhez nagyon fontos médium, hasonlóképpen jelentős mértékben érintette őt.[47]
A bíróság kiemelte, hogy az adatkezelő a shadowbanning alkalmazása kapcsán rendelkezett megfelelő jogalappal, mivel az adatkezelés szükséges volt az adatkezelő és a Vandendriessche között a Facebook platform igénybevételére vonatkozó általános szerződési feltételek teljesítéséhez.[48] Az adatkezelő azonban a shadowbanning alkalmazása kapcsán elmulasztott megfelelő intézkedéseket tenni az érintett jogainak, szabadságainak és jogos érdekeinek védelme érdekében, mivel nem biztosította, hogy Vandendriessche az adatkezelő részéről emberi beavatkozást kérjen, álláspontját kifejezze, és a döntéssel szemben kifogást nyújtson be.[49] Az adatkezelő szintén elmulasztott megfelelő tájékoztatást nyújtani az adatkezelési tájékoztatóban az automatizált döntéshozatal tényéről, az alkalmazott logikáról, a döntés jelentőségéről és várható következményeiről.[50]
Mindezek alapján a bíróság megállapította, hogy az adatkezelő megsértette a GDPR fentebb idézett rendelkezéseit a shadowbanning alkalmazásával, és 27.279 eurós (kb. 11 millió forintos) kártérítés fizetésére kötelezte az adatkezelőt. A fizetendő kártérítés mértékének megállapítása során a bíróság figyelembe vette a politikus felhasználói fiókjának organikus elérését a shadowbanning alkalmazása előtt és azt követően, a kife-
- 119/120 -
jezetten a követői részére közzétett reklámok után az adatkezelő részére fizetett díjak mértékét, valamint a shadowbanning és a reklámdíjak közötti okozati kapcsolatot.[51]
2024. július 2-i döntésével a litván adatvédelmi hatóság (angolul: State Data Protection Inspectorate, a továbbiakban: SDPI) 2.385.276 eurós (kb. 960 millió forintos) bírságot szabott ki a Vinted nevű online piactér üzemeltetőjére, mivel a platform felhasználóival szemben alkalmazott shadowbanning gyakorlata megsértette a jogszerűség, tisztességes eljárás és átláthatóság elvét. Az eredeti döntés nem érhető el nyilvánosan, így jelen elemzés alapjául az SDPI weboldalán elérhető szűkszavú sajtóközlemény szolgált.[52]
Az SDPI sajtóközleménye alapján a Vinted platform általános szerződési feltételeit megsértő felhasználók személyes adatait a Vinted platformot üzemeltető adatkezelő a platform és a további felhasználók biztonságának garantálása érdekében (pl. felhasználói fiók felfüggesztése, zárolása és törlése) anélkül kezelte, hogy a felhasználókat az adatkezelés részleteiről megfelelően tájékoztatta volna. A sajtóközlemény egyébiránt nem részletezi, hogy a konkrét ügyben az adatkezelés általános jellegéről (pl. adatkezelési tájékoztatóban található) vagy egyedi eseteiről (pl. konkrét felhasználói fiók zárolása esetén) szóló tájékoztatás hiányzott, vagy adott esetben mindkettő.
Az SDPI a bírság kiszabásának körülményei körében kiemelte, hogy a jogszerűség, tisztességes eljárás és átláthatóság elvének megsértése negatívan befolyásolta a platform felhasználóinak azon képességét, hogy a GDPR szerinti más jogokat gyakoroljanak és jogorvoslatért folyamodjanak. Bár a sajtóközlemény e körben sem részletezi, hogy a felhasználók mely további konkrét jogai szenvedhettek sérelmet, a gyakorlatban a felhasználók a shadowbanning célú adatkezelés kapcsán, az adatkezelés részletei tudomásának hiányában, nem élhettek hozzáférési, helyesbítési, törlési és tiltakozási jogukkal, valamint nem tehettek panaszt a felügyeleti hatóságnál és bírósághoz sem fordulhattak.
A Vinted ügy kapcsán a teljes határozat hiányában számos további kérdés is megválaszolatlanul marad. Nem egyértelmű például az online platform által alkalmazott konkrét technikai megoldás(ok) mibenléte, vagyis a litván adatvédelmi hatóság úgy használja a shadowbanning kifejezést, hogy annak alkalmazott jelentéséről, valamint a 2. pontban bemutatott fogalomalkotási keretek közé való illeszkedéséről (esetleg annak hiányáról) a jogkövetést célként kitűzött adatkezelők sem tájékozódhatnak. Mindezek fényében a Vinted DSA szerinti kötelezettségeinek való megfelelés vizsgálatára hatáskörrel rendelkező litván digitális szolgáltatási koordinátor esetleges eljárásának kimenetele is kérdéses.
- 120/121 -
A DSA megalkotásával az uniós jogalkotó egyértelműen és kifejezetten kiterjesztette az uniós platformszabályozás hatályát a shadowbanning jelenségre. Összességében a jelen tanulmányban elemzett tagállami joggyakorlat arra enged következtetni, hogy kevés kivételtől eltekintve, nem jogszerűek az online platformok által széles körben alkalmazott, a felhasználók tájékoztatása, kapcsolódó indokolás és fellebbezési lehetőségeket nélkülöző shadowbanning technikák.
Az elemzett bírósági döntések szintén rávilágítanak, hogy egyes láthatóságot korlátozó intézkedéseket könnyebb felderíteni, mint másokat, ezáltal a hatékony egyedi jogérvényesítés lehetősége sem minden esetben adott.[53] Például Mekić felhasználói fiókja láthatóságának korlátozása azt is jelentette, hogy harmadik felek az online platformon való keresések által meggyőződhettek a shadowbanning alkalmazásáról és tájékoztathatták is arról az aktivistát. Ezzel szemben más, például egy adott felhasználói fiók által közzétett tartalmak ajánlásának korlátozása kevésbé szembetűnő és reprodukálható, ezáltal az érintett felhasználó kisebb eséllyel értesülhet a felhasználói fiókját ért korlátozásról és indíthat bírósági eljárást a platform üzemeltetőjével szemben. Az online platformok által alkalmazott tartalommoderálási döntések átláthatóságának egy lehetséges módja az Európai Bizottság által a DSA 24. cikk (5) bekezdése alapján üzemeltetett átláthatósági adatbázisának felhasználása.[54] Az online platformok jelentéstételi kötelezettségének hibás teljesítése azonban nagyban megnehezíti az értelmezhető információk kinyerését.[55]
A DSA-val szemben a GDPR megalkotásakor nem volt kifejezett szempont a shadowbanning szabályozása. Az SDPI, mint egyetlen releváns adatvédelmi hatóság döntése kapcsán kiemelendő szempont, hogy a Vinted platform üzleti működésére és az egyes felhasználókra gyakorolt következményekre tekintet nélkül, a GDPR elvi rendelkezéséből kiindulva, általánosságban állapította meg a shadowbanning gyakorlatának adatvédelmi meg nem felelőségét. Annak ellenére, hogy a GDPR rendelkezéseinek autentikus értelmezésére végső soron kizárólag az Európai Unió Bírósága jogosult, mely ezidáig nem hozott döntést a shadowbanning kapcsán, az SDPI jelen döntése előreláthatóan meghatározhatja a többi európai adatvédelmi hatóság jogértelmezését, és ezáltal az uniós polgárok részére szolgáltatásokat nyújtó online platformokat üzemeltető adatkezelők gyakorlatát. Mindazonáltal, egyetlen hatósági döntés nem feltétlen fog meghatározó jelentőséggel bírni a legnagyobb online platformok globális megfelelése szempontjából. A következetes jogalkalmazás elősegítése érdekében javasolt a fokozottabb és egységes hatósági fellépés, adott esetben az európai adatvédelmi hatóságok képviselőiből álló Európai Adatvédelmi Testület keretében.
- 121/122 -
A jogterületeken belüli joghézagok és ellentmondások feloldásának szükségességét mi sem ábrázolja jobban, mint az SDPI döntésének a Mekić és a Vandendriessche esetekben hozott bírósági döntésekkel. Ez utóbbiak esetében ugyanis a bíróságok nem állapították meg a GDPR alapelvi sérelmét a shadowbanning alkalmazása miatt, hanem egy fokkal komplexebb módon, az egyedi ügyekben való automatizált döntéshozatal esetén irányadó megfelelő intézkedések hiányából vezették le az adatvédelmi jogsértést. Ezen rendelkezések azonban nem alkalmazandóak automatikusan minden felhasználót érintő tartalommoderálási döntésekre, csak azokra, melyek a felhasználókra nézve joghatással járnak vagy hasonlóképpen jelentős mértékben érintik őket. Jelen feltételek teljesülése egyedi mérlegelést tesz szükségessé a bíróságok részéről, és koránt sem biztos, hogy egy európai parlamenti politikussal vagy egy adatvédelmi aktivistával megegyező elbírálás alá esne az átlagember esete.
Az első látásra elenyésző kártérítési összegek kapcsán fontos kiemelni, hogy a bíróság kizárólag Mekić és Vandendriessche, valamint a platform üzemeltetőjének viszonylatában vizsgálta a GDPR és a DSA rendelkezéseinek sérelmét. Az online platformok esetében általánosságban a hatáskörrel rendelkező tagállami digitális szolgáltatási koordinátor, az X és a további online óriásplatformok esetében pedig az Európai Bizottság látja el a felügyeletet, valamint rendelkezik hatáskörrel a rendszerszintű hiányosságok vizsgálatára és megállapítására, valamint a kapcsolódó szankciók kiszabására. Jelen egyedi ügyekben született ítéletek azonban a jövőben átfogóbb vizsgálatok alapját is képezhetik, ezáltal jelentőségük nem elhanyagolható. Az Európai Bizottság például korábban információkéréssel fordult a Facebook és Instagram online platformokat üzemeltető Meta vállalathoz, mely kifejezetten kiterjedt a shadowbanning alkalmazására is.[56] Nem sokkal ezután az Európai Bizottság formális eljárást is indított a Metá-val szemben, a vizsgálódás pedig a tartalommoderálási döntésekről az érintett felhasználók részére biztosított indokolás megfelelőségére is kiterjed.[57]
Bár jelen tanulmány megállapításai összességében pozitívként értékelendő a felhasználók online véleménynyilvánítási szabadságát érintő tartalommoderálási döntések átláthatósága terén, az azonosított, jogterületeken belüli és jogterületek közötti ellentmondások és joghézagok a gyakorlatban megnehezíthetik, adott esetben teljesen el is lehetetleníthetik a felhasználói jogok érvényesítését. A felhasználók online jogainak teljeskörű védelme érdekében, és figyelemmel a jövőben valószínűleg elterjedő újszerű shadowbanning megoldásokra, javasolt az aktív és egységes uniós jogalkotói és jogalkalmazói fellépés. ■
JEGYZETEK
* A Kulturális és Innovációs Minisztérium EKÖP-25 kódszámú Egyetemi Kiválósági Ösztöndíj Programjának a Nemzeti Kutatási, Fejlesztési és Innovációs Alapból finanszírozott szakmai támogatásával készült, a 2025. április 25-én a Pázmány Péter Katolikus Egyetem Jog- és Államtudományi Karán megrendezésre kerülő Adatnap 2025 című nemzetközi konferencián és szakmai fórumon elhangzott előadás alapján.
[1] Gabriel Nicholas: Shedding Light on Shadowbanning. Center for Democracy & Technology, 2022. április. https://doi.org/10.31219/osf.io/xcz2t
[2] Vijaya Gadde - Kayvon Beykpour: Setting the record straight on shadow banning. X, 2018. július 26. https://blog.x.com/en_us/topics/company/2018/Setting-the-record-straight-on-shadow-banning
[3] Sarah Myers West: Censored, suspended, shadowbanned: User interpretations of content moderation on social media platforms. New Media & Society, Vol. 20., No. 11. (2018) https://doi.org/10.1177/1461444818773059; Laura Savolainen: The shadow banning controversy: perceived governance and algorithmic folklore. Media, Culture & Society, Vol. 44., No. 6. (2022) https://doi.org/10.1177/01634437221077174
[4] Erwan Le Merrer - Benoit Morgan - Gilles Tredan: Setting the Record Straighter on Shadow Banning. IEEE INFOCOM 2021 - IEEE conference on computer communications, 2021. május 10. https://doi.org/10.48550/arXiv.2012.05101; Kokil Jaidka - Subhayan Mukerjee - Yphtach Lelkes: Silenced on social media: The gatekeeping functions of shadowbans in the American Twitterverse. Journal of Communication, Vol. 73., No. 2. (2023) https://doi.org/10.1093/joc/jqac050
[5] Avery Ellis: Facebook Patents Shadowbanning. Gizmodo, 2019. július 16. https://gizmodo.com/facebook-patents-shadowbanning-1836411346
[6] Yen-Shao Chen - Tauhid Zaman: Shaping opinions in social networks with shadow banning. Plos one, Vol. 19., No. 3. (2024) https://doi.org/10.1371/journal.pone.0299977
[7] 2022/2065 rendelet a digitális szolgáltatások egységes piacáról és a 2000/31/EK irányelv módosításáról, HL L 277, 2022.10.27., 1. o.
[8] 2016/679 rendelet a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK rendelet hatályon kívül helyezéséről, HL L 119, 2016.5.4., 1. o.
[9] Samantha Cole: Where Did the Concept of 'Shadow Banning' Come From? Vice, 2018. július 31. https://tinyurl.com/mrxha7s7
[10] DSA (55) preambulumbekezdés.
[11] Ződi Zsolt: Az óriásplatformok tartalomtörlési, fiókfelfüggesztési, fióktörlési és shadow banning gyakorlata a magyar felhasználókkal szemben. Online Platformok, 2025. január 28. 4. https://onlineplatformok.hu/files/8b8fa597-71de-41a3-ba78-6b8452d95fe9.pdf
[12] Courtney Radsch: Shadowban/Shadow Banning. In: Luca Belli - Nicolo Zingales - Yasmin Curzi (szerk.): Glossary of Platform Law and Policy Terms. Rio de Janeiro, FGV Direito Rio, 2021. 296.
[13] Uo.
[14] Nicholas (2022) i. m. 11.
[15] Marten Risius - Kevin Marc Blasiak: Shadowbanning: An Opaque Form of Content Moderation. Business & Information Systems Engineering, Vol. 66. (2024) 819., 821._https://doi.org/10.1007/s12599-024-00905-3
[16] Paddy Leerssen: An end to shadow banning? Transparency rights in the Digital Services Act between content moderation and curation. Computer Law & Security Review, 2023. április. https://doi.org/10.1016/j.clsr.2023.105790
[17] Tarleton Gillespie: Reduction / Borderline content / Shadowbanning. Yale Journal of Law & Technology, Vol. 24. (2022) 9.
[18] Bálint János: Uniós platformszabályozás az online szólásszabadság védelmében. In: Tamás Csaba Gergely (szerk.): Magyarország és a közép-európai térség az Európai Unióban: Díjnyertes Pályázatok 2022. Budapest, Országgyűlés Hivatala, 2024. 19.
[19] Ződi i. m. 3.
[20] Tarleton Gillespie: Do Not Recommend? Reduction as a Form of Content Moderation. Social Media + Society, 2022. augusztus 19. 2. https://doi.org/10.1177/20563051221117552
[21] Gabriel Nicholas: Sunsetting "Shadowbanning". Yale Law School Information Society Project Platform Governance Terminologies Essay Series, 2023. július 26. https://doi.org/10.2139/ssrn.4522168
[22] Bálint János: Adatvédelem az online platformokon. In: Lendvai Gergely Ferenc - Papp János Tamás (szerk.): Digitális Dilemmák: Fiatal kutatók válogatott tanulmányai a közösségi média egyes szabályozási kérdéseiről. Budapest, A Nemzeti Média- és Hírközlési Hatóság Médiatanácsának Médiatudományi Intézete, 2025.
[23] GDPR 4. cikk 1. pont.
[24] Uo. 4. cikk 2. pont.
[25] Uo. 5. cikk (1) bekezdés a) pont.
[26] Uo. (39) preambulumbekezdés.
[27] GDPR (71) preambulumbekezdés.
[28] Iránymutatás az automatizált döntéshozatallal és a profilalkotással kapcsolatban a 2016/679 rendelet alkalmazásához. 29. cikk szerinti Adatvédelmi Munkacsoport, 2018. augusztus 22. 22. https://ec.europa.eu/newsroom/article29/items/612053
[29] Uo. 22-24.
[30] DSA 17. cikk (1) bekezdés.
[31] Uo. (55) preambulumbekezdés.
[32] 10767307 CV FORM 23-13934. Rechtbank Amsterdam. 2024. július 5. ECLI:NL:RBAMS:2024:3980. 14. pont. https://uitspraken.rechtspraak.nl/details?id=ECLI:NL:RBAMS:2024:3980
[33] DSA. 17. cikk (2) bekezdés.
[34] Uo. (55) preambulumbekezdés.
[35] 10767307 CV FORM 23-13934. i. m. 16-19. pontok.
[36] DSA 12. cikk (1) bekezdés.
[37] Uo. (43) preambulumbekezdés.
[38] 10767307 CV FORM 23-13934. i. m. 26. pont.
[39] Paddy Leerssen: The DSA's first shadow banning case. DSA Observatory, 2024. augusztus 6. https://dsa-observatory.eu/2024/08/06/the-dsas-first-shadow-banning-case/
[40] C/13/742407 / HA RK 23-366. Rechtbank Amsterdam. 2024. július 4. ECLI:NL:RBAMS:2024:4019. https://uitspraken.rechtspraak.nl/details?id=ECLI:NL:RBAMS:2024:4019.
[41] GDPR 15. cikk (4) bekezdés.
[42] Uo. (63) preambulumbekezdés.
[43] C/13/742407 / HA RK 23-366. i. m. 4.22. pont.
[44] Uo. 4.23. pont.
[45] C/13/764213 / KG ZA 25-100 IHJK/MAH. Rechtbank Amsterdam. 2025. március 26. ECLI:NL:RBAMS:2025:1943. https://uitspraken.reehtspraak.nl/details?id=ECLI:NL:RBAMS:2025:1943
[46] 2022/AR/508. Hof van beroep Gent. 2024. június 3. https://tinyurl.com/33ycxw47
[47] 2022/AR/508. i. m. 1.1.6.3. pont.
[48] GDPR. 22. cikk (2) bekezdés a) pont.
[49] Uo. 22. cikk (3) bekezdés.
[50] Uo. 13. cikk (2) bekezdés f) pont.
[51] 2022/AR/508. i. m. 1.1.8.1. pont.
[52] A company operating an online second-hand clothing trading and exchange platform is fined under the General Data Protection Regulation. SDPI, 2024. július 3. https://tinyurl.com/2p3kx2uj
[53] Jacob van de Kerkhof - Catalina Goanta: Shadowbanned on X: The DSA in Action. European Journal of Risk Regulation, Vol 16., No. 1. (2025) https://doi.org/10.1017/err.2024.81
[54] DSA átláthatósági adatbázis. Európai Bizottság. https://transparency.dsa.ec.europa.eu/?lang=hu
[55] Rishabh Kaushal - Jacob Van De Kerkhof - Catalina Goanta - Gerasimos Spanakis - Adriana Iamnitchi: Automated Transparency: A Legal and Empirical Analysis of the Digital Services Act Transparency Database. The 2024 ACM Conference on Fairness, Accountability, and Transparency, 2024. https://doi.org/10.1145/3630106.3658960
[56] Commission sends request for information to Meta under the Digital Services Act. Európai Bizottság, 2024. március 1. https://tinyurl.com/38jytm5p
[57] Commission opens formal proceedings against Facebook and Instagram under the Digital Services Act. Európai Bizottság, 2024. április 30. https://ec.europa.eu/commission/presscorner/detail/en/ip_24_2373
Lábjegyzetek:
[1] A szerző PhD-hallgató, ELTE Állam- és Jogtudományi Doktori Iskola; ügyvédjelölt, Ormai, Papp, Czike és Társai CMS Cameron McKenna Nabarro Olswang LLP Ügyvédi Iroda. https://orcid.org/0009-0005-6189-4428
Visszaugrás
