A technika rohamos fejlődésével napról napra aktuálisabb a kérdés: mihez kezdünk nemzeti, nemzetközi és főként társadalmi szinten a mesterséges intelligencia által teremtett új világgal, mely technológia nemcsak hogy a kapuban áll, hanem már itt és most észrevétlenül velünk van, és befolyásolja mindennapjainkat? A mesterséges intelligencia jogrendszerre gyakorolt hatása gyakran leszűkül a már unásig ismert önvezetőautó-dilemmára, miszerint egy önvezető autónak egy adott közlekedési szituációban döntenie kell, hogy kinek az életét mentse meg, kit válasszon: az utast vagy a példákban változatos formában idős emberként, gyermekként, babakocsit toló anyukaként megjelenő gyalogost. Habár ennek az inkább etikai kérdésnek a megválaszolása sem feltétlenül egyszerű, a mesterséges intelligencia megjelenése ennél jóval több jogi területet érintő problematikus és izgalmas kérdést vet fel. E problematikus területek egy részének bemutatására törekszik a hazai szakirodalomban mindenképpen hiánypótlónak és egyedülállónak tekinthető, A mesterséges intelligencia szabályozási kihívásai című kötet, mely idén jelent meg a Nemzeti Közszolgálati Egyetem kiadójának gondozásában, a Ludovika Kiadótól már megszokott gyönyörű és magas színvonalú kiadásban.
A kötet az egyetem Információs Társadalom Kutatóintézetének (ITKI) első kiadványa, egy nagy sikerű konferenciasorozat eredményeképpen született meg, és hat témára lebontva huszonkét tanulmányt tartalmaz. A két szerkesztő közül Török Bernát az ITKI vezetője, fő szakterülete a szólásszabadság és az információs társadalom alapjogi kérdései, Ződi Zsolt pedig a hazai "legaltech" szféra egyik úttörője, jelenleg az információs társadalom szabályozási kérdéseit kutatja.
A könyv nagy előnye, hogy a szerkesztők már a szerzők összeválogatásánál is törekedtek arra, hogy a jogi szakmák szinte minden, a témára nyitott képviselője megszólaljon, kezdve az inkább versenyszférában tevékenykedő jogtanácsostól az állami szféra csendesebb vizein evező bírókon át az akadémiai világ neves és nagyra becsült szereplőiig. Sőt, a jogászokon túl a szerzők között szerepel informatikus-matematikus szakember és antropológus is, ami kiválóan rávilágít arra, hogy a mesterséges intelligencia szabályozási kérdéseinek megválaszolásához szükség van mind a társadalomtudományi, mind a természettudományi terület képviselői és legfő-
- 361/362 -
képpen az informatikusok és a jogászok szoros együttműködésére. A szerzők színes szakmai hátterének köszönhetően maga a kötet is több szempontból mutatja be a mesterséges intelligencia által felvetett kérdéseket - mást és máshogy lát problémának az alapvető jogokra hangsúlyt fektető alkotmányjogász, a morális kérdésekre fogékony, jogbölcselettel foglalkozó szakember, az adatvédelmi szakember, az infokommunikációs szakjogász, és így tovább.
Ennek megfelelően a kötet is hat részre bomlik, távolabbról, az elmélet felől az egyre gyakorlatiasabb kérdésekig haladva a következők szerint: társadalmi, etikai hatások; általános szabályozási kérdések; adatvédelem; kommunikáció; jogalkalmazás; gazdaság.
A társadalmi és etikai hatásokról szóló első részben először Rab Árpád Szörény vázol fel egy sajátos problématérképet, átfogóan bemutatva a mesterséges intelligenciával potenciálisan együtt járó, társadalomra jelentős hatást gyakorló kihívásokat, mégpedig a digitális kultúra jellemzőinek változása útján. A szerző tanulmányában összefoglalja, hogy a legtöbb változást várhatóan a következő négy nagy területen érzékelhetjük: az alapjogokon, a munka és a pénz világán, a társadalmi mobilitáson és az alapvető infrastruktúrákon, kiemelve a jog strukturáló szerepét a változás folyamatában.
Pünkösty András a morális kérdésekre helyezi a hangsúlyt, és a nemzetközi szinten is leginkább feszegetett digitális etikával foglalkozik az adatvédelem, a versenyjog és a fogyasztóvédelem leginkább uniós szabályozási szempontjából kiindulva. Leleményes "big data etikai mátrixán" a magánszféra védelme, illetve kitettsége és az adatkezelés átláthatósága, illetve átláthatatlansága mentén határozza meg az etikai kérdések eldöntését. Legfőbb megállapítása, hogy a mesterséges intelligencia szabályozásánál már nem elegendő egyetlen jogterület normáiból kiindulni, hanem törekedni kell a több jogágra kiterjedő, holisztikus megközelítés elsajátítására.
Menyhárd Attila az állam mint szabályozó szerepét vizsgálja leginkább az online platformok (például Facebook, Google) működésébe való beavatkozás kapcsán. A jogkereső közönség részéről egyértelműen megjelenik az az igény, hogy az állam valamilyen módon szabályozza ezen algoritmusos alapon működő platformokat, ám annak megvalósítása - főleg a közönség platformokhoz való ragaszkodása és az ezeken a platformokon egyértelműen gyakorolt demokratikus jogaik (például szólásszabadság) miatt - kiváltképpen nehéz. A szerző kifejti azon álláspontját is, hogy azzal, hogy a platformoktól valamiféle önszabályozást vár el a társadalom, és a platformok ezt meg is teszik, megtörténik az igazságszolgáltatás privatizációja is.
Az első rész utolsó tanulmánya Vadász Pálé, amely rendkívül gyakorlatias megközelítésben mutatja be a mesterséges intelligencia használatával potenciálisan együtt járó diszkriminációt, azaz torzítást, annak okait, megjelenési területeit, és végül bemutat egypár lehetőséget - korrekciós technikát -, melyekkel a diszkrimináció ha teljesen kiküszöbölhető nem is, de visszaszoríthatóbb lenne. Az írás tartalmazza a COMPAS néven ismert esettanulmány részletes és közérthető bemutatását, egy olyan algoritmusét, amely az Egyesült Államokban arról dönt, hogy letartóztassanak vagy szabadlábra helyezzenek egy adott vádlottat, s mely működése során a fekete bőrű lakosságra nézve meglehetősen diszkriminatív eredményeket szolgáltatott.
A második általános szabályozási kérdésekkel foglalkozó rész első tanulmányát Klein Tamás írta, aki részletekbe menően és igen távolról indítva vizsgálta egy robotjog kialakításának lehetőségeit, melynek lényege, hogy a tágabb értelemben vett robotokat (mesterséges intelligenciát alkalmazó algoritmusokat) sui generis felelősségi alakzatként kezeljük, és külön szabályokat dolgozunk ki rájuk. A szerző alapvetésként fektette le, hogy az emberközpontúság, a humanista értékrend, azaz az "emberjog" végletekig való követése és kikényszerítése elenged-
- 362/363 -
hetetlen. A felelősségi kérdéseket illetően a szerző leginkább az objektív, veszélyes üzemi felelősséghez hasonló szabályozás kialakítását szorgalmazza a mesterséges intelligenciára nézve.
Török Bernát alapjogi szemléletű, rendkívül olvasmányos és szorgalmazandó gondolatokat megfogalmazó tanulmánya az alkotmányjog horizontális hatályát fejtegeti, miszerint az alkotmányjogban eddig az állammal szemben meghatározott követelményeket, úgymint a jog alá vetettséget, az átláthatóságot és az indokolhatóságot megfontolva érdemes kiterjeszteni a gazdasági élet szereplőire és magánfelekre is. A megfontoltság szükségességét a szerző leginkább abban látja, hogy a szabályozás során érdemes differenciálni, mégpedig aszerint, hogy az adott algoritmust hol alkalmazzák. Az alkalmazási terület ugyanis meghatározza, hogy mely alkotmányos értékeknek kell hangsúlyosan érvényre jutniuk, a túlságosan általános megközelítés vakvágányra vezetheti a szabályozást.
G. Karácsony Gergely szintén azt a kérdést feszegeti, hogy elegendő-e a jelenlegi jogrendszer fogalmaival és szabályozási technikáival megközelíteni a mesterséges intelligencia által felvetett kérdéseket, vagy esetleg új, innovatív jogalkotói megoldásokra van szükség a megfelelő keretek kialakításához. A szerző az utóbbi mellett érvel. Jogalkotói szempontból például viszonylag új keletű kihívást jelent, hogy a mesterségesintelligencia-alapú fejlesztéseken többnyire több fejlesztő dolgozik, akár különféle joghatóság alá tartozó országokból. A szerző egy lehetséges megoldást is kínál a jogalkotó számára: az informatikusi körökből kiindult és a fintech szektorban széles körben alkalmazott regulatory sandbox, vagyis "szabályozási homokozó" kialakítása olyan tesztkörnyezetet jelent, ahol a mesterséges intelligencia élesben működik, és ennek a működésnek a megfigyelésével, a tapasztaltak figyelembevételével alkothatná meg az új normákat a jogalkotó.
A harmadik, adatvédelemmel foglalkozó rész főleg a GDPR fogalmaiból kiindulva, annak keretrendszerében értelmezve foglalkozik a mesterséges intelligenciával.
Péterfi Attila alapvetően állami-hatósági szempontból megírt tanulmányában abból indul ki, hogy az új technológiák alkalmazása önmagában értéksemleges, a társadalom feladata annak meghatározása, hogy mely területeken lenne a modernizáció és az automatizálás értéknövelő - ez a folyamat az értékválasztás. Egyértelmű és elvitathatatlan értékként kezeli a személyes adatok védelmét, majd előadásszerűen kibontva fejti ki a jelenlegi szabályozás - a GDPR - elveit és alkalmazhatóságát a mesterséges intelligencia vonatkozásában.
Eszteri Dániel tanulmányában szintén a GDPR-t alapul véve fejti ki a gépi tanulás adatvédelmileg megfelelő, jogszerű kivitelezését, különös hangsúlyt fektetve az emberi beavatkozás biztosításának szükségességére. A tanulmány kiemelt értéke, hogy rendkívül közérthetően mutatja be a gépi tanulást, ezenfelül foglalkozik a profilalkotással, az automatizált egyedi döntéshozatallal is a mesterséges intelligencia kapcsán. A szerző végül konkrét szabályozási javaslatot is nyújt a fenti kérdések kapcsán.
Pók László Gábor kifejezetten alapjogi, azon belül adatvédelmi megközelítésben egy konkrét, problematikus területtel foglalkozott tanulmányában: az arcfelismeréssel. Részletezi, hogy egy felmérés szerint amennyiben az társadalmilag jelentős pozitív hatással jár (például bűnmegelőzés), az emberek többsége nem ellenzi az arcfelismeréssel működő rendszerek alkalmazását. A szerző felvázolja, hogy az arcfelismeréssel működő rendszerek adatvédelmi szempontból kockázatot jelentenek többek között a tévedés, hibázás lehetősége, a rejtett alkalmazás lehetősége, a más adatbázisokkal való összekapcsolás és a túlhasználat miatt is. Végül rámutat, hogy a megoldás megtalálásában a megfelelő jogalap megválasztása nyújthat leginkább segítséget.
- 363/364 -
A kötet adatvédelemmel foglalkozó részét egy közös, kritikai hangvételű, rendkívül érdekfeszítő írás, Deli Gergely, Kocsis Réka és Muhari Nóra tanulmánya zárja. Kiindulópontjuk, hogy a GDPR-ban meghatározott beépített adatvédelem elve (privacy by design) bizonyos esetekben azt a fogyasztóvédelmi szempontból aggályos hatást vonja maga után, hogy egyes vállalatok kihasználva a szabályozás keretjellegét és hiányosságát, már a tervezéskor igyekeznek pszichológiailag befolyásolni a fogyasztó akaratát a számukra kedvező irányba. Ilyen például a mindenki számára ismert óriási ablakban felugró általános szerződési feltételek, melynek szinte automatikus kipipálásával lehet csak továbbolvasni az adott cikket.
A kommunikációval foglalkozó részt Mráz Attila politikai célú deepfake-kel (főleg mesterséges intelligenciával meghamisított, rendkívül élethű videófelvétel, ilyesmit kínál például a tavalyi évben nagyon népszerűvé vált Reface alkalmazás) és választójoggal foglalkozó tanulmánya nyitja. A szerző rögzíti, hogy a deepfake szabályozása az alkotmányos rend és ezen belül is a választások védelme szempontjából elengedhetetlen. Vizsgálja, hogy jelenleg milyen szabályozási technikák állnak rendelkezésre, ezen belül a hatályos választási eljárásjogi, polgári jogi és büntetőjogi eszközöket fejti ki, a legelsőt előnyben részesítve.
Lábody Péter a közösségi tartalommegosztó platformok (leginkább a YouTube) szűrőmechanizmusait vizsgálja a legújabb uniós szerzői jogi szabályok, kiemelten a DSM irányelv, annak is főleg a 17. cikke tükrében. A szerző kifejti a DSM irányelv újszerűségét, azt, hogy az uniós szabályozás lényegében először foglalkozott a platformok jogi státuszának meghatározásával ilyen konkrétan, illetve ismerteti a két jogosultság - a szerzői jogi oltalom és a véleménynyilvánítás szabadsága - kollíziójának problémáját is. A tanulmány végén leszögezi, hogy az irányelv bevezetése óta eltelt rövid idő miatt nem áll rendelkezésre elég tapasztalat, hogy további következtetéseket vonjunk le - reméljük, hogy a szerző a továbbiakban folytatja tanulmányát az új ismeretek fényében is.
Szintén az online platformok szűrésével, ám nem szerzői jogi, hanem moderátori jellegű szűrésével, vagyis az algoritmikus tartalomszűréssel foglalkozik Sorbán Kinga. A sérülékeny alapjogok szempontjából a véleménynyilvánítás és szólásszabadság mellett a magánélethez való jogot emeli ki. A szerző rendkívül alaposan bemutatja a mesterséges intelligencia általi moderálás lehetséges előnyeit (például hatékonyság, emberi moderátorok biztonságos munkavégzése) és hátrányait (például médiapluralizmus negatív befolyásolása, diszkrimináció, átláthatatlanság) is, majd mindezekből kiindulva megfontolandó javaslatokat tesz a szabályozás kidolgozásának irányaira nézve.
A kötet ötödik része foglalkozik egy nagyon izgalmas területtel, a jogalkalmazással. Az első írás Gombos Katalin, Gyuranecz Franciska Zsófia, Krausz Bernadett és Papp Dorottya közös tanulmánya, mely átfogóan vizsgálja a mesterséges intelligencia lehetséges alkalmazási területeit a bírósági eljárás során, bemutatva a jelenleg is használatban lévő nemzetközi modelleket. Itt sem marad el a kockázatelemzés, a szerzők leginkább a tisztességes eljáráshoz való jog mint alapjog sérülékenységét tárják fel, a mesterséges intelligenciát Pandóra szelencéjéhez hasonlítva.
Karsai Krisztina a mesterséges intelligenciáról szóló tudományos diskurzusban általában alulreprezentált büntető igazságszolgáltatást vizsgálja, ilyen szempontból egyedülálló a kötetben is. A büntetőjogi specifikumokra koncentráló alapos problémafeltárás után, melynek során kitér a bíró mint emberi tényező és így szubjektum mivoltára is, a szerző arra a következtetésre
- 364/365 -
jut, hogy a mesterséges intelligencia használatához a büntető igazságszolgáltatásban alapvető paradigmaváltásra lenne szükség, melyre - legalábbis - hazánk ebben a pillanatban még nincs felkészülve.
Czékmann Zsolt, Kovács László és Ritó Evelin közös tanulmányában a bírói jogalkalmazástól eggyel hátrébb lépve a mesterséges intelligenciát az államigazgatásban vizsgálja. Az írás nagyrészt a mesterséges intelligencia mint technika bemutatásával foglalkozik, ezután feltárja, hogyan lehetne alkalmazni az államigazgatásban, főként kormányzati szinten. A szerzők foglalkoznak a mesterséges intelligencián alapuló rendszerek államigazgatásba való bevezetésének hátrányaival is, például a fejlesztések költségigényével.
A jogalkalmazási rész utolsó tanulmányát Hohmann Balázs írta, ő a mesterséges intelligencia közigazgatási hatósági eljárásban való - elsősorban kockázatközpontú - alkalmazhatóságát vizsgálta, szintén a tisztességes eljáráshoz való jog figyelembevételével. A szerző határozottan leszögezi azon álláspontját, hogy hatályos nemzeti szabályozásunk nem teszi lehetővé a mesterséges intelligencia bevezetését a közigazgatási eljárásokba, egyúttal előremutató javaslatokat tesz a szabályozási környezet kialakítására.
Az utolsó, gazdasággal foglalkozó részt Udvary Sándor - akár adatvédelem körében is tárgyalható, az ott szereplő egyes tanulmányokkal szembeállítható - tanulmánya nyitja. A szerző magánjogi szemlélettel végigveszi a mesterségesintelligencia-alapú rendszerek által kifejtett roboti cselekmények különböző viszonyokban való fellelhetőségét (B2B, B2C, P2P, P2B), majd a felelősségi kérdések során a kötelező robotfelelősség-biztosítás mint lehetséges átmeneti megoldás mellett tör lándzsát. írása második, adatvédelemmel foglalkozó részében pedig kifejti, hogy véleménye szerint a fenti roboti cselekmények miért nem sorolhatók a GDPR szerinti egyedi automatizált döntések körébe.
Izgalmas csemege Pusztahelyi Réka tanulmánya, melyben az online marketingben használt 'érzelmes' (azaz az érzelmek felismerésére és imitálásra képes) mesterséges intelligenciát, valamint az emberek ezzel való befolyásolásának (nudge) módjait mutatja be főleg versenyjogi és fogyasztóvédelmi szempontból. Habár a szerző alapvetően a többi tanulmányhoz hasonlóan kockázatszempontú megközelítésben vizsgálja a kérdést, feltárja mindazon előnyöket is, melyekkel az érzelmes mesterséges intelligencia alkalmazása járhat, például az egészségügyben alkalmazott ápolási robotok kapcsán.
A versenyjogi megközelítést ragadta meg Tóth András is. A szerző átfogóan vizsgálja a nyílt adattér kialakításának lehetőségeit, a versenyjog jelenleg rendelkezésre álló szabályozási eszközeit, egyúttal bemutatja mindazon szegmenseket is, ahol a versenyjog tehetetlen a jogszerű működés kikényszerítése szempontjából. A tanulmány érdeme, hogy rendkívül szemléletesen és részletesen mutatja be a kérdéskört érintő, főleg uniós jogeseteket.
A gazdasággal foglalkozó részt és a kötetet is Ződi Zsolt írása zárja. A szerző rendkívül találékonyan fejti ki, hogy a platform lényegében egy új, a piac, a bürokrácia és az etika mellett megjelenő koordinációs mechanizmusként fogható fel. A platformok három fő jellegzetességét határozza meg: datafikáció (adattá alakítás), tagság, algoritmikus irányítás. Ződi Zsolt felvázolja a szabályozás szempontjából leginkább megújulásra szoruló területeket is, az adatvédelmet, a versenyjogot, a fogyasztóvédelmet és meglepő módon az alkotmányjogot is. Amellett érvel, hogy az államnak "versenyképessége" megőrzése miatt ideje lenne minél nagyobb figyelmet szentelnie a mesterséges intelligencia szabályozására és fejlesztésére.
- 365/366 -
Úgy gondolom, a tanulmánykötet forgatása egyaránt hasznos lehet a téma iránt általánosságban érdeklődőknek, főleg a kötet elején található tanulmányok révén, és a különféle szakterületekkel foglalkozó jogászoknak is, például ha kifejezetten adatvédelmi vagy jogalkalmazási szempontú megközelítésben szeretnének olvasni a mesterséges intelligenciáról.
Kritikaként csupán annyit tudnék megfogalmazni a kötettel kapcsolatban, hogy az egyes tanulmányokban a fogalmi kifejtésekben - például a mesterséges intelligencia meghatározásánál - gyakran ugyanazt írják le az egyes szerzők. Habár ez szükséges és hasznos akkor, ha az egyes tanulmányokat önálló műként kezeljük, ám így, egy kötetbe foglalva olykor feleslegesnek tűnik, és talán szerencsésebb választás lett volna a kötet elején rögzíteni a konszenzussal meghatározott alapfogalmakat, melyek figyelembevételével a szerzők azonnal elkezdhették volna saját témájuk releváns kifejtését.
Végezetül a könyv bemutatása és meleg szívvel való ajánlása mellett legyen szabad javasolnom egy filmet is. A tanulmánykötet különösen platformokra vonatkozó részének megértését és az ismeretek elmélyítését ugyanis véleményem szerint kiválóan kiegészíti a Netflixen tavaly megjelent The Social Dilemma című film megtekintése. ■
Lábjegyzetek:
[1] A szerző PhD-hallgató, Nemzeti Közszolgálati Egyetem Közigazgatás-tudományi Doktori Iskola.
Visszaugrás
