Herke Csongor[1]: Mesterséges intelligencia a büntetőjogi döntéshozatalban (JK, 2023/4., 165-176. o.)

Magyarországon egyelőre inkább a távolságtartás jellemző a mesterséges intelligenciának (MI) az igazságszolgáltatásban betöltött szerepével kapcsolatosan. Ennek oka lehet az újtól való általános félelem, az autonóm, döntések meghozatalára képes szoftverektől és gépektől való idegenkedés. Az MI alkalmazásának ugyanakkor vannak valós veszélyei is. A tanulmány az MI fogalmi áttekintését követően bemutatja a döntéshozatal fő fajtáit, majd ezt követően vizsgálja, hogy az MI-nek milyen szerepe lehet a büntetőjogi döntéshozatalban, és teszi mindezt jogtudományi elemző, normatív módszertannal. Áttekintésre kerülnek a nem érdemi és az érdemi döntéshozatal fő fajtái, fókuszálva az MI jelenlegi és lehetséges jövőbeli szerepére. A döntéshozatallal összefüggésben a tanulmány részletesen kitér arra, hogy az adott határozatra a logika használatával, előre meghatározott szabályok szerint kerül-e sor (jogi formalizmus), avagy fontos szerep jut a törvényen kívüli, akár szubjektív tényezőknek is (jogi realizmus), és ez mennyiben hat ki az MI által hozott döntésre. Az előkészítő eljárásban és a büntetőjogi döntéshozatal során már jelenleg is sikeresen alkalmazott MI-rendszereken (prediktív rendőri tevékenység, Big Data elemzés, bűnügyi statisztikai adatelemzés) kívül elemzésre kerül az MI további alkalmazásának a lehetősége is, nem feledkezve meg annak korlátairól sem.

Summary - Artificial Intelligence in Criminal Law Decision-Making

In Hungary for now keeping a distance is characteristic of the role of artificial intelligence (AI) in the judicial system. This may be due to a general fear of the new, an aversion to autonomous software and machines capable of making decisions, but the use of AI also has real dangers. After a conceptual overview of AI, the study reviews the main types of decision-making, and then examines what role AI can play in criminal law decision-making, using a jurisprudential-analytical, normative methodology. The main types of non-substantive and substantive decision-making are presented, focusing on the current and possible future role of AI. Regarding decision-making, the study discusses in detail whether the given decision is made using logic, according to predetermined rules (legal formalism), or whether extra-legal, even subjective factors play an important role (legal realism), and to what extent affects the decision made by AI. In addition to the AI systems already successfully used in the preparatory procedure and criminal law decision-making (predictive police activity, Big-Data analysis, criminal statistical data analysis), the possibility of further application of AI in substantive decision-making is analyzed, without hiding its limitations.

Tárgyszavak: mesterséges intelligencia, büntetőjogi döntéshozatal, prediktív rendőri tevékenység, Big Data elemzés, bűnügyi statisztikai adatelemzés

I. Bevezetés

Az Európai Parlament mesterséges intelligenciáról a büntetőjogban, és annak a rendőrség és az igazságügyi hatóságok általi felhasználásáról büntetőügyekben szóló 2021. október 6-i állásfoglalásának[1] M. pontja szerint a bűnüldöző szervek számtalan helyen alkalmazzák már ma is a mesterséges intelligenciát (a továbbiakban: MI). Az állásfoglalás idesorolja az arcfelismerő technológiákat, a terheltek adatbázisaiban való keresést, az emberkereskedelem és a gyermekek szexuális kizsákmányolása és bántalmazása áldozatainak azonosítását, az automatizált rendszámfelismerést, a beszédazonosítást, a beszélő azonosítását, a szájról olvasási technológiákat, a hallás utáni megfigyelést (lövésfelderítő algoritmusok), az azonosított adatbázisok autonóm kutatását és elemzését, az előrejelzést (prediktív rendfenntartás és bűnügyi forró nyomos elemzés), a viselkedésfigyelő eszközöket, a fejlett virtuális boncolást a halál okának megállapítására, a pénzügyi csalás és a terrorizmusfinanszírozás azonosítására szolgáló autonóm eszközöket, a közösségimédia-figyelést (adatgyűjtés adatbányászati kapcsolatokhoz) és az automatizált megfigyelési rendszereket különböző észlelési képességekkel (mint például szívritmusfigyelés és hőkamerák). Az N. pont arra is rámutat, hogy manapság már világszerte számos országban az igazságszolgáltatás is alkalmazza az MI-eszközöket és -alkalmazásokat. Az állásfoglalás idesorolja például a letartóztatásra vonatkozó határozatok indokolását, az ítélethozatalt, a visszaesés valószínűségének kiszámítását és a próbaidő meghatározását, az online vitarendezést, az ítélkezési gyakorlat kezelését és a joghoz való könnyebb hozzáférés biztosítását. Ugyanakkor az MI-nek a felelős innováció elve alapján csak arányos etikai és jogi korlátok között lehet teret engedni.[2]

Hazánkban ezeket az eszközöket egyelőre igen kis mértékben használják, és még inkább a távolságtartás jellemző az MI igazságszolgáltatásban betöltött szerepének megítélésére. Ennek oka lehet az újtól való általános félelem, az autonóm, döntések meghozatalára képes szoftve-

- 165/166 -

rektől és gépektől való idegenkedés,[3] ugyanakkor az MI alkalmazásának vannak valós veszélyei is. A fenti állásfoglalás O. pontja idesorolja az egyének alapvető jogainak védelmét (például átláthatatlan döntéshozatal, a megkülönböztetés különböző típusai, az alapul szolgáló algoritmusban rejlő hibák, a magánélet és a személyes adatok védelmével, a véleménynyilvánítás és a tájékozódás szabadságának védelmével, az ártatlanság vélelmével, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való joggal kapcsolatos kockázatok, valamint az egyének szabadságát és biztonságát érintő kockázatok). Érdekes, hogy az Európai Parlament és a Tanács rendelettervezete a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról[4] kimondja, hogy éppen a bűnüldözés az egyetlen terület, ahol nem követelmény, hogy a természetes személyek előzetesen tájékoztatást kapjanak arról, hogy nem természetes személlyel, hanem MI-vel léptek kapcsolatba, kivéve, ha ezek az MI-rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára elérhetők.[5]

Dobó és Gyaraki a rendvédelemben a biztonságtudomány és a képfelismerés területén tartja elsősorban felhasználhatónak az MI-t.[6] A biztonságtudományhoz tartozó forenzikus területek közé sorolják az elkövetői csoportok és az elkövetői profilok megrajzolását, a felderítést, a kapcsolati hálók feltérképezését, a kép-, hang- és szövegfelismerést, a mintázatok felismerését, valamint a nyomkövetést, a haladási útvonal predikcióját. A képfelismerés (képelemzés) körében kiemelik az arcfelismerést, beazonosítást, másoktól való megkülönböztetést, a bonyolultabb alakfelismerést, a mozgásfelismerést és a részletkutatást.[7] Ezenfelül hangsúlyozni kell az MI szerepét a viselkedésalapú biometrikus adatok (kézírás, beszédhang, gépelési ritmus, mozgás, járásmód) feldolgozásában is,[8] ezek azonban csak alig vagy csak kis részben játszanak szerepet a döntéshozatalban, jelentőségük inkább a bűnfelderítésben és a bűnmegelőzésben van.

Jelen tanulmány az MI fogalmi áttekintését követően ismerteti a döntéshozatal fő fajtáit, majd ezt követően azt vizsgálja, hogy az MI-nek milyen szerepe lehet a büntetőjogi döntéshozatalban. Teszi mindezt jogtudományi elemző, normatív módszertannal.

II. A mesterséges intelligencia fogalma

Ahogyan Lauritsen találóan fogalmaz, az MI-ben jártas professzorok állítólag olyan ritkák, mint a vegán hentesek.[9] Éppen ezért, bár mind a hazai, mind a nemzetközi szakirodalomban számos cikk jelent már meg az MI-ről, talán nem felesleges röviden áttekinteni az MI fogalmát.

Ha már az Európai Parlament egy állásfoglalásával kezdtük, nézzük, hogy mit takar az Európai Parlament által használt MI-fogalom.[10] Eszerint az MI a gépek emberhez hasonló képességeit jelenti, mint például az érvelés, a tanulás, a tervezés és a kreativitás. Lehetővé teszi a technika számára, hogy érzékelje környezetét, foglalkozzon azzal, amit észlel, problémákat oldjon meg, és konkrét cél elérése érdekében tervezze meg lépéseit. A számítógép nemcsak adatokat fogad (már előkészített vagy összegyűjtött adatokat érzékelőin, például kameráján keresztül), hanem fel is dolgozza azokat és reagál rájuk. Az MI a korábbi lépései hatásainak elemzésével és önálló munkával már képes a viselkedésének bizonyos fokú módosítására is. Két fajtája a szoftveralapú MI (például virtuális asszisztensek, képelemző szoftverek, keresők, beszéd- és arcfelismerő rendszerek) és a fizikai MI (pl. robotok, önvezető autók, drónok).

Az Európai Parlament által használt MI-fogalom lényegében megfelel a nemzetközi szakirodalom által alkotott fogalmaknak. Így például Rigano szerint[11] az MI a gépnek az a képessége, hogy közvetlen emberi beavatkozás nélkül önállóan érzékelje a környezetét és arra reagáljon, ezáltal olyan feladatokat hajtson végre, amelyek jellemzően emberi intelligenciát és döntéshozatali folyamatokat igényelnének. Grishin és Naumov szerint az MI képes cselekedni, meghatározni cselekedeteit és értékelni azok következményeit anélkül, hogy az ember teljes mértékben ellenőrizné a külső környezetből származó információfeldolgozási eredményeket.[12] Morhat megfogalmazásában az MI olyan, tanulási mechanizmussal beépített számítógépes program, amely utánozza az emberi agyat.[13] Kaplan és Haenlein az MI azon képességét emeli ki, hogy helyesen tudja értelmezni a külső adatokat, tanul azok-

- 166/167 -

ból, és ezt a tudást felhasználja konkrét célok és célkitűzések elérésére rugalmas alkalmazkodása révén.[14] De azt is mondhatjuk, hogy az MI a kognitív funkciókat szimuláló programok összessége, képzési és problémamegoldó funkciókkal (Russell és Norvig).[15] Összességében, az MI viselkedése akkor tekinthető intelligensnek, ha adott helyzetben egy ember is így viselkedne (az MI kifejezést először használó McCarthy szerint).[16]

A legtöbb definíciónak közös pontja, hogy általában akkor tekintik az MI-t intelligensnek, ha a rendszer úgy gondolkodik, mint az ember, úgy viselkedik, mint az ember, racionálisan gondolkodik és racionálisan működik.[17]

Az MI működése Pusztahelyi szerint attól tekinthető autonómnak, hogy folyamatosan adaptálódik a környezetéhez, értékeli a döntéseinek a következményeit és ezekhez igazítja döntéseit, emellett képes az önfejlesztésre.[18] Sokak szerint az absztrakt gépi gondolkodásnak nem az MI, hanem a mesterséges tudatosság (artificial conciousness, AC) az előfeltétele.[19]

A szakirodalomban különbséget tesznek a "gyenge MI" (csak egy nagyon szűk, meghatározott területen intelligens viselkedést mutató gép) és az "erős MI" között. Utóbbi már nem az emberi gondolkodást szimulálja, hanem maga is egy elme.[20] A gyenge MI is képes fejlődni és tanulni, de csak a hozzá rendelt feladatprofil alapján. A legtöbb MI-rendszer gyenge, ezek általában szabályalapú programok, ezeknél intelligenciáról nem is lehet valójában beszélni, hiszen ún. if-then (ha-akkor) utasítások alapján működnek. Annak érdekében, hogy ezt meg tudják tenni, az ehhez szükséges tudásbázist (adathalmazt) manuálisan kell létrehozni, ami rendkívül fáradságos. Az MI kutatásának kvantumugrása Scherer szerint az úgynevezett dataquake, a hatalmas mennyiségű adat megjelenésével történt.[21]

A "gyenge MI" tehát lényegében abban jelent nagy segítséget, hogy a rendelkezésére álló, sokszor az ember számára kezelhetetlen adatbázisokat is rendkívül rövid idő alatt fel tudja dolgozni és az eredményt közölni.

Amikor "intelligenciáról" beszélünk az MI kapcsán, akkor valójában az erős MI-re gondolunk. Az erős MI ugyanis képes a kijelölt feladatprofilon kívül is működni, ami azt jelenti, hogy alkalmazási és fejlesztési lehetőségei alig korlátozottak.[22] Az erős MI tehát valóban intelligensen gondolkodik, és olyan következtetéseket is le tud vonni, amiket eredetileg nem programoztak be.

Az erős MI és a gyenge MI közötti különbségeket az 1. táblázat mutatja be:[23]

1. táblázat. A gyenge és az erős MI elhatárolása

Forrás: a szerző szerkesztése

A gyenge MI és az erős MI között nem húzható éles határvonal, ezért a szakirodalomban megjelent a "mérsékelt MI" fogalma is, amely az algoritmikus feldolgozáshoz képest már magasabb fokozatot jelent, de még nem éri el az összetett problémák autonóm megoldásának a képességét.[24] Elmondható, hogy az erős MI táblázatban szereplő példái inkább nevezhetők mérsékelt MI-nek.

- 167/168 -

Ugyanakkor jól megfigyelhető a fejlődés a gyenge MI-től az erős MI felé. Elég csak arra utalni, hogy míg az IBM Deep Blue nevű gépe még 1997-ben azzal győzte le Garri Kaszparov sakkvilágbajnokot, hogy szinte az összes korábbi (releváns) sakkjátszma lépéseit beletáplálták, addig a Google által kifejlesztett AlphaGo 2015-ben már az aktuális go világbajnokot győzte le, holott a go jóval bonyolultabb játék és nem táplálhatók be a szinte végtelen számú lépésvariációk, nem is beszélve az IBM Watson nevű gépéről (ami valójában nem egy gép, hanem egy MI-rendszer), amely már bonyolultabb nyelvi feladatokat is meg tud oldani, ezáltal nemcsak reprodukálja a betáplált adatokat, hanem kreatív "gondolkodásra" is képes.[25]

A gyenge MI fejlődésének egy sajátos módja (a hagyományos fejlesztéshez képest) az ún. deep learning (mélytanulás). Ennek egyik fajtája a felügyelt tanulás, amikor a gép véletlenszerűen adott válaszai alapján minden egyes esetben a felügyeletet végrehajtó személy jelzi, hogy jó-e a gép válasza, és a gép ezekből tanul (igyekszik mindig a jó válaszokhoz legközelebb eső válaszokat adni). Magasabb szint a felügyelet nélküli tanulás, amikor az MI a rendelkezésére bocsátott információkat értelmezve jut el arra a következtetésre, hogy mi lehet a helyes válasz. Ez már közel áll az erős MI tevékenységéhez, de Móczár szerint még ekkor sem beszélhetünk öntudattal rendelkező gépekről.[26]

III. A büntetőjogi döntéshozatal fajtái

A büntetőeljárásban határozathozatalra az eljárás bármely szakaszában sor kerülhet. Ezek a döntések lehetnek érdemi és nem érdemi döntések, azokat (eljárási szaktól függően) meghozhatja a nyomozó hatóság, az ügyész és a bíróság is.

A nyomozás során mindhárom hatóság hozhat döntést: a nyomozó hatóság és az ügyész érdemi döntést is (feljelentés elutasítása, eljárás megszüntetése), míg a bíróság a nyomozati szakban elsősorban a kényszerintézkedésekkel összefüggésben dönthet (lásd nyomozási bíró). Az MI szerepe mind az érdemi, mind a nem érdemi döntéshozatal során felmerülhet.

A nem érdemi kérdésekben (például kizárás, kijelölés, áttétel, szakértő kirendelése, nyomozás határidejének meghosszabbítása, igazolási kérelem stb.) sok esetben felmerülhetne az MI szerepe. Ez elsősorban akkor lenne értelmezhető, ha erős MI-ről lenne szó. Így például egy szakértő kirendelő határozatot az MI könnyedén meghozhatna, ha a szakértőnek felmerülő kérdéseket és az eljárás ügyiratát betáplálják. Ugyanígy elbírálható az igazolási vagy a kizárás iránti kérelem is. Mindössze annyit kellene a büntetőeljárásról szóló 2017. évi XC. törvény (a továbbiakban: Be.) szabályain változtatni, hogy az MI által hozott határozat ellen mindenképpen panasznak van helye, hiszen a fent említett kérdések többségénél a Be. kizárja a jogorvoslat lehetőségét. Ezzel kiküszöbölhető lenne az az általános aggály, ami az MI által hozott döntésekkel kapcsolatban felmerül.

Önmagában az is kérdéses, hogy az MI valóban döntést hoz-e, avagy csak a betáplált adatok szerint a korábbi döntések alapján von le következtetést, hogy melyik döntés áll legközelebb a helyes döntéshez az adott ügyben. Ugyanakkor még a meglévő helyes döntések közül sem mindegy, hogy milyen elvek alapján hozza meg az MI a döntését.[27]

A nem érdemi kérdésekkel kapcsolatos MI-döntés különösen hasznos lehetne a kényszerintézkedések meghosszabbításával kapcsolatos nyomozási bírói döntések esetén. A legsúlyosabb, bírói engedélyhez kötött, személyi szabadságot korlátozó kényszerintézkedések elrendelésére és azok meghosszabbítására a nyomozás során csak bíróság (a nyomozási bíró) jogosult. Amíg azonban a nyomozati szakban az elrendelésre és a 6 hónapon túli meghosszabbításra csak ülésen kerülhet sor, a többi meghosszabbító (illetve megszüntetés vagy megváltoztatás iránti indítványt elbíráló) döntést a nyomozási bíró többnyire iratok alapján hozza meg. Ugyanígy az iratok alapján kerül sor az itt említett döntések elleni fellebbezés elbírálására. Amennyiben az MI-t ellátnák a megfelelő információkkal, ezeket a döntéseket akár az MI is meghozhatná. Ezt könnyítené például, ha az indítványok elbírálásához szükséges kérdéseket külön meg kellene jelölni az elektronikus iratban, azaz lenne külön rovat, hogy az indítvány a kényszerintézkedés meghosszabbítására (ügyészség), megszüntetésére vagy megváltoztatására irányul. Külön meg kellene jelölni, hogy melyek az indítványt megalapozó bizonyítékok, szükség esetén azokat csatolva is az indítványhoz. Ebben az esetben egy erős MI álláspontom szerint legalább annyira megalapozott döntést tudna hozni, mint a jelenleg sok esetben formális döntést hozó bíróságok.

Az Európai Unió korábban említett, mesterséges intelligenciával kapcsolatos tervezete négy kategóriába osztja az MI-alkalmazásokat: teljesen tiltott, nagy kockázatú, kevésbé kockázatos és egyik kategóriába sem tartozó (nem kockázatos) alkalmazás.[28] Ezek között nem a telje-

- 168/169 -

sen tiltott, de a nagy kockázatú kategóriába (emberi jogokat érintő MI-k[29]) tartoznak a bírói munkához kapcsolódó, már manapság is igénybe vett MI-rendszerek. Ezek elsősorban a bírósági határozatok és dokumentumok anonimizálása (álnevesítése), a személyzeti kommunikáció és az adminisztratív feladatok, források elosztása terén játszanak jelentős szerepet[30]. A magas kockázatú MI-k esetén a tervezet szerint követelmény a részletes dokumentáció, a naplózó rendszerek társítása, az átláthatóság, a folyamatos emberi felügyelet és beavatkozási lehetőség, emellett a magas kockázatú MI-knek meg kell felelniük a pontosság, robusztusság és kiberbiztonság követelményeinek is.[31] Előbbi elsősorban arra vonatkozik, hogy az MI mennyire képes elviselni a rendszerhibákat és mennyiben tud túlépni azokon (például párhuzamos szerverek alkalmazásával), a kiberbiztonság pedig egy védelmi rendszer, ami képes visszaverni a hálózatokat és alkalmazásokat érő fenyegetéseket, támadásokat.

Az érdemi döntéshozatallal kapcsolatos kérdéseket később tárgyaljuk, hiszen a nyomozás megszüntetése során (és talán a nem érdemi döntések közé tartozó felfüggesztés esetén is) hasonló szempontokat kell figyelembe venni, mint a bíróság érdemi döntéseinél. A bírósági szakban pedig már csak a bíróság hozhat érdemi és nem érdemi döntést.

A döntéshozatallal összefüggésben az egyik legfontosabb kérdés az, hogy az adott határozatra a logika használatával, előre meghatározott szabályok szerint kerül-e sor (jogi formalizmus), avagy fontos szerep jut-e a törvényen kívüli, akár szubjektív tényezőknek is (jogi realizmus):[32]

A jogi formalizmuson alapuló döntés esetén a határozat lényegében nem más, mint az előre megállapított jogelvek, jogi rendelkezések mechanikus alkalmazása. MacCormick ezt az ún. R + F = C (rule + facts = conclusion, azaz szabály + tények = döntés) formulával határozza meg.[33] A jogi formalizmus leíró és normatív elemeket is tartalmaz. A jelenlegi gyenge MI vagy akár mérsékelt MI rendszerek a tiszta jogi formalizmuson alapuló döntések meghozatalára alkalmasak lehetnek: ha például a nyomozati aktában külön kezelik az addig felmerült bűnügyi költséget és azt, hogy azt a terheltnek (terhelteknek) vagy az államnak kell-e viselnie, a terhelteknek egyénenként vagy egyetemlegesen stb., akkor az MI könnyedén hozhat döntést a bűnügyi költség viseléséről. Ugyanígy, ha a részletfizetés iránti kérelem engedélyezhető, akkor az MI kiszámíthatja az egyhavi részlet összegét, annak megfizetési határidejét, elkészítheti a határozatot, sőt figyelheti a beérkezett összegeket és felhívhatja az érintettet a késedelemre és annak következményeire, elrendelheti a részletek elmaradása esetén az egy összegben történő fizetést, pénzbüntetésnél az átváltoztatást stb. Egyes MI-k akár arra is képesek lehetnek, hogy a gépi tanulás során kinyerjék az algoritmust az adatokból, és ennek alapján (valószínűségi számításokat végezve) hozzák meg a megfelelő döntést.[34]

A realisták szerint a döntés sokkal inkább szubjektív alapokon nyugszik, és a szabályok inkább csak azt a célt szolgálják, hogy a döntéshozóban már megfogalmazódott döntést megalapozzák. A jogi realizmus (a jogi formalizmussal szemben) elsősorban leíró szempontokon alapul, sokszor a jogtól idegen tényezők alapján (például befolyásolja a döntést, hogy a bíró éhes, bár ennek nincs normatív alapja, avagy ahogyan Danzingerék fogalmaznak: "Igazságosság az, amit a bíró reggelizett";[35] Tegmark felmérése is ezt támasztja alá, miszerint reggeli után a feltételes szabadlábra helyezési kérelmek 65%-ának helyt adott a bíró, ebéd előtt (éhesebben) már csak a 15%-ának[36]). Frank ezt szabályszkepticizmusnak nevezi: szerinte nem a szabályok játsszák a meghatározó szerepet a döntéshozatalban, hanem a nem jogi tényezők alapján meghozott döntést követően utólag látják el látszólag logikus, szabályokon alapuló "bevonattal" a bírák a döntést.[37] Holmes egyenesen odáig megy, hogy az ítélet nem más, mint egy jóslás, és a bíróságnak nem az a fő célja, hogy a logika szabályai szerint döntést hozzon, hanem az, hogy megjósolja, hogy döntésének milyen speciál-, illetve generálpreventív hatása lehet.[38]

Ehhez hasonló a jogi determinizmus elve, miszerint a múltbeli adatokon alapuló valószínűségi számítások alapján megállapítható a jövőbeli eredmény. Azaz, ha tudjuk, hogy a múltban milyen döntéseket hoztak adott kérdésben, akkor ennek alapján meghatározható az adott ügyben hozható döntés is.[39] Ha ez igaz, akkor a jogi determinizmus alapján az MI-nek kiemelt szerepe lehet a döntéshozatalban, mert könnyedén át tudja tekinteni az összes vonatkozó határozatot és annak alapján meg tudja hozni az aktuális döntést (már ha ez az adatbázis a rendelkezésére áll).

- 169/170 -

Nyilván van igazság a kritikai jogelmélet mozgalom által kidolgozott tételekben is, miszerint a jognak politikai jelentősége is van és a döntéshozatal során figyelembe kell venni a társadalmi értékeket is, mert a jog a hatékony társadalmi átalakulás egyik eszköze.[40] Az már más kérdés, hogy politikai vagy erkölcsi megfontolások mennyiben érvényesülhetnének az MI-döntések során.[41] Jó példa erre Galambos Lajos (művésznevén Lagzi Lajcsi) esete, akinél a másodfokú bíróság 2022. decemberi ítéletének indokolása szerint többek között generálpreventív okokból súlyosították az első fokon kiszabott büntetést. A másodfokú bíróság szerint ugyanis az orosz-ukrán háború miatt kialakult energiaválság miatt drasztikusan megemelkedett energiaárak mellett nagyobb a veszélye, hogy megemelkedik az áramlopások száma, márpedig egy közismert emberrel szemben az ilyen ügyben kiszabott súlyosabb büntetés üzenettel bír és általánosan visszatartó erejű lehet.[42] Az MI-től biztosan nem várható el egy ehhez hasonló mérlegelés.

IV. A mesterséges intelligencia szerepe a büntetőjogi döntéshozatalban

Az Amerikai Egyesült Államokban az MI-t évtizedek óta használják a büntető igazságszolgáltatási rendszer döntéshozatali eljárásában. A jog, és ezen belül a büntetőjog területén számos helyen komoly segítséget nyújthat az MI a döntéshozatal során. Az MI egyes szerzők szerint elősegíti a jogrendszer átláthatóságát, kiszámíthatóságát és szabványosítását, csökkentve a jogbizonytalanságot. Az MI rendszerek leginkább a statisztikai adatok feldolgozása, a jogi dokumentumok előkészítése, a weboldalak böngészése és a bűncselekmény minősítésével kapcsolatos döntések meghozatala során hasznosíthatók.[43]

Az MI által végzett adatkezelést Eszteri és Péterfalvi három lépcsőre bontja:

a) tesztadatok (például korábbi határozatok és az azokat megelőző iratok) betáplálása, ezeket az algoritmus megjegyzi, elmenti és a minták alapján modellt alkot belőlük,

b) "éles adatok" betáplálása, amiket megvizsgálva az MI eldönti, hogy melyik korábbi modellhez (mintához) rendelhető az adott ügy,

c) az MI meghozza a döntését.[44]

Lőrincz szerint az MI szerepe háromszintű lehet a döntéshozatalban:

a) az MI által adott, felülmérlegelésre szoruló és megfontolható ajánlások,

b) az MI által adott, felülmérlegelésre szoruló, de érdemben nem megfontolható ajánlások és

c) az MI javaslatának feltétlen elfogadása (lényegében a gép általi döntés).[45]

Jelenleg az előkészítő eljárásban és a büntetőjogi döntéshozatal során az alábbi területeken alkalmazzák sikeresen az MI-rendszereket.

1. Prediktív rendőri tevékenység

Számos algoritmust használnak a bűncselekmények elkövetésének megakadályozására (előre jelezve a lehetséges elkövetési helyeket vagy elkövetőket). Idetartozhat az ún. hot-spot elemzés (magasabb bűnözési veszéllyel rendelkező földrajzi helyek meghatározása, például RTM: Risk Terrain Modeling) és a bűnözés összekapcsolása (crime linking, ami múltbeli bűncselekmények összevetése bizonyos - már azonosított vagy még azonosítatlan - személyekkel annak érdekében, hogy megjósolják, hol és mikor követik el a következő bűncselekményt, például HART: Harm Assesment Risk Tool).[46] Rigano szerint az MI-alapú, akár a térfigyelő kamerák képének valós idejű, integrált elemzésére épülő prediktív rendőrségi elemzések segítségével a bűnüldöző szervek a jövőben gyorsabban és hatékonyabban tudnak reagálni az incidensekre, akár azokat megelőzni, illetve a beavatkozásokat megszervezni, megfelelő helyre csoportosítva az erőforrásokat, és alaposabban ki tudják majd vizsgálni és elemezni tudják a már elkövetett bűncselekményeket.[47]

Napjainkban egyre nagyobb mértékben használják az MI-t prediktív kódolásra is, például az Amerikai Egyesült Államokban a visszaesés előrejelzésére.[48] Az MI bűnmegelőzésben betöltött szerepe óriási lehet: nemcsak a bűncselekmények várható helyszínét jelezheti előre a Big Data elemzéssel a bűnözési gócpontok azonosításával (például a bűncselekmény típusa, a bűncselekmény helyszíne és a bűncselekmény során használt fegyverek, eszközök segíthetnek megjósolni a jövőbeli bűncselekmény helyszíneit), hanem akár azt is előre jelezheti, hogy ki fogja elkövetni a bűncselekményt (az online tartalom vizsgálatával az MI képes észlelni a bűnözéssel kapcsolatos szavakat, kommunikációt, sőt egyes kutatások szerint még az arckifejezések is segíthetnek megjósolni, hogy ki fogja elkövetni a bűncselekményt, azaz pl. a köztéri kamerák képei alapján az arcfelismeréssel és arckövetéssel az MI akár képes lehet

- 170/171 -

megjósolni egy konkrét személy jövőbeli cselekedeteit).[49] Az utakon elhelyezett kamerák képeinek MI általi feldolgozása akár az engedély nélkül vezető sofőrök kiszűrésében is jelentős szerepet játszhat.[50]

2. Big Data elemzés

A Big Data korunk egyik legjelentősebb hatással bíró tényezője nemcsak a bűnüldözés, hanem az élet szinte minden területén. Az óriási mennyiségű adathalmazok emberi tevékenységgel már átláthatatlanok és ezáltal feldolgozhatatlanok. Érdekes módon a jog az a terület, amelyik az egyik legnagyobb digitális dokumentum-előállító[51] (hiszen nemcsak a határozatok, hanem manapság már a teljes iratanyag digitálisan rendelkezésre áll). Ez a volumen kizárólag számítógépes programok segítségével kezelhető, amire az MI rendszerek fejlődése egyre nagyobb hatással bírhat.

Amíg egy gyenge MI csak a betáplált adatok elemzésére alkalmas, addig egy erős MI akár arra is képes, hogy a Big Datán belül kiszűrje a számára értékes információt. Így például a gyenge MI megkövetelné, hogy a vizsgálni kívánt bírósági határozatok tartalmát bizonyos szempontok alapján előzetesen leszűrjék (így letartóztatási döntésnél a szökés vagy kollúzió veszélyét alátámasztó vagy azt cáfoló tényeket). Erős MI esetén erre nincs szükség: megvizsgálhatja az összes digitalizált határozatot, összevetheti az adott ügyben fellelhető (digitálisan rögzített) iratok tartalmával és leszűrheti a következtetést, hogy milyen döntés lehet a helyes. A Big Data adatmennyisége persze igencsak változatos, ezért az MI-nek komoly feladat kiszűrni a lényeges információkat (ez nyilvánvalóan igaz az adott ügyben döntést hozó bíróra is, aki az MI-hez képest fizikailag csak töredékét tudja elvégezni az adatelemzésnek). Az MI több milliószor gyorsabban dolgozik az emberi agynál és ezáltal sokkal gyorsabban elemzi az adatokat.

Az más kérdés, hogy mennyire lesz valódi (hiteles) az MI által hozott döntés, bár az mindenképpen tagadhatatlan, hogy az MI soha nem éhes, nem befolyásolják a napi sajtóban megjelenő hírek vagy akár egy korábbi ügyben szerzett tapasztalat stb., azaz döntése sokkal objektívebb az emberi döntésnél. Probléma elsősorban abból adódhat, ha már magát az MI-t előítéletes adatokon keresztül tanítják, azaz az MI-rendszer például diszkriminatív mintából tanul, mivel, ha az algoritmus alapját képező adatok előítéletet tükröznek, akkor azt az algoritmus is meg fogja ismételni, sőt mintának tekinti.[52] Ahogyan Fenyvesi írja: "minden rendőrség annyit ér, amennyi adata van",[53] ehhez hasonlóan "minden algoritmus annyit ér, amilyen adatokból kiindul". Ez a statisztikában az ún. garbage in, garbage out elv.[54]

A Big Datával kapcsolatosan itt említett tényezőket nevezik a szakirodalomban a Big Data négy V-jének (Volume, Variety, Velocity, Veracity, azaz volumen (adatmennyiség), változatosság, gyorsaság és valódiság).[55] A Big Data elemzésnek a büntetőjog területén jó példája a NEC CONNECT[56] (a brit rendőrség használta a pénzügyi tranzakciókból származó több milliárd adat elemzésére) vagy az Interpol által használt ICSE DB[57] (International Children Sexual Exploitation Database, áldozatok és/vagy elkövetők azonosítása például a visszaélésszerű képeken található bútorok, egyéb tárgyak, vagy akár videófájlok elemzésével). Sok helyen használják az MI-t a rendszámtáblák, akár emberi arcok azonosításához. Ilyenkor a legnagyobb gondot az okozza, ha maga a videó (térfigyelő kamera) felvétele is rossz minőségű. Éppen ezért fejlesztették ki azt a módszert, hogy szisztematikusan rontják a kiváló minőségű képeket, és összehasonlítják azokat az alacsony minőségű képekkel, hogy az alacsonyabb minőségű képek (videók) könnyebben felismerhetővé váljanak. Ugyanez a helyzet a leromlott minőségű DNS-minták elemzésénél.[58] Az MI használata ugyanis lehetővé teszi, hogy felfedezzék és feldolgozzák az alacsony minőségű, sérült vagy hozzáférhetetlen olyan bizonyítékokat is, amelyeket korábban nem lehetett felhasználni a bizonyítás során.[59]

3. Bűnügyi statisztikai adatelemzés

Mind a prediktív rendőri tevékenység, mind a Big Data elemzés összefügg a rendelkezésre álló statisztikai adatok

- 171/172 -

elemzésével. A számítógépes rendszerek használata a bűnügyi statisztikai adatbázisok létrehozásában és azok feldolgozásában az MI-rendszerek megjelenése előtt is jelentős volt. Az MI azonban új perspektívát nyújt ezen a téren. A statisztikai adatok hagyományos módszerekkel történő összegyűjtése óriási emberi erőforrást igényelt. Már az nagy előrelépés volt, hogy amint a statisztikai adatokat felvitték a számítógépes rendszerbe, az lényegesen könnyebben kezelhető adatbázist eredményezett, mint a manuális rendszer, és kulcsszavakra rákeresve könnyebben lehetett adatokat kinyerni, összefüggéseket keresni. Az MI ehhez képest abban jelent óriási előrelépést, hogy önmaga képes elemezni az adatbázist, a kért szempontok alapján pár másodperc alatt rendelkezésre állhat bármilyen szempont szerinti kigyűjtés, és maga az MI is elemezheti az adatbázist és jelezheti, ha akár bűnmegelőzési, akár bűnfelderítési szempontból fontos összefüggést talál. Így például a manuális rendszernél szinte szerencsére volt szükség ahhoz, hogy kimutassák, hogy egyes területeken nagyobb a gépkocsifeltörések aránya. A hagyományos számítógépes adatfeldolgozás esetén már jóval nagyobb adatbázis alapján lehetett választ kapni arra, hogy hol történt a legtöbb gépkocsifeltörés. Az MI ennél jóval többre képes: elemzi az összes adatot, kimutatja, hogy mely területeken, esetleg melyik napokon és időpontban (például péntek éjjel) a leggyakoribb a gépkocsifeltörés, és tekintettel tud lenni az esetleges téves kiugró adatokra is. Ez jóval több, mint önmagában a Big Data elemzés: az MI az ember számára elérhetetlen sebességgel képes elemezni az adatokon belüli trendeket, az emberek számára általában nem is érthető módon.

A legnagyobb gondot az összefüggő szövegek elemzése jelentheti. Míg a bizonyos szempontok szerint csoportosított statisztikai adatok feldolgozása az MI megjelenése előtt sem okozott nagyobb gondot, addig az összefüggő szövegeknél a természetes nyelvi feldolgozás (Natural Language Processing, NLP) formájában köztes lépésekre van szükség, mielőtt a benne található információkat az MI hasznosan elemezhetné.[60] A számítógépek ugyanis máshogyan értik a nyelvet, mint az emberek: a nyelv megértését endogén módon a szövegeken belüli trendekből nyerik, míg az emberek a nyelvet egymás közti közvetítésre használják.[61] A szövegfelismerő rendszerek manapság már nemcsak felismerik, elemzik és összefoglalják a szöveget, hanem hamarosan képesek lesznek a feltett kérdésekre is értelmes és hasznos válaszokat adni.[62] Ez az endogén szövegfeldolgozás aztán néha igencsak tévútra vezet. Ismert példa erre Tay, a Microsoft kísérleti Twitter-csevegőrobotjának esete, amelyet trolltámadás ért és 24 órán belül a csevegőrobot rasszistává vált, ami arra kényszerítette a Microsoftot, hogy levegye Tayt az internetről.[63]

Kérdéses lehet, hogy mennyire megbízhatóak az MI-nek a statisztikai adatok elemzésével levont következtetései. Ezzel kapcsolatosan számos vizsgálatot folytattak le. Scherer ismertette egy kutatócsoport vizsgálatát: az EJEB nagyszámú döntését vizsgálták, hogy az MI milyen döntést jelzett "előre" a bevitt adatok alapján, és ezt hasonlították össze a meghozott döntéssel. A vizsgálat eredménye az lett, hogy az összes ügy 79%-ában helyes előrejelzést adott az MI az EJEB határozatára. Ezen belül a legjobb előrejelzést a ténybeli körülményeket és az eljárási hátteret bemutató részekkel kapcsolatosan tett az MI (76%, illetve 73%), a jogi érvelésnél viszont jóval alacsonyabb volt az eredményesség (62%). Egy másik kutatócsoport az Egyesült Államok Legfelső Bíróságának döntéseinek előrejelzésére összpontosított. Ott összességében arra a megállapításra jutottak, hogy az MI 71,9%-os pontossággal megjósolta a bevitt adatok alapján az egyedi ügyekben meghozott döntéseket.[64]

4. Az MI szerepe a konkrét döntéshozatal során

Amint arra korábban már rámutattunk, az MI-nek komoly szerepe lehet (és sok helyen már van is) a nem érdemi határozathozatallal összefüggésben. Sőt egyes területeken már manapság is érdemi döntéseket hoznak az algoritmusok (elég csak hazánkban a VÉDA rendszer által a gyorshajtások miatt által lefolytatott automatizált szabálysértési eljárásokra vagy az elektronikus cégbejegyzési eljárásra gondolni).[65] Óriási előnye az MI-nek, hogy hatalmas adatbázist képes rendkívül rövid idő alatt feldolgozni, így például a precedensalapú igazságszolgáltatásnál pillanatok alatt kigyűjtheti az adott ügy szempontjából jelentős döntéseket, rámutathat azok leglényegesebb pontjára, ezzel időt és fáradságot takarítva meg a döntéshozónak (és természetesen adott esetben a vádnak, illetve a védelemnek is). Egyes nem érdemi döntéseknél (például letartóztatás meghosszabbítása az iratok alapján) akár szinte teljes mértékben kiválthatja az MI a bírói döntést. Nagy Adrienn szerint a bírói döntéseknek az MI-re való áthárítása valójában a digitális bíróságok megjelenéséhez vezetne.[66]

A fontosabb kérdés az, hogy az ügy érdemében való döntés során milyen szerepet kaphat az MI? Az érdemi

- 172/173 -

döntések közül is ki kell emelni a negatív határozatokat, azaz, amikor a büntetőjogi felelősségre vonásnak valamilyen akadálya van. Könnyen belátható, hogy az MI a bíróhoz hasonló szinten hozhat érdemi döntést (eljárási szaktól függően eljárást megszüntető határozatot vagy végzést, illetve felmentő ítéletet), ha észleli, hogy valamilyen objektív büntethetőségi akadály áll fenn (például gyermekkor, az elkövető halála, elévülés, kegyelem). Szintén nagyobb szerephez juthat az MI az értékelést igénylő akadályok esetén, bár egy jogos védelmi helyzet vagy végszükség megítélése már nem feltétlenül csak objektív adatokon alapul. Ugyanakkor az MI sok esetben jóval nagyobb adatbázis összevetésével hozhat valószínűsíthetően objektívebb döntést, mint a bíró.

Az igazi problémát a bűnösség esetén hozható érdemi döntések jelentik. Egyelőre ezzel kapcsolatosan az emberek többsége szkeptikus, nehezen fogadna el egy MI által hozott döntést még akkor is, ha az tartalmilag teljesen megfelel a bíró döntésének. Az ítélkezés ugyanis nem csupán technológia, hanem magában hordoz egy bírói értékelő elemet is.[67] Ződi szerint a büntetőjogi MI-döntéshozatal korlátja az, hogy a gép nehezen tudja értékelni például a perbeszédekben elmondott érvek erejét, nehezen tudja határozatát megfelelően indokolni és egy algoritmus nehezen birkózik meg a tényállások feldolgozásával, életszerű narratívák felállításával és megítélésével.[68]

Mivel általános álláspont, hogy elsőként a "kis tucatügyek" kerülhetnek az MI elé, és a nagyobb, akár vitát kiváltó ügyeket továbbra is ember fogja elbírálni,[69] álláspontom szerint egyelőre a büntetővégzéssel eldönthető ügyek azok, ahol felmerülhet az MI nagyobb szerepe. Büntetővégzés esetén a bíróság lényegében a vádirati tényállás alapján, minden további bizonyítás lefolytatása nélkül hoz érdemi döntést, amit vagy el lehet fogadni (ebben az esetben jogerőre emelkedik és végrehajthatóvá válik), vagy tárgyalás tartását lehet kérni. Utóbbi esetben a büntetővégzést hatályon kívül helyezik (bár a tárgyaláson ugyanaz a bíró jár el, aki a büntetővégzést hozta, ezért ritkán tér el korábbi döntésétől). Pusztán a vádirati tényállás alapján, a korábbi, hasonló ügyekben hozott döntések egybevetésével maga az MI is meghozhatja a döntést (és itt nem áll fenn az az elfogultság, ami tárgyalás tartása iránti kérelem esetén ma vélelmezhető), azt ugyanis nehéz elképzelni, hogy bizonyítási eljárást folytasson le az MI, de még egy előkészítő ülés esetén is szükség van a bíró aktív tevékenységére.

Mielőtt azt gondolnánk, hogy az MI által meghozható ügydöntő határozatok számát jelentősen redukáljuk azzal, hogy a büntetővégzéses ügyekben tartjuk azt meghozhatónak, utalni kell arra, hogy a Legfőbb Ügyészség tájékoztatása szerint 2021-ben az ügyészségek a vádemelések 74,5%-ában büntetővégzés meghozatalára tettek indítványt, és a büntetővégzéssel érintett vádlottak 85%-ánál a büntetővégzés jogerőre is emelkedett, tehát sem a vád, sem a védelem részéről nem kérték tárgyalás tartását.[70] Noha ez a statisztika torz, hiszen a COVID-19 vírus miatti veszélyhelyzet idején hatályban lévő szabályok jóval tágabb teret engedtek a büntetővégzéses eljárások lefolytatásának, arra mindenképpen jó, hogy jelezze, az ügyek jelentős része (mintegy 3/4-e) alkalmas arra, hogy azokat iratok alapján döntsék el. Az MI-nek az ilyen ügyekben lehet jelentős szerepe a jövőben, a vitás, bizonyítást (esetleg ellenbizonyítást) igénylő, akár több tárgyalási napon is tárgyalandó ügyeknél ez fel sem merül.

Tegyük fel, hogy az MI által hozott döntés megegyezik azzal, amit a bíró hozott volna. Ebben a döntés elfogadottsága pusztán attól függ, hogy a résztvevők tisztában vannak-e vele, hogy azt nem ember, hanem egy számítógép hozta. A Turing-teszthez (amikor egy billentyűzet és monitor segítségével tartja csak a kérdező a kapcsolatot a másik szobában lévő tesztalannyal, és próbálja megállapítani, hogy ember vagy gép válaszol-e a kérdéseire[71]) hasonló híres példa erre az ún. "kínai szoba" esete. A kínai szoba gondolatkísérlete során egy szobába bezárnak valakit, aki nem tud kommunikálni a külvilággal, és azzal a feladattal bízzák meg, hogy a neki átadott angol üzeneteket fordítsa le kínaira egy megadott algoritmus alapján. A kint lévőknek azt mondják, hogy bent ül egy személy, aki tökéletesen tud angolról kínaira fordítani. Amikor az a kínaira lefordított üzeneteket kiadja, a kintiek joggal feltételezik, hogy tényleg van valaki belül, aki érti a kínai nyelvet, holott egy szót se tud kínaiul. Nyilvánvalóan nem lehet azt mondani, hogy ez a személy a szobában érti a kínai nyelvet, mégis tökéletes kínai tolmácsnak tűnik.[72] Ugyanez a helyzet azzal, ha az MI hozza meg azt a döntést, amit a bírónak kellene: mindaddig, amíg a résztvevők nem tudják, hogy egy számítógép hozta a döntést, ugyanúgy viszonyulnak hozzá, mintha ember hozná: ha tartalmilag elfogadják, a döntés jogerőre emelkedik, ha nem, akkor tárgyalás tartását kérik, és a korábbi döntés mintha nem is lett volna. Megismétlem, hogy ez még jobb helyzetet is eredményez, mint a jelenlegi rendszerben, hiszen itt a bíró tényleg csak először foglalkozik az üggyel, így nem válik "saját döntése foglyává". Valószínű, hogy ha előre megmondják, hogy a döntést MI hozta, akkor jóval több esetben kérnek a döntés ellen tárgyalást, mintha erről nem tudnak. Ugyanakkor, ha a kivégzőosztag analógiájára (miszerint a kivégzőosztag tagjai közül az egyik fegyverben vaktöltény van, de egyik kivégző sem tudja,

- 173/174 -

hogy lövése halálos lesz-e, mert nem mondják meg, hogy kinek a fegyverében van a vaktöltény) a döntések is úgy születnének, hogy minden tizediket a bíró hozná, de az érintettek nem tudnák, hogy az adott döntést MI vagy ember hozta, jóval nagyobb lenne a döntések elfogadottsága. Ugyanakkor rá kell mutatni, hogy az Európai Unió általános adatvédelmi rendeletének (GDPR)[73] 22. cikke szerint az érintett jogosult arra, hogy az MI által hozott döntések hatálya ne terjedjen ki rá, ha az rá nézve joghatással jár vagy őt jelentős mértékben érintené (azaz tudnia kell mindenkinek azt, hogy ügyében az MI hozott döntést és lehetőséget kell neki biztosítani arra, hogy ezt ne fogadja el). Az MI csak akkor hozhat érdemi döntést, ha azt az uniós vagy tagállami jog kifejezetten lehetővé teszi és az érintett ehhez kifejezetten hozzájárul.[74]

A másik kérdés az, hogy milyen jellegű bűncselekmények esetén képzelhető el leginkább az MI döntéshozatala, vannak ugyanis bizonyos bűncselekmények, amelyek esetén a bírók is meglehetősen mechanikusan döntenek. Idesorolható például az ittas állapotban elkövetett járművezetést, illetve a nemzetközi szakirodalom szerint egyes kábítószeres bűncselekményeket. Előbbi bűncselekménynél a zéró tolerancia miatt a büntetőjogi felelősség megállapítása az esetek 99%-ában nem kérdéses, büntetés kiszabására pedig viszonylag objektív tényezők alapján kerül sor: ittasság foka, korábbi közlekedési előélet, esetleges egyéb közlekedési szabályszegések. Büntetésként általában a járművezetéstől eltiltás és a pénzbüntetés merülhet fel. Előbbit a bíróságok szinte kizárólag az ittasság fokához igazítják, illetve, ha a vádlottnak volt korábbi ittas állapotban elkövetett járművezetése, akkor hosszabb időre tiltják el a járművezetéstől.

A pénzbüntetés kiszabására szintén könnyen készíthető algoritmus: a fenti bűnösségi körülményekhez igazodik a napi tételek száma. Györgyi és Bárd szerint a büntetéskiszabás tulajdonképpen a napi tételek számának meghatározásával be is fejeződik. Az egynapi tétel összegének meghatározása szerintük idegen a büntetéskiszabási tevékenységtől, hiszen ez nem más, mint a jövedelemigazolás, adóigazolás, adó-érték bizonyítvány, a terhelt által szolgáltatott és a nyomozó hatóság által feltárt adatok alapján felderített jövedelmi-vagyoni viszonyok meghatározását követő számtani művelet (a meghatározott egynapi jövedelemből levont megélhetési költségekkel meghatározott összeg).[75] Ebben a tekintetben az MI által hozott döntés során sokkal inkább vissza lehetne térni a napi tételes rendszerű pénzbüntetés eredeti céljához, hiszen, sajnos, a gyakorlatban a bíróságok egyáltalán nem számolják ki az egynapi jövedelemből levont megélhetési költségekkel meghatározott összeget, hanem valójában a bíróság által "kiszabásra szánt" pénzbüntetés összegét osztják vissza a napi tételek számával. Huszonöt éves ügyvédi gyakorlatomban egyetlen egy olyan büntetővégzéssel (korábban: tárgyalás mellőzésével hozott végzéssel) sem találkoztam, ahol a bíróság az indokolásában kifejtette volna, hogy mennyi a vádlott jövedelme, abból milyen megélhetési költségeket vont le, azt hogyan osztotta el 30-cal,[76] és miért lett ezt követően az egynapi tételek száma annyi, amennyi. Ez azonban nemcsak a büntetővégzésekre (tárgyalásmellőzéses végzésekre) igaz, hanem a részletesen indokolt ítéletekre is, ha pénzbüntetést szabnak ki.

Az ittas állapotban elkövetett járművezetés esetén az MI könnyen megbirkózhat a határozat egyéb rendelkezéseivel is. Így, ha a jogosítványt a vádlottól elvették, nem okozhat gondot a járművezetéstől eltiltás tartamába való beszámításra vonatkozó rendelkezés meghozatala, de ugyanez igaz a bűnügyi költségre is. A határozatban szereplő figyelmeztetéseket eddig sem a bíró írta bele a határozatokba, hanem a korábbi minták alapján került bele. Ha pedig az indokolás részletesen tartalmazza azokat az adatokat, amelyeket az MI a határozat meghozatalakor figyelembe vett, könnyen eldönthető, hogy a határozatot tudomásul veszik vagy tárgyalás tartását kérik ellene.

Hasonló levezetést lehetne elvégezni a többi, általában büntetővégzéssel elbírált ügy esetén is. Az embercsempészés és a kapcsolódó bűncselekmények (például határzár tiltott átlépése, határzár megrongálása, jogellenes bevándorlás elősegítése, támogatása) általában egyszerű megítélésű, kevesebb mérlegelést igénylő ügyek, ezért szintén alkalmasak lehetnek az MI általi eldöntésre (mint ahogyan az ezekkel kapcsolatos adatfeldolgozásban, kérelmek elbírálásában stb. már ma is gyakran veszik igénybe az MI-t). Érdekes módon a nemzetközi szakirodalom az MI által könnyen meghozható döntések közé sorolja az egyszerűbb megítélésű (elsősorban tartás és nem kereskedelem jellegű) kábítószeres bűncselekményeket is. A Vasentha-eset alapján például Szingapúrban kialakult olyan bírósági gyakorlat, hogy az első bűntényes kábítószerrel visszaélések esetén bizonyos kábítószer-mennyiségi tartományokhoz bizonyos mértékű büntetés kapcsolódik. Noha a bíróságok ezt a szinte tisztán matematikai jellegű összefüggést tagadták (a bírói mérlegelés elve alapján tagadniuk is kellett), a tendencia megfigyelhető.[77]

A komolyabb problémát a súlyosító és enyhítő körülményeknek az MI által való figyelembevétele okozhatja.

- 174/175 -

Sokszor még az eljáró bíró számára is a legnagyobb nehézséget annak a mérlegelése jelenti, hogy mi minősül súlyosító vagy enyhítő körülménynek,[78] és a vizsgált ügy milyen mértékben hasonlít a korábbi ügyekben vizsgált tényezőkhöz vagy különbözik azoktól. A bírói mérlegelésnek ez a része Shaun szerint nem könnyen redukálható matematikai képletekre, ráadásul a törvény előtti egyenlőség elve alapján ezt nem is lehet matematikai pontossággal lefordítani.[79]

V. Következtetések

Az MI-vel kapcsolatosan elterjedt az a vélekedés, miszerint a döntéshozatalban, különösen a bírói döntéshozatalban nem vehetik át az ember szerepét, egyesek szerint soha nem juthatunk el addig, hogy ténylegesen az MI hozzon döntést egyedi ügyben. Ehhez képest a tanulmányban ismertetésre került, hogy az MI általi döntéshozatal nemhogy a távoli jövő, hanem sok helyen már ma is létező folyamat. Egyesek szerint nem is az a kérdés, hogy az MI részt fog-e venni a döntéshozatalban, hanem csak az, hogy mikor és mennyiben alakítja át a jelenlegi döntéshozatali rendszert.[80]

Az MI általi döntéshozatal elleni felhasználói bizalomnak Shaun szerint négy fő oka van. Az első az, hogy az MI működését biztosító modern algoritmusok az ember számára követhetetlenek. A második, hogy ezek a műveletek olyan mennyiségű adatkészleten alapulnak, amelyeket az ember képtelen lenne átlátni, ezáltal nemcsak az MI alapját képező algoritmus átláthatatlan, hanem az is, hogy ez az algoritmus milyen adatokat dolgoz fel. A harmadik probléma a tanulmányban ismertetett NLP-technológiából ered: mivel az MI akkor képes az adathalmazt feldolgozni, ha azt előzőleg NLP-technológiával feldolgozzák, ez az átalakítás újabb bizonytalanságot teremt. Negyedszer pedig problémát jelent az is, hogy az MI általi érvelési folyamat nem magyarázható a hagyományos módon.[81] Ezek a problémák vezettek végül oda, hogy felmerült a "megmagyarázható MI" (explainable AI, rövidítve xAI) fogalmának a bevezetése, amelynek célja, hogy különböző módszerekkel eltávolítsák (de legalább csökkentsék) az ismeretlen tényezőket az MI-döntéshozatalból, megszüntessék (korlátozzák) annak "fekete doboz" jellegét.[82] Az xAI esetén a tényleges döntéshozatal modelljét egy másik modell kíséri, amelynek célja annak megmagyarázása, hogy az MI miért hozta azt a döntést, amit hozott, és ha bizonyos tényezőket kivettünk volna a döntéshozatalból, akkor mi lett volna a döntés.[83] Mezei szerint olyan módszereket kell kidolgozni, amelyeknél külső szakértők férnek hozzá a betáplált adatokhoz és a kódokhoz is, ezáltal ellenőrizhető, hogy az adott bemenet miért eredményezte az adott kimenetet.[84]

Az MI által hozott döntések esetén az a legfontosabb kérdés, hogy azok minősége megfelel-e a bíró által hozott döntéseknek, azaz, az MI által hozott döntés szakmailag van-e olyan minőségű, mint egy emberi döntés. Erre valószínűleg akkor kapnánk választ, ha az MI és a bírák is hoznának ugyanabban az ügyben döntéseket, és a "kínai szoba" jelen tanulmányban említett példájára azokat anélkül vetnénk össze, hogy tudnánk, hogy melyiket hozta az MI és melyiket ember. Könnyen lehet, hogy megdöbbentő eredményre jutnánk, ugyanis az MI az embernél jóval nagyobb adathalmazt képes áttekinteni, teljesen át tudja tekinteni mind az adott ügy aktáját, mind a hasonló ügyben hozott döntéseket, és ennek megfelelően véleményem szerint alaposabb döntés meghozatalára képes. Az kérdéses, hogy mennyire jelent problémát, hogy az MI döntéshozatalából hiányzik a szubjektív elem, és nem vesz figyelembe aktuálpolitikai, kriminálpolitikai és egyéb tényezőket. Sokak szerint ugyanis ezeknek a tényezőknek is szerepet kell játszaniuk a döntéshozatalban, míg mások éppen ez ellen érvelnek.

Amíg az MI gyenge-MI formájában létezik, a döntéshozatalban való szerepe nyilvánvalóan kisebb mértékű, hiszen csak formalizált döntéseket képes hozni a döntéshez szükséges adatok rendelkezésre bocsátását követően. Ugyanakkor nem vitásan megkönnyítené (és jelentősen meggyorsítaná) a döntést, ha például egy erre a célra szolgáló formanyomtatványon kellene a vádnak és a védelemnek felsorakoztatni a letartóztatás elrendelése vagy éppen annak megszüntetése melletti és elleni érveket, és annak alapján születhetne meg a döntés. Az elektronikus formanyomtatványok és az elektronikus kapcsolattartás miatt már manapság is jelentősen megnövekedett a formalizmus,[85] ami elősegítheti a formalizált döntéseknek az MI általi meghozatalát. Ződi egyenesen úgy fogalmaz, hogy önálló szakmaként fog jelentkezni a jogszabályok (és hozzá kell tenni: az egyes beadványok) kóddá való átalakítása.[86]

Ugyanakkor (ahogyan az emberi döntésnek) az MI által hozott döntésnek (és az egész döntéshozatali folyamatnak) is tisztességesnek, ezen belül átláthatónak, megmagyarázhatónak és dokumentálhatónak kell lennie.[87] Az MI ugyanis olyan mértékű adathalmaz (Big Data) fel-

- 175/176 -

dolgozása alapján hozza a döntését,[88] hogy egy hibás döntés esetén nehezen lehet kimutatni, hogy a hiba oka a feldolgozott adatokban vagy magában a döntéshozatalban rejlik.[89] Alapvetően téves ugyanis az a feltevés, hogy ha az MI minél több adat alapján hozza a döntését, annál jobb döntést hoz, mivel az a fontosabb, hogy a döntése alapjául szolgáló adatok megfelelően legyenek kiválogatva és a szükséges mértékűre legyenek szűkítve.[90] Éppen ezért mindenkor szükséges lehetővé tenni az emberi kontrollt, ami az egyértelműen a hibás adatokból vagy hibás adatfeldolgozásból eredő hibák kiküszöbölésére szolgál (amint az az emberi döntéshozatalnál is létezik). A vád és a védelem számára lehetővé kell tenni, hogy megkérdőjelezze az MI döntését, a különböző elemeknek tulajdonított jelentőséget, valamint, hogy igazolhassa, hogy szerinte az MI döntése (következtetése) miért téves.[91] Noha sokak szerint az MI legnagyobb előnye az, hogy sokkal kevesebbet hibázik, mint az ember, Waldman szerint ez nem igaz, mert a gépek legalább annyira hajlamosak a hibákra, torzításokra és önkényességre, mint az ember, sőt döntéseik nehezebb átláthatósága miatt még talán rosszabbak is, mert ez jelentősen megnehezíti az algoritmikus döntések megkérdőjelezését és elemzését.[92]

Sourdin szerint az MI három szinten segítheti a döntéshozatalt: az első szint a "támogató technológia" (supportive technology), amikor az MI a bírót támogatja (például adatfeldolgozással, adatok kigyűjtésével, vonatkozó jogszabályi rendelkezések vagy bírói határozatok kiválogatásával). A második szint a "helyettesítő technológia" (replacement technology), amikor már bizonyos feladatokat az MI átvesz (például formanyomtatványon alapuló kérvények elbírálása). Nagyjából ennek a szintnek felel meg az ember és a gép együttműködésén alapuló döntéshozatal (más néven cobotizáció) is.[93] A technológiára Ződi szerint általában (és nem csak az MI vonatkozásában) igaz, hogy első hullámban csak optimalizálja, könnyíti a munkafolyamatokat, és csak később váltja fel azokat.[94] A harmadik szint pedig a "diszruptív technológa" (disruptive technology), ami önálló döntésein keresztül teljes egészében megváltoztatja az igazságszolgáltatás munkamódszerét.[95] Kimondhatjuk, hogy az MI jelenleg még nem olyan fejlett, hogy elérje a harmadik szintet és teljesen önállóan döntsön el bonyolult büntetőügyeket, hanem a "támogató technológia" szintjén áll, azaz a döntés-előkészítésben, döntéstámogatásban már most is hatalmas szerepet kaphat, és közeledik az az idő, amikor már az egyszerűbb, papír alapján, tárgyalás nélkül meghozható döntéseket is meghozhatja. ■

JEGYZETEK

[1] https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_HU.html (2023.03.08.).

[2] Karsai Krisztina: A mesterséges intelligencia szabályozásának európai tervezete, avagy algoritmusok térnyerésének előjelei a (büntető) igazságszolgáltatásban. Forum. Acta Juridica et Politica. 2021/3. sz. 190.

[3] Eszteri Dániel - Péterfalvi Attila: Amikor a gépeink tanulnak minket, avagy a mesterséges intelligencia alapú döntéshozatal és profilozás szabályozásának európai unió törekvéseiről. Századvég. 2022/1. sz. 96.

[4] Európai Bizottság: Javaslat. Az Európai Parlament és a Tanács rendelete a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról és egyes uniós jogalkotási aktusok módosításáról. Brüsszel, 2021.4.21. COM(2021) 206 final 2021/0106 (COD).

[5] Karsai: i. m. 193.

[6] Dobó Judit - Gyaraki Réka: A mesterséges intelligencia egyes felhasználási lehetőségei a rendvédelmi területeken. Magyar Rendészet. 2021/4. sz. 72.

[7] Kollár Csaba: A mesterséges intelligencia kapcsolata a humán biztonsággal. Nemzetbiztonsági Szemle. 2018/6. sz. 5-23.

[8] Dobó-Gyaraki: i. m. 76.

[9] Lauritsen, Marc: Towards a Phenomenology of Machine-Assisted Legal Work. Robotics, Artificial Intelligence and Law. 2018/3-4. sz. 79.

[10] https://www.europarl.europa.eu/news/hu/headlines/society/20200827STO85804/mi-az-a-mesterseges-intelligencia-es-mire-hasznaljak (2023.03.08.)

[11] Rigano, Christopher: Using Artificial Intelligence to address criminal justice needs. National Institute of Justice Journal. 2019/1. sz. 1.

[12] Grishin, D. - Naumov, V.: Koncepciya zakona o robototekhnike. https://vc.ru/flood/20724-law-robots (2023.03.08.).

[13] Morhat, P. M.: Iskusstvennyj intellekt: pravovoj vzglyad. Moszkva, 2017. 11.

[14] Kaplan, Andreas - Haenlein, Michael: Siri, Siri, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons. 2019/1. sz. 16.

[15] Russell, Stuart J. - Norvig, Peter: Artificial Intelligence: A Modern Approach. Upper Saddle River, New Jersey, Pearson Education, 2010. 10-11.

[16] McCarthy, John - Minsky, Marvin L. - Rochester, Nathaniel - Shannon, Claude E.: A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. August 31, 1955. AI Magazine. 2006/4. sz. 13.

[17] Raso, Filippo - Hilligoss, Hannah - Krishnamurthy, Vivek - Bavitz, Christopher - Kim, Levin: Artificial intelligence & Human rights: Opportunities & Risks. Berkman Klein Center for Internet & Society Research Publication, 2018. 7.

[18] Pusztahelyi Réka: Emberi döntéshozatalt segítő, illetve kiváltó mesterséges intelligencia alkalmazásával okozott károkért való felelősség. Miskolci Jogi Szemle. 2020/3. sz. 132.

[19] Eszteri-Péterfalvi: i. m. 98.

[20] Moreno, A. M. M.: Inteligencia artificial y derecho penal: primeras aproximaciones. Revista jurídica de Castilla y León. 2021/53. sz. 183.

[21] Scherer, Maxi: Artificial Intelligence and Legal Decision-Making: The Wide Open? Journal of International Arbitration. 2019/5. sz. 543.

[22] Staffler, Lukas - Jany, Oliver: Künstliche Intelligenz und Strafrechtspflege - eine Orientierung. Zeitschrift für Internationale Strafrechtsdogmatik. 2020/4. sz. 166.

[23] Mark, Bernard: What is Weak (Narrow) AI? Here Are 8 Practical Examples. https://bernardmarr.com/what-is-weak-narrow-ai-here-are-8-practical-examples/ (2023.03.08.); Mark, Bernard: What Is Strong (General) AI? Here Are 9 Practical Examples. https://bernardmarr.com/what-is-strong-general-ai-here-are-9-practical-examples/ (2023.03.08.); What is strong AI? https://www.ibm.com/cloud/learn/strong-ai (2023.03.08.).

[24] Sushina, Tatjana - Sobenin, Andrew: Artificial Intelligence in the Criminal Justice System: Leading Trends and Possibilities. Proceedings of the 6th International Conference on Social, economic, and academic leadership (ICSEAL-6-2019). Dordrecht, Atlantis Press, 2020, 432.

[25] Lőrincz György: A mesterséges intelligencia alkalmazásával hozott döntés jogi megítélésének egyes kérdései. Gazdaság és Jog. 2019/4. sz. 1.

[26] Móczár Dóra: Mesterséges intelligencia és a büntetőjogi felelősségi kérdések, különös tekintettel az önvezető autókra. Magyar Jog. 2022/6. sz. 370-371.

[27] Agócs az önvezető járművekkel összefüggésben pl. említ eredményorientációs döntéseket (kisebb sérelem okozásának az elve) és folyamatorientációs döntéseket (véletlenszerű döntés elve). Agócs Petra Márta: Az önvezető járművek által felvetett problémákra adható lehetséges válaszok a magyar büntetőjog alapján. Magyar Jog. 2022/6. sz. 363.

[28] Ződi Zsolt: Az Európai Bizottság mesterséges intelligencia kódexének tervezete. Gazdaság és Jog. 2021/5. sz. 1.

[29] Uo. 2.

[30] Mezei Kitti: Diszkrimináció az algoritmusok korában. Magyar Jog. 2022/6. sz. 336-337.

[31] Ződi: i. m. (2021) 2.

[32] Scherer, Maxi: Artificial Intelligence and Legal Decision-Making: The Wide Open? Journal of International Arbitration. 2019/5. sz. 565.

[33] MacCormick, Neil: Legal Reasoning and Legal Theory. Oxford, Oxford University Press, 1994. 21-29.

[34] Scherer: i. m. 567.

[35] Danziger, Shai - Levav, Jonathan - Avnaim-Pesso, Liora: Extraneous Factors in Judicial Decisions. PNAS. 2011/108. sz. 6890. A 10 hónap alatt mintegy 1100 döntésre kiterjedő vizsgálatuk eredménye kimutatta, hogy a terhelt számára kedvező döntés valószínűsége lényegesen nagyobb közvetlenül a bíró napi étkezési szünetei után, mint előtte.

[36] Tegmark, Max: Élet 3.0. Embernek lenni a mesterséges intelligencia korában. Budapest, HVG Könyvek, 2018. 118.

[37] Frank, Jerome: What Courts Do in Fact. Illinois Law Review. 1932/26. sz. 645.

[38] Holmes, Oliver Wendell: The Path of the Law. Harvard Law Review. 1897/10. sz. 458.

[39] Scherer: i. m. 572.

[40] Unger, Roberto Mangabeira: The Critical Legal Studies Movement. Cambridge, Harvard University Press, 1986. 617.

[41] Scherer: i. m. 571.

[42] https://index.hu/fomo/2022/12/07/galambos-lajos-lagzi-lajcsi-lopas-itelet-bortonbuntetes-ugyved/ (2023.03.08.).

[43] Sushina-Sobenin: i. m. 433-434.

[44] Eszteri-Péterfalvi: i. m. 102.

[45] Lőrincz: i. m. 2.

[46] Részletesen lásd Herke Csongor: A mesterséges intelligencia kriminalisztikai aspektusai. Belügyi Szemle. 2021/10. sz. 1714-1717.

[47] Rigano: i. m. 9.

[48] Boahemaa, Fuso Jovia: The impact of Artificial Intelligence on justice systems. Trento BioLaw Selected Student Papers. 2018-2019/25. sz. 6.

[49] Wickramarathna, Nipuni - Edirisuriya, E. A. T. A.: Artificial Intelligence in the Criminal Justice System: A Literature Review and a Survey. KDU International Research Conference, Conference paper. 2021. 4.

[50] Dobó-Gyaraki: i. m. 79.

[51] Ződi Zsolt: A digitalizáció hatása a jogászi szakmára. Gazdaság és Jog. 2018/12. sz. 5.

[52] Mezei: i. m. 332.

[53] Fenyvesi Csaba. Minden rendőrség annyit ér amennyi adata van. Belügyi Szemle. 2022/11. sz. 2257-2260.

[54] Ennek volt köszönhető az a sok helyen citált eset, hogy az amerikai MI-alapú COMPAS rendszer a fekete bőrűeknél kétszer akkora bűnelkövetés kockázati besorolást mutatott ki, mint a fehér bőrűeknél. Mezei: i. m. 332-333.

[55] Hu, Margaret: Small Data Surveillance v. Big Data Cybersurveillance. Pepperdine Law Review. 2015/4. sz. 773-795. Pünkösty 3+1 V-ről beszél (a value a +1): Pünkösty András: Egy új digitális etika megalapozásának egyes szempontjai - big data, algoritmusos döntéshozatal és a személy az adatalapú társadalomban. In: Ződi Zsolt - Török Bernát (szerk.): A mesterséges intelligencia szabályozási kihívásai. Budapest, Ludovika Egyetemi Kiadó, 2021. 45. Egyes szerzők szerint pedig az ötödik "V" a "Value" ("érték"), azonban ennek témánk szempontjából nincs jelentősége. Vö. Affelt, Amy: Big Data, Big Opportunity. Australian Law Librarian. 2013/2. sz. 78-89.

[56] https://www.necsws.com/police-records-management-system/ (2023.03.08.).

[57] https://www.interpol.int/Crimes/Crimes-against-children/International-Child-Sexual-Exploitation-database (2023.03.08.).

[58] Rigano: i. m. 3. és 5.

[59] Wickramarathna-Edirisuriya: i. m. 3.

[60] Shaun, Lim: Judicial Decision-Making and Explainable Artificial Intelligence. Singapore Academy of Law Journal. 2021/33. sz. 286.

[61] Hao, Karen: AI Still Doesn't Have the Common Sense to Understand Human Language. MIT Technology Review. 2020/1. sz. https://www.technologyreview.com/2020/01/31/304844/ai-common-sense-reads-human-language-ai2/ (2023.03.08.).

[62] Ződi: i. m. (2018) 8.

[63] Vincent, James: Twitter taught Microsoft's AI chatbot to be a racist asshole in less than a day, https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist (2023.03.08.).

[64] Scherer: i. m. 548-552.

[65] Ződi: i. m. (2018) 7.

[66] Nagy Adrienn: Digitalizáció és mesterséges intelligencia a magyar igazságszolgáltatásban. Miskolci Jogi Szemle. 2020/3. sz. 109.

[67] Uo. 110.

[68] Ződi: i. m. (2018) 9.

[69] Uo.

[70] Ügyészség 2021 - a büntetővégzés. 2022. október 21. http://ugyeszseg.hu/ugyeszseg-2021-a-buntetovegzes/ (2023.03.08.).

[71] Dobó-Gyaraki: i. m. 69.

[72] Shaun: i. m. 311.

[73] Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK rendelet hatályon kívül helyezéséről (általános adatvédelmi rendelet). HL L 119., 2016.5.4., 1-88.

[74] Eszteri-Péterfalvi: i. m. 104. és 106.

[75] Györgyi Kálmán - Bárd Károly: A pénzbüntetés és a kodifikáció. Jogtudományi Közlöny. 1978/1. sz. 15.

[76] A pénzbüntetés bevezetésekor az indokolás szerint átlag 30-cal kellett osztani, noha az év 12 hónapjából csak 4 van, amelyik 30 napos.

[77] Shaun: i. m. 298-300.

[78] Részletesen lásd Herke Csongor: Súlyosítási tilalom a büntetőeljárásban. Pécs, PTE ÁJK, 2010. 213-219.

[79] Shaun: i. m. 297.

[80] Nagy: i. m. 110.

[81] Shaun: i. m. 287.

[82] Deeks, Ashley: The Judicial Demand for Explainable Artificial Intelligence. Columbia Law Review. 2019/8. sz. 1835.

[83] Scherer: i. m. 563.

[84] Mezei: i. m. 336.

[85] Nagy: i. m. 111.

[86] Ződi: i. m. (2018) 9.

[87] Mezei: i. m. 337.

[88] Scherer szerint rövid időn belül a fogyasztók szintjén rendelkezésre álló számítógépek tárolókapacitása elegendő lesz az emberiség összes írott műveinek a tárolására a történelem kezdetétől, minden nyelven. Scherer. i. m. 547.

[89] Shaun: i. m. 308.

[90] Eszteri-Péterfalvi: i. m. 117.

[91] Sushina-Sobenin: i. m. 434.

[92] Waldman, Ari Ezra: Power, process, and automated decision-making. Fordham Law Review. 2019-2020/2. sz. 614.

[93] Lőrincz: 2. Lőrincz szerint ezt a kifejezést (amely a cooperation és a robotizáció szavak összevonásából keletkezett) először az alábbi tanulmányban használták: Fine, Davis - Havas András - Hieronimus, Solveigh - Jánoskuti Levente - Kadocsa András - Puskás Péter: Átalakuló munkahelyek: az automatizálás hatása Magyarországon. Budapest, McKinsey&Company, 2018.

[94] Ződi: i. m. (2018) 4.

[95] Sourdin, Tanja: Judge vs Robot? Artificial intelligence and judicial decision-making. University of South Wales Law Journal. 2018/4. sz. 1117-1118.