Az elmúlt évtizedek digitális fordulata oly módon érintette társadalmunk alapvető értékeit, ami a büntetőjog viszonylag állandó környezetében is meghatározónak bizonyult. A büntetőeljárásban nem csupán új bizonyítási eszközök jelentek meg, hanem olyan új felderítési eszközök is, amelyek nagy mennyiségű adat feltörésén, bányászatán és feldolgozásán alapulnak. A bírósági határozatok digitalizálásra kerültek, és ezekkel együtt megjelentek azok a szoftverek is, amelyek a büntetőeljárás predikciós mintáit kívánják azonosítani. A soha nem látott mennyiségű digitális adat ráadásul átirányította a figyelmet a kódon alapuló modellezési rendszerről egy mélytanuláson alapuló modellezési rendszerre, amelyben a hangsúly már nem a kódolásra, hanem a rendszer betanítása céljából bevitt adatbázisra helyeződik. Mindez azoknak az alapvető értékeknek a háttérkutatása nélkül ment végbe, amelyekre hagyományosan az állami büntetőhatalom korlátaiként tekintünk.
A jogra és a technológiára hagyományosan ellentmondásként tekintenek. A büntetőjog és a technológia fogalmának összekapcsolása még nehezebb feladatnak ígérkezik. Elvégre a büntetőjog a jogrendszer egészének a szankciós záróköve, amely a társadalom alapvető értékeit akkor oltalmazza, amikor más jogágaknak a szankciói immáron nem elégségesek.[1] S mivel ezek az értékek meglehetősen lassan változnak, maga a büntetőjogi környezet is viszonylag állandó.
Az elmúlt évtizedek digitális fordulatának hatására viszont nem csupán lélegzetelállító tudományos előrelépésre került sor minden egyes szakmai szférában, de egyben a leggyorsabb, legmeghökkentőbb és legszélesebb körben elterjedt kulturális változásra is.[2] Mindez oly módon érintette társadalmunk alapvető értékeit, ami a büntetőjog viszonylag állandó környezetében is meghatározónak bizonyult.
Az információs-technológiai forradalom első büntetőjogi fordulatára a büntető anyagi jogban került sor.[3] Az elmúlt két évtizedben az európai jogalkotók figyelme az informatika határokat nem ismerő világában elkövetett bűncselekmények kriminalizálására irányult.[4] E folyamat során két dolog vált világossá. A büntetőjog egyrészt nem tud lépést tartani a társadalmi szokásokat alakító tudományos forradalommal. Az utóbbi mindig megelőzi a büntetőjog-alkotást és -alkalmazást. A digitális fordulat a büntetőjog terrénumában másrészt nem korlátozódik a kiberbűnözés jelenségére.[5] Elvégre napjaink bűnügyi kutatásai immáron a mesterséges intelligencia büntetőeljárásban betöltött lehetséges szerepét vizsgálják,[6] ahogyan azt magunk is tesszük.[7]
Digitális társadalommá való átalakulásunk nem csupán a bűnözést, de a bűnfelderítést és a büntető igazságszolgáltatást is lényegesen befolyásolta. A büntetőeljárás foganatosítása végső soron emberi feladat, amelynek belső aspektusaira (pl. a döntéshozatalra) az egyének életstílusában bekövetkezett digitális változás is kihat.[8] Mindez egy vitathatatlan tendenciának köszönhető. Mivel a büntetőjog-alkotás általában követi, nem pedig megelőzi a társadalmi változásokat, a digitális fordulatra is egy sajátos büntetőjogi keretrendszeren kívül, azt megelőzően került sor. Ez egyrészt azt jelenti, hogy a digitális fejlődés azoknak az alapvető értékeknek a háttérkutatása nélkül ment végbe, amelyekre hagyományosan az állami büntetőhatalom korlátaiként tekintünk. A digitális megoldások kidolgozásának folyamata másrészt figyelmen kívül hagyta a büntetőeljárás sajátos igényeit: az új és a már létező technológiák a büntetőeljárás szinte minden szegmensébe beszivárogtak olyan módszereket és megoldásokat nyújtva, amelyek nem feltétlenül felelnek meg a felhasználók szükségleteinek.[9]
Az informatikai fejlődés a digitális eszközeinkből kifolyólag óriási mennyiségű információhalmazt generált, amelyet a nagy teljesítményű számítási erőforrásoknak köszönhetően másodpercek alatt dolgozhatunk fel, és még az adattárolási költségeinket is csökkenthetjük.[10] Ezek a szolgáltatások alapvetően határozták meg a büntetőeljárási rendszerek fejlődését, még akkor is, ha azokat nem kifejezetten a büntetőjogi felelősségre vonás céljára szán-
- 1111/1112 -
ták. A büntetőeljárásban nem csupán új bizonyítási eszközök jelentek meg a digitális fordulatnak köszönhetően, hanem olyan új felderítési eszközök is, amelyek nagy mennyiségű adat feltörésén, bányászatán és feldolgozásán alapulnak. A bírósági határozatok digitalizálásra kerültek, és ezekkel együtt megjelentek azok a szoftverek is, amelyek a büntetőeljárás predikciós mintáit kívánják azonosítani. A soha nem látott mennyiségű digitális adat ráadásul átirányította a figyelmet a kódon alapuló (ha-akkor) modellezési rendszerről[11] egy mélytanuláson alapuló (adatvezérelt) modellezési rendszerre, amelyben a hangsúly már nem a kódolásra, hanem a rendszer betanítása céljából bevitt adatbázisra helyeződik.[12]
Mindez anélkül ment végbe, hogy a digitális forradalmat vezető informatikusok és a büntetőjog szakértői között megfelelő és hatékony konzultációra került volna sor. A szakirodalom megerősíti ezt az álláspontot, jelezvén, hogy a büntetőjogban lassabban indult meg az automatizálás és a mesterséges intelligencia alkalmazásából fakadó elméleti kihívásoknak a vizsgálata.[13]
Jelen kutatás a mesterséges intelligencia (MI) lehetséges szerepét vizsgálja a büntetőeljárásban. Jóllehet ez a törekvés a jogirodalomban egyre népszerűbbé válik, a mesterséges intelligenciának továbbra sincs standard definíciója. 2020 elején az Európai Bizottság tudományos szolgálata átfogó vizsgálatot folytatott le az 1950-es évek óta gyarapodó MI-definíciókat illetően. Kutatása eredményeként a Közös Kutatóközpont javaslatot tett "az MI működési definíciójára, amely az alkalmazott tömör osztályozásnak és kulcsszavaknak köszönhetően képes jellemezni az MI legfőbb és átívelő területeit."[14] A jelentés szerint a szakirodalomban előforduló sokrétű MI-definícióknak négy közös ismérvük van: a való világ összetettségének figyelembevétele, az információfeldolgozás, a döntéshozatal és a meghatározott célok elérése. Az MI fogalmát ezért a következőkben a Közös Kutatóközpont meghatározása szerint használjuk, mely szerint: "az MI egy olyan gyűjtőfogalom, amely minden olyan gépre vagy algoritmusra utal, amely képes a saját környezete megfigyelésére, tanulásra, valamint a megszerzett ismeretekre és tapasztalatokra támaszkodva intelligensen cselekedni vagy döntéseket javasolni. Számos olyan technológia van, amely beletartozik ebbe a tág MI definícióba. Jelenleg az ML4 technikákat alkalmazzák a legszélesebb körben."[15]
A számítási modellezés egy másik fogalom, amely a kutatás során visszatérően jelenik meg. Az lényegében az összetett rendszereknek a szimulációját és tanulmányozását jelenti matematikai és informatikai módszerek segítségével. E modellezés alapvető célja voltaképpen a jelenséget szabályozó törvényszerűségeknek a felkutatása, általános rendszerbe foglalása. Tág értelemben a kifejezés valamennyi komplex rendszert felöleli, így az emberi viselkedést és a jogi érvelést is. Már a múlt század közepén megfogalmazódott az emberi komputer gondolata: "a »magatartási szabályokat« nem szabad összetévesztenünk a »viselkedési törvényekkel«. A »magatartási szabályok« alatt olyan észleleteket értek mint a »piros lámpánál való megállás«, amelyekre az ember tudatosan képes cselekedni. A »viselkedési törvények« alatt pedig olyan természeti törvényeket, amelyek egy ember testére gyakorolnak hatást mint amikor »megcsípsz valakit, akkor ő meg fog nyikkanni«. Ha az »emberi életet szabályozó viselkedési törvényeket« azokkal a magatartási szabályokkal helyettesítjük, amelyekkel »az ember a saját életét szabályozza« akkor már [...] nem csak az igaz, hogy a viselkedési törvényekkel való szabályozottságunk a gépi jellegünket tükrözi [...], hanem fordítva, a gépi jellegünkből adódóan szabályoznak bennünket törvények. Csakhogy nem tudjuk olyan egyszerűen meggyőzni magunkat sem a viselkedési törvények, sem a magatartási szabályok teljes hiányáról. E törvények feltárására csak a tudományos megfigyelésen keresztül vagyunk képesek, amelynek keretében semmi esetre sem mondhatjuk, hogy már »eleget kutattunk, nem léteznek ilyen törvények«."[16] A számítási modellezés fogalmát erre tekintettel a következőkben tágan értelmezzük, és azt minden olyan szabályhalmazra vonatkoztatjuk, amelyek az emberi viselkedés leírására és előrejelzésére hivatottak.
Végül, a kutatás harmadik központi fogalma az algoritmus. Tekintettel arra, hogy e fogalom meghatározásával összefüggésben nincs konszenzus az egyes tudományterületek képviselői között, fontos meghatároznunk az általunk alkalmazott definíciót. Eszerint az algoritmusok "olyan kódolt eljárások, amelyek a bemeneti adatokból meghatározott számítások alapján hozzák létra a kívánt kimeneti adatokat",[17] vagy másként fogalmazva, "olyan lépéseknek a sorozata, amelyeket egy meghatározott probléma megoldására vagy a kívánt eredmény elérésére hoztak létre."[18] Az algoritmus fogalmának e tág értelmezése ugyan kizárja az egyének intuícióját a probléma megoldásának vagy a feladat teljesítésének folyamatából (azt előre beállított, okozati összefüggésekkel helyettesíti), de egyben előremozdítja a nem-diszkrecionális döntéshozatali folyamatoknak a vizsgálatát.
Napjainkban egyre erősebb kételyek és félelmek fogalmazódnak meg egy olyan utópisztikus forgatókönyvvel kapcsolatban, amelyben a rendkívüli számítógépes hatalmat
- 1112/1113 -
az állam büntetőhatalmával összefüggésben gyakorolják. A közfeladatok automatizálását ugyanis a hagyományos európai megközelítésben nem lehet a magánszektor szereplőinek szabad vállalkozásgyakorlására bízni. E körben gondos kutatásra és vizsgálatra van szükség.[19]
A számítógépes modellezés és az MI büntetőeljárásbeli alkalmazásával összefüggő átfogó empirikus kutatásoknak mindenekelőtt világos fogalmi és elméleti keretek között kell zajlaniuk. E körben a kutatási kérdéseknek a pontos megfogalmazása döntő fontosságú. Különösen fontosnak mutatkozik annak felmérése, hogy az európai büntetőjogászoknak miből adódik a digitális eszközökkel szembeni félelme: Vajon abból a feltételezésből, hogy a digitális eszközök algoritmikus döntéshozatali folyamatokat hoznának a büntetőeljárásba?[20]
Népszerű[21] definíciója szerint "az algoritmusoknak nem szoftvereknek kell lenniük: a legtágabb értelemben azok olyan kódolt eljárások, amelyek a bemeneti adatokból meghatározott számítások alapján hozzák létre a kívánt kimeneti adatokat. Az eljárások magát a problémát és a megoldásukhoz szükséges lépéseket is rögzítik. A navigációs utasítások így algoritmusnak vagy olyan matematikai képleteknek tekinthetők, amelyek egy égitest mozgásának az előrejelzéséhez szükségesek."[22] Az algoritmusoknak így a szillogizmushoz - a bírói érvelés legjellemzőbb eszközéhez - hasonlóan normatív funkciójuk van, amelyek összekapcsolják az adatok kiinduló halmazát a kívánt következménnyel. A szillogizmus és az algoritmus között jelenleg a felállított normatív összefüggések - egészen pontosan a bemeneti adatok halmaza - alapján tehetünk elsősorban különbséget. Amíg a szillogizmus emberi logikán és emberi tapasztalatokon nyugszik, addig az algoritmusok manapság nagy adatmennyiségből gyűjtött statisztikákra alapoznak.[23] Az emberi és az automatizált döntések ily módon különböző mintákra épülnek: az előbbi a jelenbeli tapasztalatokkal összeegyeztethető múltbeli, személyes tapasztalatokban gyökerezik, az utóbbi viszont átfogó statisztikai adatokon nyugszik.
Hol van tehát a helyük az algoritmusoknak a büntetőeljárásban? Jóllehet nincsenek beépítve egy szoftverbe és nem is feltétlenül automatizáltak, hajlamosak kiiktatni a mérlegelésből és a döntéshozatalból az egyéni, empirikus tapasztalatokat, melyeket általános vagy inkább statisztikai bizonyítékokkal helyettesítenek. Az emberi magatartást értékelő döntéshozatali folyamatokban, így a büntetőeljárásban is, döntő fontosságú előfeltevést jelent az egyéni tapasztalatokról az általános (vagy statisztikai) bizonyítékokra való áttérés.[24]
Fogalmi szempontból a büntetőeljárás egy olyan folyamat, amelyben kétséget kizáró módon kell bizonyítani a tények megtörténtét, azok büntetőjogi relevanciáját, továbbá azt, hogy valóban a terhelt követte el a bűncselekményt, és amennyiben igen, és a büntethetőségének nincs akadálya, állást kell foglalni az alkalmazandó büntetőjogi szankció vonatkozásában. Ez a folyamat bár hasonló, mégis különbözik a tudományos vizsgálattól: amíg a tudományos vizsgálat a jelenség megfigyelésével indul, és azoknak az általános mintáknak a megállapítására törekszik, amelyek meghatározott körülmények között érvényesek, a büntetőeljárás azokat a körülményeket próbálja rekonstruálni, amelyek között a vizsgált jelenség (bűncselekmény) megvalósult.[25] A kauzalitás (okság) képezi tehát mind a tudományos, mind a büntetőjogi érvelésnek az alapját. Jóllehet a tudományos törvényszerűségek magyarázatot adnak bizonyos tények jelenlétére, a büntetőjog szempontjából releváns tényeket kétséget kizáró módon kell megindokolni a büntetőjogi döntésekben. Hogyan hatnak minderre az információs technológia (IT) és az MI közelmúltbéli eredményei? Erre a kérdésre több lépésben tudunk választ adni.
A válaszadást egyrészt azok az általános törvényszerűségek (hitelt érdemlő tudományos elméletek) nehezítik, amelyek a körülmények bizonyos halmazát hivatottak meghatározott következményekhez kötni. A kauzalitást hagyományosan egyetemes szabályok révén bizonyítják, megállapítva, hogy A-nak mindig B lesz az eredménye. A büntetőeljárás hatósági alanyainak azonban minden olyan esetben, amikor nem tudnak ilyen erős összefüggésekre támaszkodni, vissza kell térniük a nem egyetemes szabályokhoz, a bizonytalanság bizonyos fokához. A természettudományok nomotetikus és a büntetőjog idiografikus megközelítésének[26] részletes vizsgálata ugyan meghaladja jelen tanulmány kereteit, mégsem mehetünk el emellett szó nélkül, hiszen az szorosan összefügg az MI és a büntetőeljárás általános témakörével. Az Amerikai Egyesült Államok Legfelsőbb Bírósága a kilencvenes években olyan alapvető határozatot hozott, amely számos jogrendszerben szolgál mintaként a polgári eljárásokban. A Daubert kontra Merell Dow Pharmaceuticals ügyben[27] lefektették azokat a legalapvetőbb szabványokat, melyeket a bíróságok világszerte alkalmaznak a tudományos (vagy műszaki) elméleteken nyugvó bizonyítékok értékelése során.[28] A számítógépes modellek büntetőeljárásbeli alkalmazásában ebből kifolyólag a mögöttes tudományos
- 1113/1114 -
elméletek jelentik az összetettség elsődleges szintjét. Elvégre a modellnek egy olyan elméletben kell gyökereznie, amely megfelel a tudományos közösség validálási követelményeinek.[29]
A kérdés összetettségének második szintjét az említett tudományos elméletek eredményeinek az algoritmusba kódolása képezi. Az algoritmusok, mint említettük, olyan normatív eljárást dolgoznak ki, melyben a bemeneti adatok halmazából a szubjektív intuíciót és az önkényességet kizárva haladhatunk a kívánt kimeneti adatok irányába. Ezeket a matematikai modelleket az ember akár a büntetőeljárás során is működtetheti, feltéve, hogy azok megfelelően hitelesített elméleten alapulnak, továbbá az irányadó elmélet helyesen lett az algoritmusba kódolva.[30] E két követelmény teljesítése döntő fontosságú: az alapvető emberi jogokon nyugvó büntetőeljárásnak szükségszerű feltételét képezi az algoritmusok megvizsgálása, megvitatása és megtámadása.[31]
Feladatunkat harmadrészt az a tény is megnehezíti, hogy a digitális fordulat valamennyi döntéshozatali eljárásban ideális feltételeket teremtett az algoritmusok használatára. A digitális eszközök által napi szinten előállított óriási adatmennyiség immáron kiegészül az alacsony költségű rendkívüli számítógépes teljesítménnyel, létrehozva ezáltal azt a legmegfelelőbb környezetet, melyben az algoritmusok a leghatékonyabb eredményeket produkálhatják.[32] Egy ember által működtetett algoritmus viszonylag hosszú időn keresztül képes kis mennyiségű adatot feldolgozni, ezáltal kevés kimenetet produkálva. Ugyanez az algoritmus egy számítógépes modellen keresztül mindössze néhány másodperc alatt képes korlátlan mennyiségű adatot bányászni, ezáltal óriási mennyiségű kimenetet produkálva. Ebben az értelemben "a robotok és az MI használata csupán az Algoritmusos Társadalom sajátossága. [...] A nagy adatmennyiség az az üzemanyag, amely az Algoritmusos Társadalmat működteti [...] Kant elhíresült mondásával élve, az algoritmusok adat nélkül üresek; az adatok algoritmus nélkül vakok".[33]
A fentiek fényében azzal lehet érvelni, hogy az algoritmusok napjainkban egyre nagyobb lendületet nyernek a szubjektivitással szemben, köszönhetően a lényegüket képező normatív, matematikai megállapításoknak és összefüggéseknek.[34] Elvégre az algoritmikus döntéshozatali folyamat - az önkényességgel szemben - (elméletileg) objektivitást, hozzáférhetőséget és végső soron igazságot hivatott biztosítani.[35] Vajon tényleg elérhetőek lennének ezek a célkitűzések? Jelenleg hatalmas vita folyik az átláthatóságról mint az algoritmikus döntés méltányosságának alapvető feltételéről. Kétséges azonban, hogy az átláthatóság egyben biztosítaná a hozzáférhetőséget is. Az átláthatóság az algoritmusoknak nem egy veleszületett tulajdonsága. Sőt a szakirodalom jelentős része éppen az algoritmusok átláthatatlanságára fókuszál, vagyis arra a helyzetre, melyben a kódolt eljárás nem hitelesíthető utólag, ezért annak eredményeit sem lehet megmagyarázni, azok nem indokolhatók. Emellett nem szabad összekevernünk az átláthatóságot a hozzáférhetőséggel, mivel egy nyilvánosságra hozott kód teljesen hozzáférhetetlen maradhat azok számára, akik az algoritmikus döntés következményeit elszenvedik.[36]
A tudományos diskurzusban a hozzáférhetőség jelenik meg az algoritmikus döntéshozatal legalapvetőbb követelményeként mind a magán-, mind a közjogi kérdéseket illetően. A hozzáférhetőségnek különös vonzatai vannak a büntetőeljárás keretében zajló döntéshozatali folyamatokban. E fogalmat ugyanis itt a megmagyarázhatósággal és az indokolhatósággal kell összefüggésbe hoznunk.[37] A hatékony átláthatóság ebben az értelemben elsődlegesen az alapját képező tudományos elmélet pontosságától, másodlagosan pedig e tudományos elmélet matematikai formalizálásához használt nyelvnek az érthetőségétől függ.[38] Utóbbi elegendőnek bizonyulhat a megmagyarázhatóság szempontjából, hiszen egy érthető matematikai nyelv utólag világossá teheti a bíráló számára, hogy miként váltak a bemeneti adatokból kimeneti adatok. Az indokolhatóság teljesítéséhez viszont az alapul szolgáló tudományos elméletnek hitelt érdemlően kell ok-okozati összefüggést felállítania a bemeneti és kimeneti adatok között.[39] A hiteltérdemlőség fogalma kapcsán jelen kutatás során az USA Legfelsőbb Bíróságának Daubert-ügyben kifejtett értelmezését tekintjük irányadónak.
A számítógépes modellek és az MI büntetőeljárásbeli alkalmazhatóságát illetően az az általános feltételezés, hogy azok megfoszthatják a hatóságot mérlegelési jogkörétől. E hipotézis valóságának vizsgálatakor nem szabad megfeledkeznünk az alábbi két lényeges szempontról.
Először is a jogfosztással nem magát a gépet, hanem az algoritmust kell "gyanúsítanunk". A matematikai modellezés normatív megközelítése, mint említettük, a döntéshozatali folyamat objektivizálására hivatott, csökkentve a személyes kultúrából, a torzításokból, a rövidítésekből és a változó feltételekből fakadó szubjektivitást.[40] Másodszor is az algoritmikus érvelés az önkényességgel és nem feltétlenül a mérlegeléssel áll szemben.[41] Ebben az össze-
- 1114/1115 -
függésben bármely döntéshozatali eljárásban érthető az algoritmusok bevezetése iránti ambíció. Amíg az állami szektorban e törekvést a pártatlan és tisztességes ügyintézés igénye táplálja, addig a magánszektorban a nagyobb nyereség reményében hozott stratégiai döntéseknek a tisztasága.[42] Két változóval mindenesetre feltétlenül számolnunk kell. Az algoritmusok egyrészt csak a fentebb vázolt körülmények mellett érhetik el legitim céljukat: hitelt érdemlő elméleten kell alapulniuk és átláthatónak kell lenniük. Másrészt az algoritmusok használatának engedélyezése nem jelenti a mérlegelés száműzését a döntéshozatali folyamatból: a jogalkotó optimalizálhatja az algoritmusok és az emberi intuíció közti kapcsolatot.[43] Ez az érv az alapvető emberi jogokkal (pl. a tisztességes tárgyaláshoz való joggal) összefüggésben bizonyul különösen meghatározónak, amelyeknek a sérelme köztudottan lényegesen befolyásolhatja a döntéshozatal kimenetelét (pl. a kiszabandó büntetés nemét és mértékét). Természetesen érvelhetünk amellett, hogy a mérlegelési jog nem bizonyul értékesnek, amikor az alapvető emberi jogok forognak kockán, és hogy az MI az emberi intuíciónál is jobban teljesíthet akár az alapvető emberi jogok területen is, érdemes feltennünk a kérdést: vajon a társadalomra veszélyes emberi magatartások mérlegelésének teljesítményét miként lehet, vagy egyáltalán lehet-e javítani?[44] Jobb teljesítmény alatt valószínűleg egységesebb gyakorlat értendő: az MI ugyanis magasabb szintű következetességet képes biztosítani. Ezzel összefüggésben azt is a vizsgálódásunk tárgyává kell tennünk, hogy: válhat-e az egységesség a büntetőeljárás előnyére, és ha igen, mennyiben? A büntetőeljárás hatósági alanyai nem látnak el természettudományos vagy műszaki feladatot. Az ítélkezés általában - de leginkább a büntetés kiszabása - emberi feladat. Nem csupán azért, mert azt hagyományosan emberek végzik, hanem mert az a társadalom befogadására, megértésére és elfogadására tart igényt:[45] a bűn társadalmi alkotás, az igazságszolgáltatás feladata pedig végső soron nem az egységesség, hanem a döntés társadalmi elfogadása.[46] Következésképpen a mérlegelés igénye a bíráskodás minden területén az igazságszolgáltatás szerepében rejlik.
A fenti okokból kifolyólag a jogalkotónak úgy kell kialakítania a szabályozást, hogy felismerhetők és megelőzhetők legyenek azok a helyzetek, melyekben az algoritmusok használata nem csupán az önkényt, de a mérlegelési jogot is korlátozhatja. Ilyen helyzet állhat elő például akkor, amikor az algoritmusokat teljesen automatizált módon, emberi beavatkozás nélkül működtetik. A büntetőeljárás alanyainak jogait ekkor azonban maga az algoritmus, és nem annak gép általi működtetése korlátozza.[47] Ez a felismerés nélkülözhetetlen előfeltételét képezi a számítógépes modellezés és az MI büntetőjogi megközelítésének, mivel segít meghatározni a kezelendő kockázatokat: mennyiben jelentenek veszélyt az algoritmusok vagy a számítógépes modellezés a büntető igazságszolgáltatás rendszerére?
Az algoritmusok és a számítógépes modellezés, magas hatékonyságot ígérve, nyomást gyakorolhat a büntető igazságszolgáltatás rendszerére. A tudományos és technikai hatékonyság viszont, mint említettük, nem képezi feltételét az igazságszolgáltatásnak. Ezeknek az eszközöknek a pontosságát és megbízhatóságát nem szabad csupán az informatika felől megközelítenünk: nem szabad megfeledkeznünk arról, hogy ugyanannak a fogalomnak eltérő jelentése lehet a büntetőjog terrénumában. A meglévő digitális módszereket ezért jogi szempontból kell felülvizsgálnunk.[48]
Mivel az európai államokra az alkotmányosság erős hagyománya jellemző, az Európa Tanácsnak lehetősége volt előmozdítani az Emberi Jogok Európai Egyezményének (EJEE) aláírását, ratifikálását, és egyedi alkalmazhatóságának elfogadását az Emberi Jogok Európai Bíróságán (EJEB). A közös alkotmányos hagyományokra így napjainkban már az európai uniós jog kötelező erejének okaként tekintenek. Ezen alkotmányok közül sok az EJEE-vel és az EU Alapjogi Chartájával együtt szabályozza a büntető igazságszolgáltatást, meghatározva annak sajátos elveit. Az EJEE, az EU-jog és a nemzeti alkotmányok ebben az értelemben jogi menedéket nyújtanak a számítógépes eszközök büntetőeljárásbeli alkalmazásából eredő alapjogsértési kockázatokkal szemben. Jelen kutatás megközelítése e tekintetben semleges: nem azon az előítéleten nyugszik, miszerint a számítógépes eszközöknek a használata összeegyeztethetetlen az alapvető jogokkal. Előbb meg kell vizsgálnunk, hogy mely digitális eszközök adaptálhatók könnyedén a büntető igazságszolgáltatásba, majd tisztáznunk kell, hogy ezen eszközöknek az alkalmazása sértheti-e az EJEE-ben rögzített elveket. Ehhez azonban más aspektusból kell megközelítenünk a kérdést: a számítógépes modelleknek, eszközöknek, szoftvereknek és programoknak a megbízhatóságát, mint említettük, általában a műszaki megbízhatóság felől mérik az esetleges hibák vagy pontatlanságok kiküszöbölése érdekében. Az ismertetett okokból kifolyólag viszont a büntetőeljárásba nem lehet a hatékonyság kizárólagos kritériumával adaptálni ezeket az eszközöket.[49] Az EJEE 6. cikke nem említi a hatékonyságot önmagában a tisztességes tárgyaláshoz való jog alapvető értékeként. Az EJEE által rögzített alapvető garanciákat ezért az automatizált eszközök jogszerű, büntetőeljárásbeli alkalmazásának vizsgálatára tudjuk felhasználni.
Egy ilyen elméleti vizsgálat nélkülözhetetlennek bizonyul a célszerű jogi diskurzus kialakítása szempontjából még mielőtt a jogalkotó a "digitális varázslat" csapdájába esne. Jelentős különbség mutatkozik az angolszász és a kontinentális jogrendszerek között, ahol az utóbbiak még csupán a téma megközelítésének fázisában járnak. Önmagában viszont nem bizonyul elegendőnek a más joghatóságokban elfogadott digitális megoldásoknak a felsorolása, létezésüknek és teljesítményüknek az elismerése. Fontos, hogy a problémát a megfelelő irányból, az alapvető jogok felől közelítsük meg: Összeegyeztethetők-e ezek az eszközök az ártatlanság vélelmével? Tiszteletben tartják-e a fegyverek egyenlőségét? Érvényre juttatják-e a büntető-
- 1115/1116 -
eljárás keretében a magán- és családi élet tiszteletben tartásának követelményét?[50] A probléma helytelen elemzése olyan számítógépes megoldásoknak a jóváhagyásához vezethet, amelyek hosszú távon teljes mértékben ellentétessé válhatnak a tisztességes eljáráshoz való jog elvével. Egy ilyen helyzetben az érintetteket súlyos joghátrányok érhetik, amelyeknek az orvoslása komoly kihívás elé állíthatja még a jogalkotót is.[51] Ezért helyesebbnek tűnik egy semleges megközelítést alkalmazva előbb rámutatni azokra a lehetséges következményekre és hosszútávú kockázatokra, amelyek a számítógépes modellezés és az MI széleskörű büntetőjogi alkalmazásából eredhetnek.
Az eljárási garanciák kultúrájának megerősödésében kulcsszerepet játszott, hogy a legfontosabb nemzetközi dokumentumokban - így különösen az Emberi Jogok Egyetemes Nyilatkozatában[52] (EJENY) és a Polgári és Politikai Jogok Nemzetközi Egyezségokmányában[53] (PPJNE) - a tisztességes eljáráshoz való jog alapvető emberi jogként került elismerésre. A nemzeti jogalkotók erre építkezve kidolgozták a büntetőeljárás garanciarendszerét, létrehozva az ártatlanság vélelmét és azokat a minimumszabályokat, amelyek lényegesen befolyásolták joghatóságuk fejlődését: a tisztességes tárgyaláshoz való jogtól az anyanyelv használatának jogán át, az EJENY és a PPJNE rendelkezései, továbbá az EJEB által adaptált jogfejlesztő értelmezés[54] szigorú kereteket szabtak a nemzeti jogalkotás számára. Ráadásul a Lisszaboni Szerződés[55] hatálybalépésével az EU jogforrásai mélyreható reformon mentek keresztül, melynek eredményeként az EU-nak átfogó hatásköre keletkezett a büntetőügyekben. Az EU működéséről szóló szerződés[56] (EUMSz.) 82. és 83. cikkei ugyanis lehetővé teszik, hogy az Európai Parlament és a Tanács rendes jogalkotási eljárás keretében elfogadott irányelvekben szabályozási minimumokat állapítson meg a bizonyítékok tagállamok közötti kölcsönös elfogadhatóságára, a személyek jogaira a büntetőeljárásban, a bűncselekmények sértettjeinek jogaira, továbbá a bűncselekményi tényállások és a büntetési tételek meghatározására vonatkozóan az olyan különösen súlyos bűncselekmények esetében, amelyek jellegüknél vagy hatásuknál fogva több államra kiterjedő vonatkozásúak, és az Unió politikájának eredményes végrehajtásához elengedhetetlen a tagállamok büntetőügyekre vonatkozó törvényi, rendeleti és közigazgatási rendelkezéseinek közelítése. Ennek eredményeként az elmúlt évtizedben több irányelv került elfogadásra a személyek büntetőeljárásbeli jogainak erősítése érdekében.[57] Az EJENY garanciarendszerének megerősítésére tulajdonképpen ezekben az irányelvekben került sor, amelyet a tagállamok kötelesek végrehajtani, amennyiben el kívánják kerülni az EUMSz. 258. és 259. cikkeiben nevesített következményeket. Emiatt az algoritmusok, a számítógépes modellek és az MI bevezetését az alapvető jogok szűrőjén keresztül kell vizsgálnunk a büntetőeljárás területén.[58]
Miután rámutattunk a büntetőeljárás egészét övező európai garanciák átfogó keretrendszerére, a következőkben arra kívánjuk felhívni a figyelmet, hogy az utóbbinak mely aspektusait érintheti leginkább a számítógépes modellezés és az MI használata. Különös tekintettel az észak-amerikai modellre - amely a legszélesebb körben építette be az algoritmusokat és a digitális megoldásokat a büntető igazságszolgáltatás folyamatába -, ezek az eszközök a büntetőjogi felelősségre vonás több szakaszára is befolyással bírnak, a nyomozástól kezdve a tárgyaláson át egészen a büntetések végrehajtásáig.[59] Az amerikai modellben ismétlődő mintákat vizsgálva úgy tűnik, hogy az algoritmikus és számítógépes modellek az alábbi két területen hasznosíthatók leginkább.
Ezekkel az eszközökkel egyrészt hatékonyabb adatgyűjtés végezhető a nyomozási és a tárgyalási szakban egyaránt. A digitális fordulat számos segédeszközt kínált a bűnüldöző hatóságok számára: a komolyabb hackerprogramoknak köszönhetően korlátlan mennyiségű adat törhető fel, és a dolgok internetje (IoT) által nyújtott elektronikus adatok bizonyítási eszközként használhatók fel a büntetőeljárásban. Ez az a terület, amely a legnagyobb hatást gyakorolta ez ideig az európai büntetőeljárások digitális megoldásaira. Elvégre számos joghatóságban a bűnüldöző hatóságok csaknem jogi szabályozás hiányában kezdték el helyettesíteni hackerprogramokkal a hagyományos lehallgatásokat, kutatásokat és lefoglalásokat.[60] Az Európai Parlament Állampolgári Jogi, Bel- és Igazságügyi Bizottsága (LIBE) 2017 áprilisában publikálta tanulmányát a bűnüldöző hatóságok által foganatosított hackelés jogi kereteiről, melyben azonosította, értékelte és összehasonlította a meglévő gyakorlatokat. E tanulmány többek között megállapította, hogy az irányadó diskurzusok nem a hackelés jogi aspektusaira, hanem "elsősorban a biztonsági és hírszerző szolgálatok megfigyelési tevékenységére fókuszálnak. [...] ezek a nemzetközi szintű diskurzusok abból a megközelítésből indulnak ki, hogy ezekre a meg-
- 1116/1117 -
figyelési tevékenységekre szükség van, és az csupán az irányadó jogszabályi környezet kialakítását igényli. [...] A hackelési technikák használatának és az irányadó jogszabályi környezet kialakításának viszont az EU és a nemzetközi alapjogi elveken kell alapulnia. [...] nem kellene azt feltételeznünk, hogy a bűnüldöző hatóságokat megilleti a hackelési technikák alkalmazásának joga, utóbbinak a szükségességét az adott tagállam vonatkozásában kellene megállapítanunk."[61] E diskurzust a magánélettől kell indítanunk, amely sajátos értelmezést és értékelést nyer a büntetőeljárás terrénumában. A magánélethez való jogot Európában a világ egyik legátfogóbb szabályozása (az általános adatvédelmi rendelet[62]) védi. Amennyiben azt a társadalom más alapvető érdekeihez (pl. a bűncselekmények felderítéséhez) viszonyítjuk, gyengébbnek bizonyul, s az jogszerűen korlátozható: a magánéletnek saját dimenziója van a büntetőeljáráson belül, amelyet az EJEE és az EU jog is szabályoz.[63] Csakhogy a digitális úton előállított bizonyítási eszközöknek a büntetőeljárásban történő felhasználása nem csupán a magánélethez, de a tisztességes eljáráshoz való jogot is sértheti. A hacker és más digitális eszközök algoritmusainak az átlátszatlansága példának okáért gátolhatja a védelmet abban, hogy megkérdőjelezze ezen eszközök pontosságát és megbízhatóságát. Egy ilyen helyzet jól érzékelhetően előidézheti a fegyverek egyenlőségének sérelmét, ami a bizonyítási eszközök hatékony kétségbevonását lenne hivatott garantálni.[64]
Az algoritmusok és a számítógépes modellek másrészt a bírósági döntéshozatal több szakaszában nyújthatnak támogatást. Számítási teljesítményüknek köszönhetően ezek az eszközök rövid idő alatt óriási mennyiségű statisztikai adatot képesek bányászni, segítve ezáltal a releváns összefüggéseknek a felismerését az egyének és az adott társadalmi csoportok viselkedése között, ugyanakkor előrejelezhetik a jövőbeni cselekvéseket is (pl. az erőszakos magatartást, vagy akár az óvadék ellenében történő vagy a feltételes szabadlábra helyezés feltételeinek a megsértését). A nyílt hozzáférésű digitális eszközök ráadásul lehetővé teszik a bírósági határozatok felhasználását, a kulcsszavas keresésektől kezdve az egyes bírák döntéseinek kiszámíthatóságáig.[65] Utóbbi terület megjelölésére az amerikai szakfolyóiratokban gyakorta használják a "kvantitatív jogi előrejelzés tudománya" kifejezést. Ugyan "a bíróság viselkedésének előrejelzése képezi a jogi és politikai megfigyelők egyik legnagyobb mulatságát",[66] a bíróság határozatai "sokszor nem csupán a peres felek, hanem a társadalom egésze szempontjából bizonyulnak meghatározónak".[67] A digitális fordulat ebben a megközelítésben a kiszámíthatóságot jelöli meg a büntető igazságszolgáltatás legfőbb sajátosságaként, egyben céljaként, előrejelezve a terheltek, illetve a bírák viselkedését és döntését. A valódi kérdés azonban az: vajon a büntetőjog terültén van-e a kiszámíthatóságnak olyan sajátos definíciója, amely nem osztja annak általános értelmezését?[68]
Kutatási tárgyunk földrajzi sajátosságokkal is rendelkezik. Az angolszász és az európai államok között ugyanis abból a szempontból is eltérés mutatkozik, hogy az igazságszolgáltatási rendszerükben mennyiben támaszkodnak digitális megoldásokra. Az elmúlt két évtizedben az USA-ban olyan új kutatási és ösztöndíjágazatokat hoztak létre, amelyek az informatikusokat, különösen a modellfejlesztőket sarkallták piackutatásra az igazságszolgáltatás terrénumában.[69] Európában ez úgy tűnik, még gyermekcipőben jár: mivel "nagyon ritka a prediktív eszközök használata az európai büntetőeljárásokban".[70] Ennek köszönhetően még azelőtt indíthatjuk meg a hatékony jogi diskurzust, hogy azt a piaci szabályok ellehetetlenítenék.
A nyugati világban az USA vezeti a digitális forradalmat, elvégre a leghamarabb és a legtöbbet fektetett be a számítástudományokba. Mindez gazdasági szempontból a magánszektor dominanciájára, valamint a magán- és állami kutatásoknak az erős együttélésére vezethető vissza, ami a társadalomtudományokban is alkalmas feltételeket teremtett a számítógépes modellek gyors és széles körű alkalmazására.[71] A bűnösséget beismerő vallomásoknak a magas száma a tárgyalásokat olyan bürokratikus eljárássá alakította az USA-ban, amelyben a bíró mérlegelési jogköre az ítélethozatalra koncentrálódott.[72] A hatékonyabb adatkezelés iránti igény ebben a környezetben a kockázatértékelési módszerek növekedéséhez vezetett. Az amerikai büntető doktrína ráadásul a rehabilitációs paradigmáról átállt a méltó jutalom[73] (just desert) gondolatára, amely lényegesen növelte a bebörtönzések számát.[74] A büntetés-végrehajtás hatékonyabbá tétele ugyancsak teret engedett a számítógépes modellek fejlesztésének.
Az európai büntetőbírósági környezetet a kiszámíthatatlanabb változók különböztetik meg az amerikaitól. Ugyan az európai jogrendszerek többsége immáron lehetővé teszi a vád és a védelem egyezkedését, továbbra is a tárgyalás képezi a büntetőeljárás színterét a perbeszédeknek és a bi-
- 1117/1118 -
zonyítási eljárásnak köszönhetően.[75] Az európai jogrendszerek ráadásul a rehabilitációs doktrínában gyökereznek: a végrehajtási politikák az individualizált megközelítésen alapulnak, szemben az Amerikában népszerűsített hatékonysági modellel. Az alapvető emberi jogok védelmére létrehozott tekintélyes jogi keret ily módon sajátos tényezőnek bizonyul Európában. Egyrészt számos tagállam módosította alkotmányát az alapvető emberi jogok által ihletve. Másrészt az Európa Tanácshoz hasonló nemzetközi szervezetek az EJEE elfogadásával és az EJEB létrehozásával jelentős mértékben erősítették az alapvető emberi jogok kultúráját. Az európai alkotmányok, az EJEE és az EU Alapjogi Chartája közti kapcsolat az alapvető jogok többszintű védelmi rendszerét alakította ki, felölelve a büntetőeljárás legalapvetőbb szempontjait is.[76] Ezen okokból kifolyólag a büntetőeljárás számítógépes modelljeinek, MI rendszereinek európai megközelítésére olyan önálló vizsgálati területként tekinthetünk, melyben lehetségesnek tűnik a digitális forradalom kihívásainak kezelése.
[1] 1976. évi 8. törvényerejű rendelet az Egyesült Nemzetek Közgyűlése XXI. ülésszakán, 1966. december 16-án elfogadott Polgári és Politikai Jogok Nemzetközi Egyezségokmánya kihirdetéséről
[2] 1993. évi XXXI. törvény az emberi jogok és az alapvető szabadságok védelméről szóló, Rómában, 1950. november 4-én kelt Egyezmény és az ahhoz tartozó nyolc kiegészítő jegyzőkönyv kihirdetéséről
[3] 2007. évi CLXVIII. törvény az Európai Unióról szóló szerződés és az Európai Közösséget létrehozó szerződés módosításáról szóló lisszaboni szerződés kihirdetéséről
[4] 30/1992. (V. 26.) AB határozat
[5] Ambrus István, A mesterséges intelligencia és a büntetőjog, Állam- és Jogtudomány 2020/4., 4-23.
[6] Ayres I., Super Crunchers, How Anything Can Be Predicted, John Murray, London, 2007.
[7] Az Európai Unióról szóló szerződés és az Európai Unió működéséről szóló szerződés egységes szerkezetbe foglalt változata - Jegyzőkönyvek - Mellékletek - A 2007. december 13-án aláírt Lisszaboni Szerződést elfogadó kormányközi konferencia zárónyilatkozatához csatolt nyilatkozatok - Megfelelési táblázatok, Hivatalos Lap C 326, 26/10/2012 o. 0001 - 0390
[8] Balkin, J. M., The Three Laws of Robotics in the Age of Big Data, Ohio State Law Journal, 2017/5, 1219-1220. https://digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=6160&context=fss_papers
[9] Barfield, W., Pagallo, U., Advanced Introduction to Law and Artificial Intelligence, Edward Elgar, Cheltenham, 2020.
[10] Chessman, C., A Source of Error: Computer Code, Criminal Defendants, and the Constitution, California Law Review, 2017/1, 179-228. http://dx.doi.org/10.15779/Z38S27M
[11] Christin, A., Algorithms in Practice: Comparing Web Journalism and Criminal Justice, Big Data & Society, 2017/December, 1-14. https://doi.org/10.1177/2053951717718855
[12] Civil Liberties, Justice and Home Affairs; Legal Frameworks for Hacking by Law Enforcement: Identification, Evaluation and Comparison of Practices, Policy Department for Citizens' Rights and Constitutional Affairs, Brussels, 2017. https://www.europarl.europa.eu/RegData/etudes/STUD/2017/583137/IPOL_STU(2017)583137_EN.pdf
[13] Council of Europe; Convention on Cybercrime, Budapest, 23. XI. 2001. https://www.coe.int/en/web/conventions/full-list/-/conventions/rms/0900001680081561
[14] Daubert v Merrell Dow Pharmaceuticals, Inc., 951 F.2d 1128 (9th Cir. 1991).
[15] de Vries, K., Privacy, Due Process and the Computational Turn, A Parable and a First Analysis, In: Privacy, Due Process and the Computational Turn, The Philosophy of Law Meets the Philosophy of Technology, (eds.: Hildebrandt, M., De Vries, K.), Routledge, Abingdon, 2013, 11-38. https://doi.org/10.4324/9780203427644
[16] Diakopoulos, D., Algorithmic Accountability, Digital Journalism, 2015/3, 398-415. https://doi.org/10.1080/21670811.2014.976411
[17] Dubber, M. D., Hörnle, T., Criminal Law, A Comparative Approach, Oxford University Press, Oxford, 2016.
[18] Evans, R., A Kantian Cognitive Architecture, In: On the Cognitive, Ethical, and Scientific Dimensions of Artificial Intelligence (eds.: Berkich, D., D'Alfonso, M. V.), Springer International Publishing, 2016, 233-262. https://doi.org/10.1007/978-3-030-01800-9
[19] Gillespie, T., The Relevance of Algorithms, In: Media Technologies (eds.: Gillespie, T., Boczkowski, P., Foot, K.), MIT Press, Cambridge, 2014, 167-194. https://doi.org/10.7551/mitpress%2F9780262525374.003.0009
[20] Hildebrandt, M., Legal Protection by Design in the Smart Grid, Radboud Universiteit Nijmegen - Smart Energy Collective, Arnhem, 2013. https://repository.ubn.ru.nl/bitstream/handle/2066/111368/111368.pdf?sequence=1
[21] Hildebrandt, M., Algorithmic Regulation and the Rule of Law, Philosophical Transactions of the Royal Society A, 2018/376: 20170355.. http://dx.doi.org/10.1098/rsta.2017.0355
[22] Katz, D. M., Quantitative Legal Prediction--or--How I Learned to Stop Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry, Emory Law Journal, 2013/4, 909-966.
[23] Katz, D. M., Bommarito, M. J., Blackman, J., A General Approach for Predicting the Behavior of the Supreme Court of the United States, PLoS ONE 2017/e0174698. https://doi.org/10.1371/journal.pone.0174698
[24] Kiss Anna, A mesterséges intelligencia és a büntetőjog világa - Beszámoló két konferenciáról, Ügyészek Lapja 2019/4-5., 87-90.
[25] Lestas, G., The Truth in Autonomous Concepts: How to Interpret the ECHR, European Journal of International Law, 2004/2, 279-305. http://dx.doi.org/10.1093/ejil/15.2.279
- 1118/1119 -
[26] Miskolczi Barna, Szathmáry Zoltán, Büntetőjogi kérdések az információk korában, HVG-ORAC, Budapest, 2018.
[27] Morozov, E., To Save Everything, Click Here: The Folly of Technological Solutionism, Public Affairs, New York, 2013.
[28] MSI-NET, Algorithms and Human Rights, Council of Europe, Strasbourg, 2018. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5
[29] O'Neil, C., Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown Publishers, New York, 2016.
[30] Packin, N. G., Lev-Aretz, Y., Learning Algorithms and Discrimination, In: Research Handbook on the Law of Artificial Intelligence (eds.: Barfield, W. & Pagallo, U.), Edward Elgar Publishing, 2018. https://doi.org/10.4337/9781786439055.00014
[31] Pagallo, U., Even Angels Need the Rules: on AI, Roboethics, and the Law, In: ECAI proceedings (eds.: Kaminka, G. A., Maria, F., Bouquet, P., Hüllermeier, E., Dignum, V.), IOS Press, Amsterdam, 2016, 209-215. https://doi.org/10.3233/978-1-61499-672-9-209
[32] Pagallo, U., Algo-Rithms and the Beat of the Legal Drum, Philos. Technol., 2018/31, 507-524. https://doi.org/10.1007/s13347-017-0277-z
[33] Pagallo, U., Quattrocolo, S., The Impact of AI on Criminal Law, and Its Two Fold Procedures, In: Research Handbook on the Law of Artificial Intelligence (eds.: Barfield, W., Pagallo, U.), Edward Elgar Publishing, 2018, 385-409. https://doi.org/10.4337/9781786439055.00026
[34] Palmiotto, F., The Black Box on Trial: The Impact of Algorithmic Opacity on Fair Trial Rights in Criminal Proceedings, In: Algorithmic Governance and Governance of Algorithms, Data Science, Machine Intelligence, and Law, Volume 1. (eds.: Ebers, M., Cantero G. M.), Springer, Cham, 2021, 49-70. https://doi.org/10.1007/978-3-030-50559-2_3
[35] Pasquale, F., The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge, London, 2015.
[36] Plesničar, M. M., Stubbs, K. Š., Subjectivity, Algorithms and the Courtroom, In: Big Data, Crime and Social Control (ed.: Završnik, A.), Routledge, London, 2018, 154-175.
[37] Quattrocolo, S., Artificial Intelligence, Computational Modelling and Criminal Proceedings, Springer, 2020. https://doi.org/10.1007/978-3-030-52470-8
[38] Personal Participation in Criminal Proceedings (eds.: Quattrocolo, S., Ruggeri, S.), Springer, Cham, 2019, Cham. https://doi.org/10.1007/978-3-030-01186-4
[39] Samoili, S., López Gutierrez, Cobo M., Gomez, E., De Prato, G., Martínez-Plumed, F., Delipetrev, B., AI Watch. Defining Artificial Intelligence, Towards an operational definition and taxonomy of artificial intelligence, EUR 30117 EN. Publications Office of the European Union, Luxembourg, 2020. http://dx.doi.org/10.2760/382730
[40] Sobowale, J., How Artificial Intelligence is Transforming the Legal Profession, ABA Journal, 2016. https://www.abajournal.com/magazine/article/how_artificial_intelligence_is_transforming_the_legal_profession
[41] Solum, L. B., Legal Personhood for Artificial Intelligences, North Carolina Law Review 1992/4, 1231-1287.
[42] Susskind, R. E., Online Courts and the Future of Justice, Oxford University Press, Oxford, 2019.
[43] Cybercrime: Law Enforcement, Security and Surveillance in the Information Age (eds.: Thomas, D., Loader, B. D.) Routledge, London, 2000. https://doi.org/10.4324/9780203354643
[44] Turing, A. M., I. - Computing Machinery and Intelligence, Mind, 1950/59, 433-460. https://doi.org/10.1093/mind/LIX.236.433
[45] Tversky, A., Kahneman, D., Judgment Under Uncertatinty: Heuristics and Biases, Science, 1982/4157., 1124-1131. https://doi.org/10.1126/science.185.4157.1124
[46] Wacquant, L., The Great Penal Leap Backward: Incarceration in America from Nixon to Clinton, In: The New Punitiveness, Trends, Theories, Perspectives (eds.: Pratt, J., Brown, D., Brown, M., Hallsworth S., Morrison, W.), Willan Publishing, Cullompton, 2005.
[47] Wagner, G., Heuristics in Procedural Law, In: Dahlem Workshop Eeports, Heuristics and the Law (eds.: Gigerenzer, G., Engel, C.), MIT Press, Cambridge, 2006, 281-302.
[48] Wildhaber, L., The European Court of Human Rights: The Past, The Present, The Future, American University International Law Review, 2007/4, 521-538. https://core.ac.uk/download/pdf/235401632.pdf
[49] Završnik, A., Algorithmic Crime Control, Big Data, Crime and Social Control (ed.: Završnik, A.), Routledge, London, 2018, 131-153.
[50] Zedner, L., The Inescapable Insecurity of Security Technologies?, In: Technologies of Insecurity, The Surveillance of Everyday Life (eds.: Aas, K. F., Gundhus, H. O., Lomell, H. M.), Routledge-Cavendish, Oxon, 2009, 257-270. ■
JEGYZETEK
[1] 30/1992. (V. 26.) AB határozat.
[2] Pagallo, U., Algo-Rithms and the Beat of the Legal Drum, Philos. Technol., 2018/31, 507.
[3] Cybercrime: Law Enforcement, Security and Surveillance in the Information Age (eds.: Thomas, D., Loader, B. D.) Routledge, London, 2000, 1.
[4] Council of Europe; Convention on Cybercrime, Budapest, 23. XI. 2001.
[5] Quattrocolo, S., Artificial Intelligence, Computational Modelling and Criminal Proceedings, Springer, 2020, 5.
[6] Pagallo, U., Quattrocolo, S., The Impact of AI on Criminal Law, and Its Two Fold Procedures, In: Research Handbook on the Law of Artificial Intelligence (eds.: Barfield, W., Pagallo, U.), Edward Elgar Publishing, 2018, 400.
[7] E helyütt megjegyezzük, hogy a hazai bűnügyi kutatások ez ideig a mesterséges intelligencia és a büntetőjogi felelősség kérdéskörére fókuszáltak, lásd pl.: Ambrus István, A mesterséges intelligencia és a büntetőjog, Állam- és Jogtudomány 2020/4., 4-23.; Kiss Anna, A mesterséges intelligencia és a büntetőjog világa - Beszámoló két konferenciáról, Ügyészek Lapja 2019/4-5., 87-90.; Miskolczi Barna, Szathmáry Zoltán; Büntetőjogi kérdések az információk korában, HVG-ORAC, Budapest, 2018.
[8] Susskind, R. E., Online Courts and the Future of Justice, Oxford - University Press, Oxford, 2019, 85.
[9] Pasquale, F., The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge, London, 2015, 4.
[10] Katz, D. M., Quantitative Legal Prediction--or--How I Learned to Stop Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry, Emory Law Journal, 2013/4, 916.
[11] Hildebrandt, M., Algorithmic Regulation and the Rule of Law, Philosophical Transactions of the Royal Society A, 2018/376: 20170355., 3.
[12] Evans, R., A Kantian Cognitive Architecture, In: On the Cognitive, Ethical, and Scientific Dimensions of Artificial Intelligence (eds.: Berkich, D., d'Alfonso, M.V.), Springer International Publishing, 2016, 233-262.
[13] Solum, L.B., Legal Personhood for Artificial Intelligences, North Carolina Law Review 1992/4., 1231.
[14] Samoili, S., López, Cobo, M., Gomez Gutierrez, E., De Prato, G., Martínez-Plumed, F., Delipetrev, B., AI Watch, Defining Artificial Intelligence, Towards an operational definition and taxonomy of artificial intelligence, EUR 30117 EN. Publications Office of the European Union, Luxembourg, 2020, 8. (ford.: Czebe András)
[15] Uo. 9. (ford.: Czebe András)
[16] Turing, A. M., I. - Computing Machinery and Intelligence, Mind, 1950/59, 452. (ford.: Czebe András)
[17] Gillespie, T., The Relevance of Algorithms, In: Media Technologies (eds.: Gillespie, T., Boczkowski, P., Foot, K.), MIT Press, Cambridge, 2014, 167.
[18] Diakopoulos, D., Algorithmic Accountability, Digital Journalism, 2015/3, 400.
[19] Pagallo, U., Even Angels Need the Rules: on AI, Roboethics, and the Law, In: ECAI proceedings (Eds.: Kaminka, G. A., Maria, F., Bouquet, P., Hüllermeier, E., Dignum, V.), IOS Press, Amsterdam, 2016, 209.
[20] Quattrocolo i. m. 13.
[21] Ezt a definíciót adaptálta az Európa Tanács is közelmúltbeli tanulmányában, lásd: MSI-NET; Algorithms and Human Rights, Council of Europe, Strasbourg, 2018, 5.
[22] Gillespie i. m. 167. (ford.: Czebe András)
[23] Tversky, A., Kahneman, D., Judgment Under Uncertatinty: Heuristics and Biases, Science, 1982/4157, 1124.
[24] Chessman, C., A Source of Error: Computer Code, Criminal Defendants, and the Constitution, California Law Review, 2017/1, 215.
[25] Tversky, Kahneman i. m. 125.
[26] A nomotetikus megismerés a vizsgált jelenséget mérhetőnek, és a mérés révén az előrejelzést és az ellenőrzést lehetővé tevő mértékig megismerhetőnek tartja. Ezzel szemben az idiografikus megismerés a vizsgált jelenség egyszeri és megismételhetetlen voltát hangsúlyozza, mely szüntelenül változik és a környezettől elszakíthatatlan. E két megközelítés nem feltétlenül zárja ki egymást.
[27] Daubert v Merrell Dow Pharmaceuticals, Inc., 951 F.2d 1128 (9th Cir. 1991).
[28] A Daubert-ügy keretében az USA Legfelsőbb Bírósága a bírói vizsgálat körébe utalta, hogy (1) a szakértői technikát, illetve az annak alapjául szolgáló elméletet tesztelték-e, illetve (2) az tesztelhető-e; (3) a módszert vagy az alapjául szolgáló elméletet publikálták-e lektorált szaklapban; (4) meghatározták-e a technika vagy a módszer hibaarányát az alkalmazás során és vannak-e a technikai folyamat ellenőrzésének standardjai; (5) milyen a szakterület elfogadottsága a tudomány képviselői részéről.
[29] Quattrocolo i. m. 15.
[30] O'Neil, C., Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown Publishers, New York, 2016, 23.
[31] Chessman i. m. 216.; Hildebrandt, M., Legal Protection by Design in the Smart Grid, Radboud Universiteit Nijmegen - Smart Energy Collective, Arnhem, 2013, 48.
[32] Zedner, L., The Inescapable Insecurity of Security Technologies?, In: Technologies of Insecurity, The Surveillance of Everyday Life (eds.: Aas, K. F., Gundhus, H. O., Lomell, H. M.), Routledge-Cavendish, Oxon, 2009, 257.
[33] Balkin, J. M., The Three Laws of Robotics in the Age of Big Data, Ohio State Law Journal, 2017/5, 1219-1220. (ford.: Czebe András)
[34] Plesničar, M. M., Stubbs, K. Š., Subjectivity, Algorithms and the Courtroom, In: Big Data, Crime and Social Control (ed.: Završnik, A.), Routledge, London, 2018, 164.
[35] O'Neil i. m. 26.
[36] Packin, N. G., Lev-Aretz, Y., Learning Algorithms and Discrimination, In: Research Handbook on the Law of Artificial Intelligence (eds.: Barfield, W. & Pagallo, U.), Edward Elgar Publishing, 2018, 88.
[37] Hildebrandt i. m. 2.
[38] Palmiotto, F., The Black Box on Trial: The Impact of Algorithmic Opacity on Fair Trial Rights in Criminal Proceedings, In: Algorithmic Governance and Governance of Algorithms, Data Science, Machine Intelligence, and Law, Volume 1. (eds.: Ebers, M., Cantero G.M.), Springer, Cham, 2021, 51.
[39] Quattrocolo i. m. 17.
[40] Wagner, G., Heuristics in Procedural Law, In: Dahlem Workshop Eeports, Heuristics and the Law (eds.: Gigerenzer, G., Engel, C.), MIT Press, Cambridge, 2006, 285.
[41] Ayres I., Super Crunchers, How Anything Can Be Predicted, John Murray, London, 2007, 103.
[42] Katz i. m. 934.
[43] Morozov, E., To Save Everything, Click Here. The Folly of Technological Solutionism, Public Affairs, New York, 2013, 189.
[44] Quattrocolo i. m. 18.
[45] Plesničar, Stubbs i. m. 161.
[46] Završnik, A., Algorithmic Crime Control, Big Data, Crime and Social Control (ed.: Završnik, A.), Routledge, London, 2018, 132.
[47] Quattrocolo i. m. 19.
[48] Završnik i. m. 136-138.
[49] Quattrocolo i. m. 20.
[50] de Vries, K., Privacy, Due Process and the Computational Turn, A Parable and a First Analysis, In: Privacy, Due Process and the Computational Turn. The Philosophy of Law Meets the Philosophy of Technology, (eds.: Hildebrandt, M., De Vries, K.), Routledge, Abingdon, 2013, 17.
[51] Morozov i. m. 147.
[52] 1993. évi XXXI. törvény az emberi jogok és az alapvető szabadságok védelméről szóló, Rómában, 1950. november 4-én kelt Egyezmény és az ahhoz tartozó nyolc kiegészítő jegyzőkönyv kihirdetéséről.
[53] 1976. évi 8. törvényerejű rendelet az Egyesült Nemzetek Közgyűlése XXI. ülésszakán, 1966. december 16-án elfogadott Polgári és Politikai Jogok Nemzetközi Egyezségokmánya kihirdetéséről.
[54] Wildhaber, L., The European Court of Human Rights: The Past, The Present, The Future, American University International Law Review, 2007/4, 524.
[55] 2007. évi CLXVIII. törvény az Európai Unióról szóló szerződés és az Európai Közösséget létrehozó szerződés módosításáról szóló lisszaboni szerződés kihirdetéséről.
[56] Az Európai Unióról szóló szerződés és az Európai Unió működéséről szóló szerződés egységes szerkezetbe foglalt változata Jegyzőkönyvek - Mellékletek - A 2007. december 13-án aláírt Lisszaboni Szerződést elfogadó kormányközi konferencia zárónyilatkozatához csatolt nyilatkozatok - Megfelelési táblázatok. Hivatalos Lap C 326, 26/10/2012 o. 0001 - 0390.
[57] Lásd pl.: Az Európai Parlament és a Tanács (EU) 2016/800 irányelve (2016. május 11.) a büntetőeljárás során gyanúsított vagy vádlott gyermekek részére nyújtandó eljárási biztosítékokról; Az Európai Parlament és a Tanács (EU) 2016/343 irányelve (2016. március 9.) a büntetőeljárás során az ártatlanság vélelme egyes vonatkozásainak és a tárgyaláson való jelenlét jogának megerősítéséről; Az Európai Parlament és a Tanács 2012/29/EU irányelve (2012. október 25. ) a bűncselekmények áldozatainak jogaira, támogatására és védelmére vonatkozó minimumszabályok megállapításáról és a 2001/220/IB tanácsi kerethatározat felváltásáról.
[58] Quattrocolo i. m. 24.
[59] Uo.
[60] Uo.
[61] Civil Liberties, Justice and Home Affairs, Legal Frameworks for Hacking by Law Enforcement: Identification, Evaluation and Comparison of Practices, Policy Department for Citizens' Rights and Constitutional Affairs, Brussels, 2017, 67. (ford.: Czebe András)
[62] Az Európai Parlament és a Tanács (EU) 2016/679 Rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK rendelet hatályon kívül helyezéséről (általános adatvédelmi rendelet).
[63] Barfield, W., Pagallo, U., Advanced Introduction to Law and Artificial Intelligence, Edward Elgar, Cheltenham, 2020, 7. §
[64] Quattrocolo i. m. 25.
[65] Sobowale, J., How Artificial Intelligence is Transforming the Legal Profession. ABA Journal, 2016 [online]
[66] Katz, D. M., Bommarito, M. J., Blackman, J.: A General Approach for Predicting the behavior of the Supreme Court of the United States, PLoS ONE 2017/e0174698., 1. (ford.: Czebe András)
[67] Uo. (ford.: Czebe András)
[68] Lestas, G., The Truth in Autonomous Concepts: How to Interpret the ECHR, European Journal of International Law, 2004/2, 282.
[69] Sobowale i. m.
[70] European Comission for the Efficiency of Justice i. m. 51. (ford.: Czebe András)
[71] Quattrocolo i. m. 28.
[72] Christin, A., Algorithms in Practice: Comparing Web Journalism and Criminal Justice, Big Data & Society, 2017/December, 8.
[73] Dubber, M. D., Hörnle, T., Criminal Law, A Comparative Approach, Oxford University Press, Oxford, 2016, 4.
[74] Wacquant, L., The Great Penal Leap Backward: Incarceration in America from Nixon to Clinton, In: The New Punitiveness, Trends, Theories, Perspectives (eds.: Pratt, J., Brown, D., Brown, M., Hallsworth S., Morrison, W.), Willan Publishing, Cullompton, 2005, 5.
[75] Lásd: Personal Participation in Criminal Proceedings (eds.: Quattrocolo, S., Ruggeri, S.), Springer, Cham, 2019.
[76] Quattrocolo i. m. 29.
Lábjegyzetek:
[1] A szerző LL.M. PhD, kúriai főtanácsadó.
Visszaugrás
