A tudomány már évekkel, évtizedekkel ezelőtt elkezdte vizsgálni a mesterséges intelligencia (a továbbiakban: AI) a jogalkalmazás, a gazdasági élet, és a mindennapi élet egyes területein történő alkalmazását, mint lehetséges futurisztikus elképzeléseket. Az utóbbi néhány évben számos szakcikk, tanulmánykötet boncolgatta az AI alkalmazásával felmerülő kérdéseket, időközben pedig hirtelen realitássá lettek ezek az elképzelések, és a gyakorlat gyorsan követte a felmerült hasznosítási igényeket.
A jogi szabályozás azonban nem tudja olyan gyorsan követni az élet hihetetlenül gyors és váratlan változásait, mivel nehéz úgy az adott helyzetre adekvát jogalkotási válaszokat adni, hogy még a helyzet sem látható pontosan. Egy folyamatosan formálódó területről van szó, mind Uniós szinten, mind a hazai mind más európai országok igazságszolgáltatási rendszereit tekintve. Az európai bizottság az igazságszolgáltatás hatékonyságáért (CEPEJ) 2018-ban megalkotta az etikai kartát, a mesterséges intelligencia igazságszolgáltatási területen történő alkalmazásáról.[1] A testület azon az állásponton van, hogy az AI alkalmazása az igazságszolgáltatás területén hozzájárulhat a hatékonyság és a minőség javulásához.
Jelen tanulmány az AI bírósági eljárásokban - ezen belül kifejezetten a polgári peres és nemperes eljárások vonatkozásában történő alkalmazásának előnyeit és lehetőségeit veszi számba, melyek elsősorban a hatékonyságban és a döntéshozatali folyamat egyszerűsítésében, kiszámíthatóbbá tételében mutatkoznak meg. A tanulmány célja elsősorban a gondolatébresztés és a problémafelvetés, míg az AI egyes hazai eljárásokban történő alkalmazásának részletes vizsgálata további kutatás tárgyát képezi.
- 89/90 -
Az AI fogalmának meghatározása kapcsán az EU rendeletjavaslatát vettük alapul.[2] A Javaslat 3. cikke szerint, a mesterséges intelligencia-rendszer olyan szoftver, amelyet az I. mellékletben felsorolt technikák és megközelítések közül egy, vagy több alkalmazásával fejlesztettek, és amely az ember által meghatározott célkitűzések adott csoportja tekintetében olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek. Az I. melléklet alapján, három típusú technológiát különíthetünk el:
a) Gépi tanulási megközelítések, ideértve a felügyelt, a felügyelet nélküli és a megerősítő tanulást, a módszerek széles skálájának, többek között a mélytanulásnak az alkalmazásával;
b) Logikai és tudásalapú megközelítések, beleértve a tudás megjelenítését, az induktív (logikai) programozást, a tudásbázisokat, a következtetőmotorokat, a(z) (szimbolikus) érvelést és a szakértői rendszereket;
c) Statisztikai megközelítések, Bayes-féle becslés, keresési és optimalizálási módszerek.
Az igazságszolgáltatás során használt technológiai eszközöket tehát olyan funkciókkal egészítjük ki, amelyek mesterséges intelligenciával operálnak, és amelyek képesek bizonyos helyzetekben saját döntéseket hozni, vagy legalábbis saját gondolatmenetet felépíteni, illetve múltbeli tapasztalataikból folyamatosan, önállóan tanulni. Ezáltal lényegesen átalakul a döntéshozatali mechanizmus egésze.[3] Jelen tanulmányban AI alatt olyan gépi, vagy mély tanulásra képes rendszereket értünk, ami több, mint az eljárás egyes mozzanatainak digitalizálása, és egyszerű informatikai megoldások alkalmazása, mint például az e-akta, vagy az elektronikus kapcsolattartás, vagy akár egy anonimizáló program.
Három területet emelnénk ki, ahol az AI előnyei leginkább kiaknázhatók. Az első, a bírói döntéshozatali folyamat hatékonyabbá tétele, megkönnyítése, a döntések előkészítése, illetve döntési alternatívák felkínálása a prediktív elemzés segítségével. A második, a bírói döntések konzisztenciájának elősegítése, a harmadik pedig az AI felhasználása az egyes eljárási szakaszokban, percselekmények megtételében.
Korábbi, a témában készült tanulmányunkban kifejezetten a bírói döntéshozatali folyamatot vizsgáltuk.[4] Ahogy ott utaltunk rá, a polgári peres eljárásokat tekintve, a bírónak egyre aktívabb szerepet kell vállalnia az eljárás menetének meghatározásában, a perkoncentráció támasztotta követelményeket szintén szem előtt tartva kell szerveznie az ítélkező és az egyéb kapcsolódó adminisztratív feladatokat. A döntési folyamat egyes ele-
- 90/91 -
meinek, vagy az azt segítő kapcsolódó tevékenységeknek a mesterséges intelligencia eszközeivel történő automatizálása amellett, hogy a nem konkrét ítélkezéshez kapcsolódó, de igazán időigényes feladatok alól mentesítheti a bírót, lehetőséget ad a bíróságon belül az erőforrások átcsoportosítására, az ügyek differenciálására, valamint az eljárás során megjelenő szubjektív elemek kiküszöbölésére.
Ezen szoftverek a bírósági döntéshozatal valamely részfolyamata kapcsán segítséget nyújtanak a bíróságoknak, például kereséseket végeznek az esetjogban és ez alapján elemzéseket készítenek. Jelenleg inkább a bíróság munkáját különböző módokon segítő eszközökről beszélünk,[5] amelyekbe azonban emberi fejlesztők táplálják be az adatokat, emberek aktiválják a döntéshozatali folyamatot és a bíróság humán tagjai fogják eldönteni azt is, hogy mennyiben támaszkodnak a mesterséges intelligencia által szolgáltatott adatokra, elemzésekre, dokumentumokra.
Az AI segítséget nyújt a korábbi döntések elemzése és osztályozása körében, mivel hatalmas mennyiségű adatot képes feldolgozni és elemezni relatíve rövid idő alatt. Így például, kezelhetőbbé válik a releváns közzétett döntések adatbázisa, amelyre a korlátozott precedensrendszer hazai bevezetése a korábbinál jóval nagyobb igényt teremtett.
Az AI rendkívül gyorsan képes kigyűjteni a hasonló ügyekben született korábbi döntéseket, bizonyítási anyagot (tanúvallomások, szakvélemények, okiratok tartalma), és azoknak a döntéshez szükséges lényeges érveléseit, tényállás-elemeit. Ezáltal a döntéshez szükséges idő lerövidül. Az AI felismer olyan mintázatokat, adatkapcsolatokat, melyekre egy ember nem is figyelne fel, nem venne észre. Ez a pontosságot segíti, illetve az ítéletek indokolásában megjelenő érvelést egészítheti ki ezekkel az általa észlelt összefüggésekkel.
Egy ilyen példa a lehetséges felhasználásra, a brazíliai Radar rendszer. A Radar értelmezi a bírósághoz érkező beadványokat és az azokban használt kifejezésekből következtetéseket von le az alkalmazandó jogszabályokkal kapcsolatban. Az eszköz ezen felül a korábbi esetjogot elemezve javaslatot is megfogalmaz az adott eset elbírálására vonatkozóan, amelyet a bírósági alkalmazottak, illetve a bíróság felülvizsgálhat.[6] A Radar tehát az emberek által rendelkezésre bocsátott esetjogból dolgozik és az elemzésének eredményeként létrejött dokumentumokat is szükség esetén felül fogják bírálni az emberi szereplők.[7]
- 91/92 -
Az AI technikák segítségével az ügyek fontosság, sürgősség, és egyéb szempontok szerint rendezhetőek, a tárgyalások kitűzését, és az ügymenet nyomon követését szintén segíti, magasabb szinten, mint amit a jelenlegi ügyviteli rendszer kínál.
Ebben a körben érdemes megemlíteni az egyes kínai bíróságokon már jelenleg is használt mesterséges intelligencia alapú szoftvereket. A szoftver képes arra, hogy a rendelkezésre bocsátott adatokat felismerje, majd a megfelelő formanyomtatványba beillessze. Ezen a módon számos bírósági ügyiratot készíthet elő, sőt akár bírósági ítéletek, végzések szövegét is megfogalmazhatja.[8] A "bírósági e-asszisztens" platform szövegfelismerést, képfelismerést és elemzést használ a beszkennelt peres anyagok automatikus indexelésére és rendszerezésére. A rendszer a felperes és az alperes kulcsfontosságú információira is képes kereszthivatkozni és összevetni más adatbázisokkal, hogy ellenőrizze az átfedéseket vagy az azonos ügyben folyamatban lévő pereket. Szövegfelismeréssel, szemantikai elemzéssel és egyéb anyagok összefoglalásával hozhat létre releváns jogi dokumentumokat, például tárgyalási jegyzőkönyveket vagy alsóbb fokú ítéleteket. A "bírósági e-asszisztens" mélyrehatóan képes elemezni az ügyekkel kapcsolatos információkat, és javasolhat jogszabályokat, irányadó, vagy hasonló eseteket, valamint könyveket és folyóiratokat a bíráknak, útmutatást adva a peres kérdés eldöntéséhez. Végül rögzíti az eljárás minden egyes eljárási lépésében meghozott összes határozatot, amelyet később bírósági igazgatási célokra is fel lehet használni.[9] Ez a szolgáltatása azonban nemcsak a bíróság számára elérhető, hanem a feleknek is, megszövegezheti beadványaikat, amennyiben az ahhoz szükséges információkat elérhetővé teszik számára.[10]
Ahogy azt Németh kiemeli a digitális bíróságokról szóló tanulmányában, egyre inkább meg fog jelenni a polgári pereket elbíráló jelenlegi bírósági rendszeren az az ügyfélnyomás, ami gyors, egyszerű és költséghatékony polgári eljárást igényel.[11] Az eddig elért eredmények rávilágítanak a mesterséges intelligencia azon képességére, hogy egyszerűsítse a folyamatokat, javítsa a döntéshozatalt, és végső soron javítsa az igazságszolgáltatáshoz való hozzáférést a polgári peres eljárásokban.
Az AI ugyanazokat a kritériumokat, azaz ugyanazt a szempontrendszert alkalmazza minden ügyre, ami kiküszöböli az elfogultságot, és az egyéb torzításokat (például az egyéni érzékenységet egy-egy érvelésre, a túlterheltséget, a tévedést stb.).
- 92/93 -
A technológia objektív elemzést végez, nagy mennyiségű adatot kezelve, és ki tudja küszöbölni az egyéni preferenciákat, az emberi természetből eredő szubjektivitást, előfeltevéseket. Itt szintén hasznos az a képessége, hogy gyorsan és teljes körűen képes megtalálni a jogi precedenseket, a releváns esetjogot, így elkerülve az attól való eltéréseket, és kiszűrve a döntések azonos jogi alapját, érvelését.
Az érzelmi alapú döntést bizonyosan kiküszöböli, és ezáltal az érzelmekre ható jogászi érvelések háttérbe szorulhatnak. Ez nem is olyan nagy baj, hiszen úgy véljük, egy jogi érvelés és indokolás akkor igazán értékes, ha a logika, a racionális érvek, és a jogszabályok helyes értelmezése és alkalmazása mentén alakítja ki bennünk a meggyőződést. Darák több tanulmányában foglalkozott a kérdéssel, úgy vélte, a mesterséges intelligenciát kihasználva fejleszthető az emberi döntéshozatali folyamat.[12]
A prediktív elemzés képes elemezni az adatokat, ezáltal a lehetséges döntési opciókat előre tudj a vetíteni, a bíró dolgát szintén megkönnyítve. Vannak olyan szoftverek, amelyek egyes döntésekre, akár az ítéletre vonatkozóan is javaslatot készítenek, ezeket azonban a bíró csak segítségként használja, tehát akár figyelmen kívül is hagyhatja. A prediktív elemzés nemcsak a lehetséges döntéseket képes előrevetíteni, hanem az egyes érvelések sikerességi esélyét is. Ami az ügyvédek számára talán még hasznosabb eszköz, mint a bírók számára.
Kérdéses azonban, hogy mekkora teret fog kapni és mennyiben lesz képes adott esetben helyettesíteni is a jogászi hivatásrendek egyes képviselőit.[13] Napjainkra számos kifejezetten érdekes és a majdan kialakítandó szabályozás vonatkozásában előremutató tanulmányok születnek a témakörben. Lőrincz tanulmányában utal arra, hogy a tudományos szakirodalom a mesterséges intelligencia hasznosításának két, egymástól markánsan eltérő ideáját vázolja fel.[14] A merészebb elképzelések az AI és az ember szimbiózisát tételezik fel, melyek azonban jelen tanulmánynak nem képezik tárgyát. A másik, az igazságszolgáltatás területére konkrétan vonatkoztatható nézet az ember és a gép együttműködésén alapuló döntéshozatal - azaz "cobotizáció" - jövőbeni fennmaradását prognosztizálja.
Egyetértünk Balogh mesterséges intelligencia igazságszolgáltatásban betöltött funkciójával kapcsolatban megfogalmazott gondolataival, mely szerint nem az a kérdés, hogy van-e létjogosultsága ebben az ágazatban, hanem hogy mikor és mennyibe formálja át az egyes szerepköröket. A mesterséges intelligencia alkalmazható az igazságszolgáltatás egyes területein, segítségével időt nyerhetünk bizonyos kevésbé érdekes, inkább technikai jellegű munkamozzanatok automatizálásával (pl. nyomtatványok kitöltése vagy bírósági határozatok kigyűjtése). A szerző a 2019-es tanulmányában úgy foglalt állást, hogy a mesterséges intelligencia nem alkalmas jogi kérdésekben döntések meghozatalára, ezért egyhamar nem fogja helyettesíteni az ügyvédeket és a bírákat."[15]
- 93/94 -
Így néhány év távlatából azt mondhatjuk, hogy ez lehet, hogy hamarabb eljön, mint gondolnánk. Az egyszerű igazgatási/adminisztratív feladatok puszta automatizálásától napjainkra meghatározó kérdéssé nőtte ki magát a mesterséges intelligencia igazságszolgáltatásban történő alkalmazhatósága feltételrendszerének megteremtése, míg egyes országokban bizonyos esetekben már alkalmazzák is. Hiszen már rendelkezésre állnak olyan szoftverek, amelyek önállóan is hozhatnak határozatokat a bíróságok helyett például egyes kérelmek befogadhatóságáról. Argentínában működik például a "Prometea AI" elnevezésű intelligens program. A telefonon felhívható szoftver képes arra, hogy egy ügyiratszám alapján határozat-tervezeteket készítsen, korábbi precedenseket mérlegelve akár a bírósági ítélet tartalmára is tud javaslatot megfogalmazni. A program egyszerűbb jogi megítélésű ügyekben képes automatizálni az igazságszolgáltatási eljárásokat a megfelelő jogi nyelvezet használatával.[16]
A mesterséges intelligencia által "működtetett" bíróságok talán legnépszerűbb példája Kínában található: az első Internet Bíróságot 2017-ben hozták létre Hangzhou városában, ezt követően egy pekingi és egy kantoni intézménnyel bővült a rendszer.[17] A bíróságok eljárását "az internet világával kapcsolatos" kérdésekben, jogvitákban lehet kezdeményezni (pl. fogyasztóvédelmi panaszok, online szerzői jogi viták, elektronikus fizetés).[18]
Ami hazánkban történő alkalmazását illeti, 2020-ban jelentette be az Igazságügyi Minisztérium, a Mesterséges Intelligencia Stratégiában, hogy terveznek ilyen irányú fejlesztést, az ügyvitelben, az ügymenet tervezésében, az adatelemzésben, és a döntési opciók felkínálásában.[19]
A döntéshozatali folyamat támogatása szempontjából Lőrincz a döntések három típusát különbözteti meg a mesterséges intelligencia által felvetett javaslatokat, ajánlatokat érintően:
- a felülmérlegelésre szoruló és megfontolható javaslatok,
- a felülmérlegelésre szoruló, de érdemben nem megfontolható javaslatok,
- a javaslat feltétlen elfogadásának, azaz a döntésnek a gép részére való átengedése.[20]
A korlátokat tekintve, a hazai szerzők[21] leginkább azon az állásponton vannak, hogy az ügyek többségében nem lehet cél, hogy az AI a bírói ítélkezési tevékenység helyébe lépjen. Egyfajta segédként lehet rá tekinteni, egy eszközként, nem pedig a bíró kiváltásaként.
Egyelőre úgy tűnik, a mérlegelési jogkört és magát a végleges döntést nem lehet AI kezébe adni. Ennek oka, hogy az ügy egyedi körülményeit figyelembe kell venni, és a bíró ítélkezési függetlenségét, valamint a szabad mérlegelést nem lehet kiiktatni.
- 94/95 -
A mérlegelési jogkör pontosan az a terület, ahol nem helyettesíthető az emberi tevékenység, mert nem generalizálható a döntési folyamat, mivel, ezekben az ügy egyedi sajátosságaira tekintettel kell lenni.
Azonban úgy véljük, meg lehet határozni, melyek azok a teljesen azonos séma alapján eldönthető ügyek, vagy egy ügyön belüli kérdéskörök, melyekben a jogszabály nem ad mérlegelési jogkört, hanem a döntés alapjául szolgáló szempontok teljesen objektív tényezőket jelentenek (például egy értékhatár, vagy egy keresetindítási határidő megtartása/elmulasztása). Ezekben ki lehet váltani az emberi tevékenységet, vagy csupán egy utólagos ellenőrzést végezni, ami esetleg csak akkor történne, ha valamelyik fél jogorvoslattal él, vagy egyéb módon kifogásolja az adott döntést.
A következőkben arra térünk ki, hogy a per egyes szakaszaiban és az egyes percselekményekben milyen szerepet kaphat a mesterséges intelligencia. Itt három területet emelnénk ki a perelőkészítést, a bírói pervezetést, valamint a peranyag áttekintését és rendszerezését.
A perelőkészítésben a permenet tervezésében, a tárgyalások időzítésével, a szükséges tárgyalások számának meghatározásával, az eljárási időtartam becslésével járul hozzá az AI a bíró hatékonyabb eljárási tevékenységéhez. Ami már az eljárás ezen szakaszában - tehát akár még a perindítás körében - AI által kezelhető döntés lehet, az a keresetlevél visszautasítási okok észlelése, és ezek alapján a visszautasító végzés felajánlása (szövegesen, indokolással ellátva), illetve a keresetlevél egyes hiányainak észlelése, és ez alapján hiánypótlási felhívás javaslat felajánlása. További, AI döntésre alkalmas döntéstípus a bírósági meghagyás, mivel a "nem áll fenn eljárás megszüntetési ok", és "alperes az írásbeli ellenkérelem előterjesztését elmulasztotta és beszámítást tartalmazó iratot sem terjesztett elő", például objektív módon vizsgálható tényezők.[22]
A bírói pervezetésben az AI a határidők kezelésében és az ügymenet tervezésében segít, figyelmeztet a közelgő határidőre, a tárgyalások kitűzését elvégzi, figyelemmel a tárgyalási időközökre, egyéb eljárási határidőkre, és a többi folyamatban lévő ügyre.
Az érdemi szakban a sokszor terjedelmes peranyag áttekintésében és rendszerezésében szintén hasznosítható az AI, mivel elvégzi a releváns információk és az ügy lényeges elemeinek gyors kigyűjtését a kérelmekből, indítványokból, jegyzőkönyvekből. Képes tehát segíteni az ügyben lényeges tények szelektálását, elvégzi a releváns jogszabályhelyek kigyűjtését (a releváns szövegrészekkel, adott esetben kommentárral, magyarázattal együtt), és magukat a lehetséges jogkövetkezményeket is fel tudja ajánlani az emberi döntéshozó számára. Az eljárás során hozott végzéseket mindenképpen érdemes megvizsgálni az AI alkalmazhatósága szempontjából. Ahogy Osztovits szintén kiemeli tanulmányában, kizárólag a jól tipizálható ügyek és kérdéskörök esetén lehet az információs technológiát használni.[23]
- 95/96 -
A bíróknak ezáltal rengeteg adminisztratív terhet levesz a válláról, így valóban az érdemi ítélkezési tevékenységre tudják összpontosítani az erőforrásaikat. Már a jelenlegi folyamatokból is kitűnik, hogy az AI alkalmazása nemcsak az adminisztratív jellegű tevékenységekre van hatással, hanem jelentős változásokat fog hozni az eljárásjogi szabályozásban is. Nyilvánvaló, hogy a bírósági eljárások hosszát tekintve az AI tagadhatatlan előnnyel jár. Pontosabb és összehasonlíthatatlanul gyorsabb, mint bármely emberi bíró, amikor meghatározza a döntés jogalapját, elemzi az ítélkezési gyakorlatot? vagy jogi doktrínákat. A jogi érvek hosszú kutatása néhány másodpercre rövidíthető.[24] Azonban a hatékonyság mellett más tényezőkre is tekintettel kell lenni.
Az eljárásjogi alkalmazás esetében az alapvető eljárásjogi elveket figyelembe kell venni, mindenekelőtt a tisztességes eljárást, a bírák függetlenségét, a fegyverek egyenlőségét, a bíróságokhoz való egyenlő hozzáférést. Fontos, hogy a rendszereket mindenki legyen képes használni, mindenki számára elérhető legyen. A tisztességes eljáráshoz való jog garanciális követelményeit vizsgáló egyik hazai tanulmányban a szerzők egy új garanciarendszer szükségessége mellett foglalnak állást.[25]
Végül, a szabályozás kialakítása során lényeges kérdés, hogy milyen etikai megfontolásokra kell figyelemmel lennünk. Az etikai elvek alapja a CEPEJ által megalkotott Európai Etikai Charta, másrészt az Európai Bizottság 2018 júniusában létrehozott magas szintű szakértői csoportja által kidolgozott etikai iránymutatás.[26] Az Európai Parlament 2020. október 8-i jelentése szintén hangsúlyozza ezeket a feltétlenül érvényesítendő követelményeket. 2020 februárjában pedig az Európai Bizottság közzétette a "Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése" című dokumentumot.
Ezen dokumentumok leszögezik, hogy a megbízható mesterséges intelligencia három olyan elemből áll, amelyeknek a rendszer egész életciklusa alatt teljesülniük kell:
a) jogszerűnek kell lennie, vagyis meg kell felelnie a hatályos törvényeknek és rendelkezéseknek,
b) etikusnak kell lennie, vagyis biztosítani kell az etikai elveknek és értékeknek való megfelelését, valamint
c) műszaki és társadalmi szempontból is stabilnak kell lennie, mivel az AI-rendszerek még jó szándék esetén, akaratlanul is okozhatnak kárt.
- 96/97 -
Mindegyik elem szükséges, de a megbízható mesterséges intelligencia megvalósításához önmagában nem elegendő. Ideális esetben a három elem összehangoltan és egymást átfedve működik. Kiemelik, hogy az AI rendszereknek emberközpontúnak kell lenniük és felhasználásuknak az emberiség és a közjó, valamint az emberi jólét és szabadság fokozásának célját kell szolgálnia.
Az AI algoritmusok igen komplexek, és sokszor nem érthetőek egy laikus ember számára. Fontos, hogy úgy legyen leírva, megmagyarázva a működése, hogy mind a döntéshozók, mind az ügyfelek, akiknek az eljárásában azt alkalmazzák, tisztában legyenek a döntés alapjául szolgáló algoritmus működésével. A megmagyarázhatóság a felhasználók AI-rendszerekbe vetett bizalmának kialakítása és fenntartása szempontjából kulcsfontosságú. Ez azt jelenti, hogy a folyamatoknak átláthatónak kell lenniük, az AI rendszerek képességeit és célját nyíltan közölni kell, és a döntéseket lehetőség szerint el kell magyarázni a közvetlenül és közvetve érintetteknek. Ide tartozik a döntések indokolási kötelezettsége, azaz, nem várhatunk el alacsonyabb színvonalú ténybeli és jogi indokolást, jogi érvelést az AI döntéseiben, mint amire egy humán bíró képes. Az AI meg kell, hogy magyarázza, hogyan jutott az adott eredményre. Ez jelenti magának a döntéshozatali folyamatnak az átláthatóságát, és jelenti az érdemi döntés indokainak feltárását is.[27] Ezen a téren még fejlesztésre szorulnak ezek a rendszerek, amit a "fekete doboz" probléma érzékeltet. Ez arra utal, hogy nem látható, mi alapján hozzák a döntéseket, vagy kezelik az adatokat. Ennek jelentős gyakorlati, jogi, és elméleti konzekvenciái, hogy a felhasználók nem bíznak olyan rendszerekben, amelyek működését nem értik. A szoftver fejlesztői nem tudnak beavatkozni a teljesítmény javítása érdekében. Jogi szempontból, a jogalkotók nem tudják eldönteni, hogy az adott rendszer biztonságos és tisztességes. Ennek a problémának a kiküszöbölésén azonban már dolgoznak.[28]
Figyelemmel kell lenni arra, hogy a rendszer működése során hibák fordulhatnak elő, és ezeket hogyan lehet korrigálni. Hiszen, ha az adatbázis, amivel dolgozik, már tartalmaz diszkriminatív elemeket, vagy megalapozatlan előfeltevéseket, akkor ezeket az AI át fogja venni, sőt, ezeket fogja becsatornázni a döntési algoritmusba. Emellett biztosítani kell az adatok sértetlenségét is. Ha az AI-rendszerbe rosszindulatú adatok kerülnek, a rendszer viselkedése megváltozhat; ez különösen igaz az öntanuló rendszerekre.[29] A használt folyamatokat és adatkészleteket minden lépésnél - például tervezéskor, tanításkor, teszteléskor és bevezetéskor - tesztelni és dokumentálni kell. Az emberi felügyelet segít
- 97/98 -
annak biztosításában, hogy az AI rendszer ne ássa alá az emberi autonómiát vagy fejtsen ki más káros hatást. Az AI-rendszer döntéshozatalát lehetővé tévő adatkészleteket és folyamatokat, köztük az adatgyűjtési és adatcímkézési folyamatokat, valamint a használt algoritmusokat a nyomonkövethetőség és az átláthatóság fokozása érdekében a lehető leghatékonyabban dokumentálni kell. Ez vonatkozik az AI rendszer által hozott döntésekre is. Ily módon meghatározható, hogy az AI döntés miért volt téves, ami viszont hozzájárulhat a jövőbeni hibák megelőzéséhez.[30]
A GDPR rendelet 22. cikke szerint az érintett jogosult arra, hogy ne terjedjen ki rá az olyan, kizárólag automatizált adatkezelésen - ideértve a profilalkotást is - alapuló döntés hatálya, amely rá nézve joghatással járna, vagy őt hasonlóképpen jelentős mértékben érintené, kivéve többek között, ha kifejezetten hozzájárul.[31] Ebből adódik az emberi döntéshez való jog, ami azt jelenti, hogy az AI felhatalmazása az eljárásban történő alkalmazásra (és az általa felkínált döntésre) csak a felek hozzájárulásával lehetséges. Amennyiben bármely fél ellenzi az AI bármilyen formájú igénybevételét az eljárásban, a bíróságnak a hagyományos szabályok szerint kell lefolytatnia az eljárást.[32]
Több szempontból lehet vizsgálni a felelősség kérdését, azaz, ki fog felelni a rendszer hibáiért, ki fog gondoskodni azok kijavításáról, a folyamatos tanításról, illetve, kik és hogyan fognak helytállni a hibás működéssel okozott vagyoni károkért és egyéb sérelmekért.
A bíróságok informatikai háttere az eddiginél sokkal jelentősebbé válik, hiszen feltehetően nem a bírók fogják ezt a hibakeresési és javítási tevékenységet végezni, hanem az AI működésében jártas szakemberek. A felelősség tekintetében hazai viszonylatban két irányt látunk alkalmazhatónak, az első szerint a rendszer megfelelő működéséért, és az esetleges működési hibákért azé a felelősség, aki a rendszert alkalmazza, tehát a bíróságé mint szervé, vagy a másik lehetséges irány a felelősséget az OBH-ra telepíteni, amely a többi, jelenleg használatos bírósági elektronikus rendszer működtetéséért is felelős. Ugyanakkor a rendszer rendeltetésszerű működéséért, annak használatra való alkalmasságáért a szoftver fejlesztőjének a felelősségét is szükséges meghatározni.
A Javaslat kockázatalapú megközelítést alkalmaz, különbséget téve a mesterséges intelligencia azon felhasználásai között, amelyek i. elfogadhatatlan kockázattal, ii. nagy kockázattal, illetve iii. alacsony vagy minimális kockázattal járnak. A tiltott gyakorlatok
- 98/99 -
II. címben szereplő jegyzéke[33] magában foglalja mindazokat az MI-rendszereket, amelyek használata elfogadhatatlannak minősül, mert ellentmond az uniós értékeknek, például az alapvető jogok megsértése miatt. A tilalmak azokra a gyakorlatokra vonatkoznak, amelyek képesek öntudatlanul, szubliminális technikák alkalmazásával nagymértékben manipulálni a személyeket, vagy kihasználni bizonyos veszélyeztetett csoportok, például a gyermekek, vagy a fogyatékossággal élő személyek sebezhetőségét, hogy oly módon torzítsák magatartásukat, amely számukra, vagy más személy számára valószínűsíthetően pszichológiai, vagy fizikai károsodást okoz. A III. címbe sorolt nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba, vagy helyezhetők üzembe, ha megfelelnek bizonyos kötelező követelményeknek.
Ami a bírósági eljárásokat illeti, az igazságszolgáltatásra szánt egyes AI rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Különösen az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni azokat az AI rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. Ez a minősítés azonban nem terjedhet ki azokra az AI rendszerekre, amelyeket olyan, tisztán járulékos adminisztratív tevékenységekre szánnak, amelyek az egyedi esetekben nem befolyásolják a tényleges igazságszolgáltatást; ilyen tevékenységek például a bírósági határozatok, dokumentumok, vagy adatok anonimizálása, vagy álnevesítése, a személyzet közötti kommunikáció, az adminisztratív feladatok, vagy a források elosztása.[34]
Megállapíthatjuk, hogy az ilyen típusú rendszerek olyan ügyekben lehetnek hatékonyak, ahol nem sok a változó tényező, azaz a múltbeli adatokat jelentősebb eltérés nélkül lehet alkalmazni a jelenlegi ügyre, és a jövőbeli várható következmények is ugyanazok.
A gyakori jogszabály módosítások ilyen szempontból nem előnyösek, mert újra kell tanítani a rendszert. Az AI ezért az ügyek túlnyomó részében inkább segítő, támogató funkciót láthat el a bírói munkában. Azonban, a nemperes eljárásokban, ahol nincs jogvita, általában nincs mérlegelést igénylő mozzanat, hanem viszonylag objektív feltételrendszert kell az eljáró bíróságnak, vagy más hatóságnak vizsgálnia. Például egy fizetési meghagyásos eljárásban, egy végrehajtási eljárásban, vagy egy cégbejegyzési eljárás során, akár az önálló döntést is elképzelhetőnek tartjuk, az emberi felügyelet és beavatkozási, felülbírálati lehetőség fenntartása mellett. Hollandiában például, a pénzkövetelések
- 99/100 -
végrehajtására irányuló eljárásokban alkalmazzák, de szintén utólagos humán ellenőrzés mellett.[35] Azonban, amennyiben széles a bíró rendelkezésére álló mérlegelési jogkör, és kevésbé objektív szempontok alapján kell ezt elvégezni, például ilyen lehet a fél személyes körülményei, méltányolható érdeke, különleges jogvédelmet igénylő helyzete, meg kellene tartani a humán döntéshozatalt, az AI által nyújtott támogatás mellett. Ennek oka, hogy ezeket a fogalmakat nem képes értelmezni és értékelni az AI, csak az emberi elme.
Összességében, egy átgondolt jogi szabályozásra van szükség, amely biztosítja ezen követelmények érvényesülését, továbbá nem rontja le a jogállamiság alapvető elvét, a jogbiztonságot, és a polgári eljárásjog alapvető elveit, mint a tisztességes eljárás, a bírói függetlenség, a szabad mérlegelés, a fegyverek egyenlősége. Emellett az AI alkalmazásával összefüggésben újabb keletű elvekről is beszélhetünk, ilyen az emberi döntéshez való jog. Az átláthatóság, ellenőrizhetőség, a tiszta felelősségi viszonyok, és a befolyásmentesség hozzájárul az AI rendszerekbe vetett közbizalom és a társadalmi elfogadottságuk erősítéséhez.
Recently, legal science has been interested in the use of artificial intelligence (AI) in certain areas of law, economy, and everyday life as possible futuristic ideas. Many questions have arisen in connection with the judicial application of AI, and in the meantime, these ideas suddenly became reality, and the providers quickly followed the arising practical needs.
However, legal regulation cannot follow the incredibly fast and unexpected changes of practice, since it is difficult to provide adequate legislative responses to the given situation without even seeing the situation accurately. It is an area that is constantly evolving, both at the EU level and in terms of the judicial systems of Hungary and other European countries. In 2018, the European Commission for the Efficiency of Justice (CEPEJ) created the ethical charter on the use of artificial intelligence in the judicial field. The Charter declares that the application of AI in the field of justice can contribute to the improvement of efficiency and quality.
This study takes into account the advantages and possibilities of using AI in civil court proceedings, specifically in relation to litigation and non-litigation proceedings, which are primarily manifested in efficiency and in simplifying and making the decision-making process more predictable. We conclude that this type of system can be effective in cases where
- 100/101 -
there are not many changing factors, i.e. past data can be applied to the current case without significant deviation, and the expected future consequences are also the same.
Overall, a well-thought-out legal regulation is needed that ensures the enforcement of these requirements and does not undermine the basic principle of the rule of law, legal certainty, and the principles of civil procedure, such as right to a fair trial, judicial independence, free discretion, and procedural equality. In connection with the application of AI, we can also mention more recent principles, such as the right to a human decision. Transparency, verifiability, clear rules of responsibility, and freedom from manipulation may contribute to strengthening public trust in AI systems and their social acceptance. ■
JEGYZETEK
[1] https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment (2023. 06. 10.).
[2] Az európai parlament és a tanács rendelete a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról és egyes uniós jogalkotási aktusok módosításáról, Javaslat, COM(2021) 206 final.
[3] Kálmán Kinga - Kiss Laura Olga - Szentgáli-Tóth Boldizsár: Mesterségesintelligencia-alapú szoftverek a világ bíróságain: gyakorlati tapasztalatok, perspektívák, kihívások. In: Ződi Zsolt (szerk): Jogi technológiák: Digitális jogalkalmazás. Ludovika Egyetemi Kiadó. Budapest, 2022. 107-138. pp.
[4] Nyilas Anna: A mesterséges intelligencia hatása a bírói döntéshozatalra. FORVM Acta Juridica et Politica XI. 2021. 303-312. pp.
[5] Ződi Zsolt: The code of AI and human laws. Acta Universitatis Sapientiae Legal Studies, 8. (2018), 2. 253, 260. pp.
[6] Augusto, Eduardo R: AI, Machine Learning & Big Data Laws and Regulations 2021 - Brazil.
[7] Kálmán Kinga - Kiss Laura Olga - Szentgáli-Tóth Boldizsár: Mesterségesintelligencia-alapú szoftverek a világ bíróságain: gyakorlati tapasztalatok, perspektívák, kihívások. In: Ződi Zsolt (szerk): Jogi technológiák: Digitális jogalkalmazás. Ludovika Egyetemi Kiadó. Budapest, 2022. 107-138. pp.
[8] Guodong, Du: How the Beijing Internet Court Develops and Runs its IT System Inside China's Internet Courts. China Justice Observer, Series 04. 2019.
[9] Straton, Papagianneas: Automation and Digitalization of Justice in China's Smart Court Systems. China Brief 21. (2021) 11. 17. p.
[10] Kálmán - Kiss - Szentgáli-Tóth 2022, 107-138. pp.
[12] Lásd Darák Péter: Hogyan indokolja az algoritmus a döntéseit? (Tézisek) In: Gyekiczky Tamás (szerk): Határtér: Digitális kihívások a jogban, Patrocinium Kiadó, Budapest, 2021. 175-180. pp.
[13] Lásd erről bővebben Nagy Adrienn: A mesterséges intelligencia és a digitalizáció jelentősége és lehetséges hasznosítási területei az igazságszolgáltatásban. Infokommunikáció és Jog, E-Különszám, 2020.
[15] Balogh Judit: M.I vs J.O.G - Azaz "mesterséges intelligencia" versus "jogászság okos generációja". https://arsboni.hu/m-i-vs-j-o-g/ (2019. 07. 02.).
[16] Molnár Orsolya: "Hasta la vista, baby". https://arsboni.hu/hasta-la-vista-baby/ (2019. 07. 01.).
[17] What's the magic of the Internet justice China program? Cyberspace Administration of China, Legal Daily. http://www.chinadaily.com.cn/ (2019. 12. 12.).
[18] Zhu, M.: Hangzhou Internet Court Pilot Application "AI Assistant Judge", Hangzhou news, https://hznews.hangzhou.com.cn/jingji/content/2019-06/14/content_7210416.htm (2019. 06. 14.).
[19] 1573/2020. (IX. 9.) Korm. határozat Magyarország Mesterséges Intelligencia Stratégiájáról, valamint a végrehajtásához szükséges egyes intézkedésekről.
[20] Lőrincz 2019, 1-7. pp.
[21] Lásd például Darák 2021, 175-180. pp.; Gombos Katalin et al.: A mesterséges intelligencia jogalkalmazási területen való hasznosíthatóságának alapjogi kérdései. In: Török Bernát - Ződi Zsolt (szerk): A mesterséges intelligencia szabályozási kihívásai. 327-355. pp.; Nagy 2020.
[22] A polgári perrendtartásról szóló 2016. évi CXXX. törvény, 181. §
[23] Osztovits András: A technológia hálójában - a magánjogi jogérvényesítés jelene és lehetséges jövője, In: Ződi, Zsolt (szerk): Jogi technológiák. Ludovika Egyetemi Kiadó. Budapest, 2022. 285-301. pp.
[25] Gombos et al. 2021, 327-355. pp.
[26] Ethics guidelines for trustworthy AI, https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trust-worthy-ai (2023. 06. 10.).
[27] Reiling, A. D. : 'Courts and Artificial Intelligence' (2020) 11(2) International Journal for Court Administration 8.p. DOI: https://doi.org/10.36745/ijca.343
[28] Zednik, C.: Solving the Black Box Problem: A Normative Framework for Explainable Artificial Intelligence. Philosophy & Technology, 34(2), 265-288. pp. DOI: https://doi.org/10.1007/s13347-019-00382-7
[29] Lum, K. - Isaac, William: 'To Predict and Serve?' Significancemagazine.com (2023. 05. 23.).
[30] Ethics guidelines for trustworthy AI, https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trust-worthy-ai (2023. 06. 10.).
[31] Az európai parlament és a tanács 2016. április 27-i (eu) 2016/679 rendelete a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK irányelv hatályon kívül helyezéséről (általános adatvédelmi rendelet), 22. cikk.
[32] Reiling, A. D. 2020, 8. p.
[33] COM/2021/206 final, II. CÍM, TILTOTT MESTERSÉGESINTELLIGENCIA-GYAKORLATOK.
[34] Az európai parlament és a tanács rendelete a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról és egyes uniós jogalkotási aktusok módosításáról, Javaslat, COM(2021) 206 final.
[35] Nakad-Weststrate, H. W. R. et al.: Digitally produced judgements in modern court proceedings. International Journal for Digital Society, 6(4), 2015. 1102-1112. pp. DOI: https://doi.org/10.20533/ijds.2040.2570.2015.0135
Lábjegyzetek:
[1] A szerző adjunktus, Debreceni Egyetem, Állam-és Jogtudományi Kar.
Visszaugrás
