"Azt hiszem, valóban két lehetőségünk van, és az első az, hogy egyszerűen megtiltjuk a gépeknek, hogy döntéseket hozzanak az emberek jogairól. Bár ez csábító lehetőség, itt nem akarom ezt komolyan fontolóra venni. És talán már el is késtünk vele. A másik az, hogy ha a gépek nem tudnak hagyományos, »jogászias módon« indokolni, akkor olyan módszereket kell kifejlesztenünk, amelyek segítségével a döntéseiket egy közönséges, érthető nyelvre fordítják. Ha nem ragaszkodunk tovább mereven a jogi döntéselmélethez, akkor számos lehetőségünk lesz arra, hogy emberközpontú és érthető magyarázatokat fűzzünk a gépi döntésekhez."
Az algoritmusok megmagyarázhatósága[1] az elmúlt évtized diskurzusa, és általános formájában az "ember-gép interakció" tudományterületének része.[2] Ezen a diskurzuson belül van egy jól azonosítható fontos alterület, amely azoknak a géppel hozott döntéseknek vagy kimeneteknek a megmagyarázhatóságával foglalkozik, amelyek befolyásolják egy személy jogi helyzetét, vagy amelyek jogi szempontból relevánsak - ez az algoritmikus jogi döntések területe. Ebben a cikkben csak ezzel a részterülettel fogok foglalkozni.[3]
A gépi döntéseket tekintve akár úgy is tűnhet, hogy teljesül Montesquieu álma, hogy a bírák pusztán a "törvény szájai" legyenek (bouches de la loi).[4] A gépeknek nincsenek rejtett szándékaik, elfogultságaik és agendáik, és rendkívül racionálisan működnek.[5] Ugyanakkor épp a gépi döntések kapcsán vált világossá, hogy az emberek vágyhatnak ugyan egy teljesen elfogulatlan és teljesen racionális döntéshozóra, a valóságban ez nem mindig tetszik nekik. Az ilyen tökéletes döntések egyik neuralgikus pontja éppen az, hogy a gépek nem tudják megfelelően indokolni a döntéseiket.
2010-től az algoritmikus megmagyarázhatóság a "big data etika",[6] illetve később a "mesterséges intelligencia etika" egyik témájaként jelent meg[7]. A 2015-ben elfogadott GDPR szövege már tesz is említést erről a kérdéskörről, bár ellentmondásos formában.[8] Ezekben a diskurzusokban a megmagyarázhatóság etikai elvárásként fogalmazódik meg, olyan más etikai követelményekkel együtt, mint például az értelmezhetőség, a tisztesség, az átláthatóság, az elszámoltathatóság, az emberi méltóság tiszteletben tartása, a szabadság vagy az önrendelkezéshez való jog.[9] Mindezen követelmények mögött az az alapgondolat áll, hogy az embereknek jogukban áll, hogy tisztában legyenek a szabályokkal, amelyeket elvárnak tőlük, és megértsék az életüket befolyásoló döntések okait, illetve azt, hogy ezek a döntések hogyan vezethetők vissza a szabályokra.
Ebben a tanulmányban három egymással összefüggő érvet szeretnék kifejteni az "algoritmikus megmagyarázhatóság" fogalmáról a jogban.
Az első érvem az, hogy az elmúlt néhány évben ez a fogalom nagyon zavarossá vált, illetve "szemantikailag túlterhelt" lett. Emiatt megpróbálok egyértelműen különbséget tenni a megmagyarázhatóság, az átláthatóság, az elszámoltathatóság és a méltányosság rokonfogalmai között. Az a javaslatom, hogy a megmagyarázhatóság követelményét csak gépi döntések esetén alkalmazzuk.
A második érvem az, hogy vissza kell szereznünk a jogtudományi és a nyelvi dimenziót a megmagyarázhatósággal kapcsolatban: ebből a szempontból sokat tanulhatunk a jog érthetőségének diskurzusából.
Végezetül, a harmadik érvem az, hogy mivel az adatokon alapuló gépi döntések folyamata és logikája eltér a szabályalapú emberi döntésektől, nem használhatjuk változtatás nélkül a bírói (vagy jogi) érvelés mintáját a gépi döntésekhez. Ez komoly feszültségekhez fog vezetni a közeljövőben: vagy beletörődünk ugyanis abba, hogy a "gépek magyarázata" soha nem lesz ugyanaz, mint az embereké, vagy megtiltjuk a gépeknek, hogy döntéseket hozzanak rólunk. Mindenesetre, a folyamat fájdalmas lesz.
A tanulmány első részében összefoglalom a gépi (automatizált) döntések jogi kezelésének történetét, amely kiindulópont a megmagyarázhatóság koncepciójának megértéséhez. Ezután rekonstruálom azt a folyamatot, amelyben a megmagyarázhatóság összefonódott más etikai elvárásokkal, mint például az elszámoltathatósággal, a törvényességgel és az átláthatósággal. Az a célom, hogy bebizonyítsam, hogy a megmagyarázhatóság szemantikailag túlterhelt fogalommá vált, amelynek nagyon ellentmondásos jelentése van. Az első rész végén javaslatot teszek a fogalom egyértelmű használatára.
A második részben a megmagyarázhatóság jogelméleti és nyelvi vonatkozásait elemzem. A fő érvem itt az, hogy a jogi érveléssel szemben támasztott kö-
- 27/28 -
vetelményeknek a gép által hozott döntések és az ezekhez kapcsolódó magyarázatok nem tudnak megfelelni. Mivel a gépek a közeljövőben nem fognak tudni úgy indokolni, mint az emberek, csak két lehetőségünk van: vagy feladjuk a jogi érvelési modell utánzását, és elkezdünk más magyarázó technikákat használni, vagy teljesen megtiltjuk a gépeknek, hogy döntéseket hozzanak rólunk. Érvelni fogok az első lehetőség mellett.
A "magyarázathoz fűződő jog" előképe az 1995-ös adatvédelmi irányelvbe[10] került bele először. Az 1995-ös adatvédelmi irányelv létrehozta az automatizált döntéshozatal kategóriáját,[11] és ez utóbbin belül megkülönböztette a "komoly" és a "kevésbé komoly" automatizált döntéseket. "Komoly" döntéseknek az irányelv azokat tekintette, amelyek "joghatásokat okoznak" az érintettre vonatkozóan, vagy "jelentősen érintik őt". A "nem komoly" döntéseket egyszerű (automatikus) adatfeldolgozásnak tekintette az irányelv, és ezekre csak egy szabály vonatkozott: az irányelv 12. cikke, amely kimondja, hogy a "az érintettnek joga van, hogy "tájékoztatást kapjon a rá vonatkozó adatok automatizált feldolgozása során alkalmazott logikáról".
A komoly automatizált döntések esetében az irányelv főszabályként kimondta, hogy az érintettnek joga van a "leiratkozáshoz" (opt-out) is: "A tagállamok minden személynek biztosítják a jogot arra, hogy ne terjedhessen ki rájuk olyan döntés hatálya, amely rájuk nézve jogi hatással járna, vagy őket jelentős mértékben érintené, és amely kizárólag automatizált feldolgozáson alapul, és amelynek célja a rá vonatkozó egyes olyan személyes szempontok kiértékelése, mint például a munkahelyi teljesítmény, a hitelképesség, a megbízhatóság, az életvitel, stb."[12]
A rendelkezéssel kapcsolatban meglehetősen kiterjedt irodalom született ugyan,[13] lényegében alig volt használatban. Az egyáltalán létező néhány gépi folyamatot (pl. az automatikus forgalomellenőrző és bírságoló rendszereket[14]) úgy tervezték meg, hogy mindig volt lehetőség emberi döntéshozóhoz való fellebbezésre. Ezek a döntések ráadásul annyira egyszerűek (néhány könnyen hozzáférhető, ellenőrizhető paramétert használnak), hogy nehéz lenne ezeket vitatni. Az automatikus forgalomellenőrző rendszerek esetében egyébként maga a döntés egy szokásos hatósági határozat formájában jelenik meg, ezért a magyarázat is ezt a mintát követi.[15]
A GDPR ezen a helyzeten nem sokat változott. Egyrészt kiegészítette az automatikus adatfeldolgozásra vonatkozó rendelkezéseket új érintetti jogosítvánnyal, másrészt az automatizált döntéshozatal kategóriáján belül bevezetett néhány új szabályt a "profilalkotásra". A magyarázathoz való jogot az automatizált adatkezeléssel összefüggésben a GDPR csak a nem kötelező erejű preambulumbekezdések egyikében említi: "Az ilyen adatkezelés mindazonáltal csakis megfelelő garanciák mellett végezhető, amelybe beletartozik az érintett külön tájékoztatása és az ahhoz való joga, hogy emberi beavatkozást kérjen és kapjon, különösen hogy kifejtse álláspontját, hogy magyarázatot kapjon az ilyen értékelés alapján hozott döntésről és hogy megtámadja a döntést."[16]
Az automatizált döntéshozatal szabályaiban két figyelemre méltó pont van, és mindkettő mutatja a megmagyarázhatósági joggal kapcsolatos zavarokat.
Az egyik egy általánosabb probléma: az, hogy a jog az egész kérdéskört az adatvédelem összefüggésében kezdte el kezelni, bár első pillantásra teljesen világos, hogy nem klasszikus adatvédelmi kérdésről van szó. Ha ugyanis az adatvédelem végső céljának azt tekintjük, hogy legyenek világosak a személyes adatok kezelésének (megszerzésének, tárolásának, felhasználásának, átadásának stb.) szabályai, akkor a magyarázathoz való jog ezen messze túlmutat. Ez ugyanis az egyén jogaira vonatkozó valamilyen szubsztantív döntés egy speciális követelményét állapítja meg; jóllehet ez a döntés - ahogy egyébként minden döntés - részben személyes adatokon alapszik.
A másik figyelemre méltó pont pedig, hogy az adatvédelemben még az is vitatott, hogy a magyarázathoz való jog egyáltalán létezik-e követelményként: egyes szerzők nagyon meggyőzően érvelnek amellett, hogy a jelenlegi adatvédelmi rendszer nem tartalmaz kötelező megmagyarázási szabályt.[17] Mások ezt vitatják.[18]
A 2010-es évtized közepén a big data-val és a mesterséges intelligenciával kapcsolatos jogi és etikai aggályok megsokasodtak. Számtalan cikk,[19] szakpolitikai dokumentum,[20] etikai kódex,[21] jogalkotási ja-
- 28/29 -
vaslat és egyéb dokumentum kezdte el tárgyalni a big data és a mesterséges intelligencia lehetséges kockázatait. A szövegek mindegyike rögzítette valamilyen formában a megmagyarázhatóság követelményét, bár igen változatos formában - és főképp változatos kontextusban.[22] A megmagyarázhatóság a mesterséges intelligenciával kapcsolatban néhány év alatt az egyik legfontosabb etikai kérdéssé vált.
Így jutunk el napjainkig. A megmagyarázhatósági kritériumról nagyjából annyit tudunk biztosan, hogy fontos etikai elv, de számos tisztázatlan kérdés övezi, kezdve azzal, hogy még az sem világos, hogy jelenleg a tételes jog része-e vagy sem. Nyugodtan kijelenthetjük, hogy a kifejezés legalábbis szemantikailag "túlterhelt"[23] lett. Az alábbiakban annak próbálok utánajárni, hogy mi lehet ennek az oka.
A zavar több területen is jelen van. Nem világos, hogy a megmagyarázhatóság mire vonatkozik: az élet melyik területén kell elvárásnak lennie; egy adott rendszer, folyamat, illetve döntés melyik részének kellene megmagyarázhatónak lennie; mi az az ellentétes vagy negatív állapot, amelyet el kellene kerülnünk, és végül, hogy mi a magyarázat végső célja vagy igazolása.
Ebben a részben, miután bemutattam a zavar területeit és okait, a fő célom annak bizonyítása, hogy ennek az egyébként hasznos koncepciónak a kiaknázása érdekében a lehető legegyszerűbben kellene meghatároznunk a megmagyarázhatóság követelményét. Ezért azt javaslom, hogy először is formaieljárási kritériumként értelmezzük (és ne keverjünk bele olyan szubsztantív követelményeket, mint a döntés tisztessége, igazságossága vagy diszkriminációmentessége), másodszor pedig tartsuk fent kizárólag a gépi döntésekre vagy kimenetekre. Más helyzetekben - így például egy rendszer egészére vonatkozóan -inkább az átláthatóság követelményét kérjük számon.
Mielőtt azonban a zavar területeit és megnyilvánulásait ismertetném, érdemes néhány szót szólni annak okáról, hogy ez a követelmény olyan fontos lett.
Az emberi döntések esetén, bár a végső eszmény és cél az, hogy egy döntés szubsztantíve helyes és igazságos legyen, mindezt nem követeljük meg minden pillanatban és helyzetben. Ha a bíró betartja az eljárási szabályokat, alaposan és gondosan megvizsgálja az ügyet, majd a végén mégis olyan döntést hoz, amely nem teljesen igazságos, akkor azt elfogadjuk, ha az indokolása koherens, vagyis toleráljuk a rossz döntéseket is.[24] Ha az orvos a legjobb tudása és a bevett protokollok szerint állítja fel a diagnózist, akkor is lehetséges, hogy a beteg végül nem gyógyul meg, de ezért rendszerint nem tesszük felelőssé az orvost.
Nem ez a helyzet a gépeknél, amelyek esetében nem toleráljuk a hibákat, és nem elégszünk meg a puszta szabálykövetéssel, ha az nem a kívánt végeredményhez vezet. Úgy tűnik, hogy a gépektől többet várunk, mint az emberektől. A jelenséget el is nevezték "algoritmikus averziónak".[25]
Az irreális elvárás mögött több tényező áll. Az első az, hogy az algoritmusok nagyon hatékony és nagyon nehezen megkerülhető viselkedésszabályozó eszközök. Lawrence Lessig már 1998-ban felismerte ezt elméletében.[26] Lessig szerint a kódok (az algoritmusok) a viselkedés kontrollálásának (is) eszközei - és így egyben hatalmi eszközök is. Olyanok a virtuális térben, mint az "építmények" a fizikai világban: sok tekintetben sokkal hatékonyabbak, mint a jog vagy a "normák" (utóbbi alatt ő szokásokat ért). Mirelle Hildebrand egy ehhez nagyon hasonló elméletet fejtett ki a közelmúltban.[27]
Másodszor, a mennyiségi és számszerű kategóriák önkényessége is fokozza a problémát. A jelenséget már a görögök is felismerték: ez a phüzisz és a nomosz, vagyis a természetes és az önkényes, a reason és a fiat közötti különbség.[28] Ha a gépi tanulás az adatok mintáin alapul, akkor maguk a gépek bizonyos mennyiségeket szem előtt tartva látszólag önkényes határokat húznak, és tetszőleges kategóriákat alkotnak; olyanokat, amelyeket egyébként az ember húzott volna meg. Az ilyen önkényes elhatárolásokat könnyebben fogadjuk el egy emberi lénytől, mint egy géptől.
A harmadik probléma a döntés elszakadása az eredeti értékektől. Az algoritmikus döntéshozatalnak nincs külön értékrendje. Az algoritmikus döntések indoklási vagy ellenőrzési értékei a külvilágból származnak, gyakran magából a törvényből. De gyakran csak közvetve. Például a COMPAS szoftverrel kapcsolatos, jól ismert ügyben[29] az eredeti értékek, amelyek egy elítélt büntetésének kiszabását irányítják, a jogszabályokban találhatók. De a rendszer a visszaeséssel kapcsolatos előrejelzést esetek ezrei alapján,
- 29/30 -
gépi tanulási folyamat eredményeképpen tette meg, ami azt jelenti, hogy a döntést egy idő után már csak az esetek (vagy inkább az ezekben az esetekben található adatok) irányítják.
Negyedszer, a magánautonómia, illetve a szerződési szabadság problémája is bejön a képbe. A gép által hozott döntések sok esetben hatással vannak magánjogi kapcsolatokra. Meg kell-e magyarázni egy bankkölcsönre vonatkozó, géppel hozott döntést vagy azt, ahogyan egy munkaközvetítő platform kiosztja a munkát? Mi az oka annak, hogy a gépek esetén a magánjogi, illetve szerződéses kapcsolatokban is elvárjuk az átláthatóságot, és a magyarázatot igénylünk? A magyarázat iráni fokozott elvárás olyan magánjogi jogviszonyokat illetően - olyan területeken, ahol korábban talán egyáltalán nem volt szokás a döntéseket megmagyarázni - Frank Pasquale híres könyvének, a Black box society-nek az egyik alapmotívuma.[30]
Végül, ötödször, az algoritmikus szorongás egyik legfontosabb oka az, hogy a gép döntései olykor egyszerűen nem magyarázhatók a józan ész narratívái szerint, ugyanis óriási különbség van a "statisztikai" és a "józan ész szerinti" magyarázat között. Pasquale ezt is felelismeri: "A hitelezés kontextusában, a kérelmezők általában alapvető, nagyon rövid indoklásokat kapnak a számukra kedvezőtlen döntések mellé. A »magyarázatok«, például a »túl sok aktívszámla« vagy a »legutóbbi számlanyitás óta eltelt idő túl rövid« inkább csak az okok kódjai, amelyek ahelyett, hogy egyértelműen elmagyaráznák a történteket, egyszerűen megneveznek egy tényezőt a döntésben. Megtudjuk, hogy ez fontosabb volt, mint más, meg nem nevezett tényezők, de a mérlegelés folyamatából keveset látunk. "[31]
Az algoritmikus szorongás eredményeként a megmagyarázhatóság és a magyarázható algoritmusok, rendszerek, illetve döntések követelménye különböző területeken és összefüggésekben merült fel az elmúlt évtizedben.
A legkorábbi kontextus a big data narratíva.[32] Ebben a kérdéskörben szinte mindig előkerült a hitelbírálati döntések, a felsőoktatási felvételi vagy a munkavállalói értékelések ügye.[33] A hírhedt Target-ügy (ahol egy algoritmus kikövetkeztette egy tinédzser terhességét)[34] is állandó példa volt, és nagyon gyakran merült fel, hogy a big data módszertanon alapuló algoritmusok diszkriminálhatnak,[35] valamint észrevétlenül manipulálhatnak bennünket.[36] Ezért a "nagy adatetika" során az átláthatóság lett az elsődleges érték, vagyis az a kívánalom, hogy az érintett személynek mindig tisztában kell lennie azzal, hogy milyen adatokon alapult a vele kapcsolatos predikció. A "big data etika" fontos eleme volt továbbá, hogy a döntést elszenvedő számára lehetőséget kell biztosítani a döntés megkérdőjelezésére - ami értelemszerűen azt is jelenti, hogy a döntést valahogyan meg kell indokolni. Ez a narratív keret erősen emlékeztet arra, ahogyan az európai uniós adatvédelmi jog már régebb óta kezeli a problémát.[37]
Mindehhez a 2010-es évek közepén két új szempont csatlakozott. A big data narratívát felváltotta a mesterséges intelligencia magyarázó kerete, amely a kiszámíthatatlan, nem determinisztikus szempontokra összpontosított,[38] és ezáltal a gépi tanulás jelenségéből fakadó érthetetlen kimenetek problémáját helyezte a középpontba. Felmerült az az igény, hogy az MI kimenetei legyenek érthetőek a hétköznapi emberek számára is.
Végül a 2010-es évek végén ezt a narratívát kiegészítette egy újabb elem, az internetes platformokkal szembeni sebezhetőségé.[39] A platformokon belüli adatbázisok, folyamatok és algoritmusok magyarázatának szükségessége az Európai Bizottság legutóbbi platformszabályozási javaslatcsomagjának egyik legfontosabb, visszatérő eleme.[40]
Mostanra a megmagyarázhatóság követelménye a fentiek miatt igen zavarossá vált, vagy kissé elvontabban fogalmazva: szemantikailag túlterhelt lett. Legalább három aspektust illetően zavaros a fogalom.
Először is, nem világos, hogy minek is kellene megmagyarázhatónak lennie. Bizonyos esetekben a követelmény az egész rendszer működésére (folyamataira, illetve szerkezetére) vonatkozik. Ez a helyzet például az internetes platformok esetében. Nem tudjuk, hogy pontosan mi történik a bejegyzésünkkel, ha rákattintunk a közzététel gombra, vagy akkor, ha bejelentést teszünk. Milyen rendszerek és folyamatok kezdenek működni ezekben az esetekben? Mikor lép közbe egy ember? Máskor a megmagyarázhatóságot a szabályok, illetve az adatok (bemenet) kontextusában emlegetik. Miért tiltottak le bizonyos bejegyzéseket, másokat pedig miért nem? Milyen adatokat vesznek figyelembe? Végül (leggyakrabban), a rendszer döntéseire vagy kimeneteire vonatkozóan ve-
- 30/31 -
tik fel a megmagyarázhatóság követelményét. Ez esetben a "megmagyarázhatóság" azt jelenti, hogy az adott outputnak magyarázhatónak kell lennie, úgy, ahogyan egy hatóság köteles a döntését megmagyarázni - ez azt jelenti, hogy megfelelő indokolást szeretnénk kapni egy adott döntés mellé.[41]
A zűrzavar további forrása, hogy amikor egy algoritmikus folyamat vagy döntés "megmagyarázhatóságáról" - vagy inkább "nem érthetőségéről" - beszélünk, különböző dolgokat értünk alatta abból a szempontból, hogy mit akarunk elkerülni. Ahogyan Selbst és Barocas rámutat,[42] a "megmagyarázhatatlanság" ebből a szempontból legalább három különböző dolgot jelenthet. Először is, az algoritmusok érthetetlenek lehetnek, ha valakinek a magántulajdonában vannak, és az a valaki nem akarja felfedni működésüket. Másodszor, érthetetlen egy algoritmus, ha a működése nem titkos ugyan, csak túl bonyolult - ez az a helyzet, amelyben a döntéshozatalra vonatkozó szabályok "annyira összetettek, sokfélék, és annyira függenek kölcsönösen egymástól, hogy az szembeszegül a gyakorlati ellenőrzésnek, és gátolja a megértést".[43] Végül, egy algoritmus, illetve a döntése lehet érthetetlen azért is, mert "nem intuitív", azaz "nem lehet értelmes történetet szőni a statisztikai összefüggések köré a modellben [... és], bár a statisztikai kapcsolat, amely a döntéshozatal alapjául szolgál, könnyen azonosítható", az szemben áll a hétköznapi narratíváinkkal.[44]
És hogy a helyzet még bonyolultabb legyen, a magyarázat elvárását - azt, hogy milyen magyarázatot tekintenénk jónak - az is befolyásolja, hogy mit tekintünk a magyarázat céljának. A magyarázat ugyanis lehet útmutatás a jövőbeli magatartáshoz, vagy lehet a döntés megtámadásának alapja, de célozhatja (ezektől függetlenül, de legtöbbször az előzőekkel együtt) a döntéshozó fórum, illetve a teljes rendszer elfogadottságának, legitimitásának fenntartását is, amint arra Grant és Wischick is rámutatnak tanulmányukban.[45] Egy jogi indokolásban - a jog jellegzetességéből adóan - ezek a célok egyszerre vannak jelen.
A következőkben azt javaslom, hogy egyrészt tisztázzuk, és tegyük egyértelművé a megmagyarázhatóság hatókörét és jelentését, és ennek következtében a fent említett elvek kapcsolatát, másrészt hozzuk vissza a jogelméleti és a nyelvi aspektusokat a megmagyarázhatóságra vonatkozó diskurzusba. Ennek a feladatnak az elvégzéséhez mindenekelőtt a megmagyarázhatóság fogalmával nagyon hasonló jelentésű fogalmakat kell számba venni, elhatárolás céljából.
A rokonfogalmakat két csoportra bonthatjuk: az egyikbe azok tartoznak, amelyek inkább eljárási és formális kritériumokra vonatkoznak, a másikba pedig azok, amelyek inkább tartalmi-szubsztantív követelményekre. Előzetesen rögzítem, hogy véleményem szerint a szubsztantív követelményeket nem szerencsés a megmagyarázhatósággal összekeverni.
Az első, formális-eljárási csoportban a megmagyarázhatósághoz legközelebb álló három fogalom az átláthatóság, az elszámoltathatóság és az értelmezhetőség. Gyakran előfordul, hogy ezeket szinonimaként kezelik, vagy egy felsoroláson belül a megmagyarázhatóság kiegészítő fogalmaiként; esetleg fordítva, főfogalomként a transzparenciát tekintve, és ennek segédfogalmaként a megmagyarázhatóságot.[46]
Ugyanakkor könnyen belátható, hogy az átláthatóság (transparency) követelményét inkább akkor említjük, ha azt szeretnénk, hogy a folyamat gazdája, illetve a rendszer működtetője számot adna egy nagyobb rendszer, illetve folyamat működéséről, illetve lezajlásáról. Továbbá, ehhez a fogalomhoz erősen kötődik a hatalmi visszaélés megakadályozásának képzete is. Az elszámoltathatósággal hasonló a helyzet. Ennek a fogalomnak komoly jelentősége van ugyan a gépi döntések világában, de elsősorban az a jelentése, hogy minden esetben lennie kell egy olyan személynek (embernek), akinek egy adott döntést be lehet tudni, illetve aki egy meghatározott eredményért vagy döntésért vállalja a felelősséget.
Végül, az értelmezhetőség (interpretability)[47] valóban felcserélhetőnek tűnik a megmagyarázhatóság fogalmával, csak mintha az előbbit inkább a technikai szakemberek, a programozók használnák gyakrabban, de lényegében ugyanabban az értelemben mint a megmagyarázhatóságot.[48]
A tartalmi-szubsztantív fogalmak közül a jogszerűség (lawfulness), a méltányosság (fairness) és a diszkriminációmentesség (non-discrimination) merül fel gyakran a megmagyarázhatósággal közeli kapcsolatban levő fogalomként. Bár ezekről azonnal látszik, hogy - eltérően a megmagyarázhatóságtól - nem eljárási-formális természetűek, az erős kapcsolat azért áll fent mégis, mert - ahogy ezt később látni fogjuk - a megmagyarázhatóság nem egyszerűen csak azt jelenti, hogy a gépi döntések mellé adunk egy akármilyen magyarázatot, hanem azt is, hogy ennek a magyarázatnak az "észszerűség" minimumának is meg
- 31/32 -
kell felelnie, azaz beilleszthetőnek kell lennie a hétköznapi narratíváink közé. A három szubsztantív fogalom valójában a magyarázó narratíváknak a minimumkövetelményeit rögzíti.
Ezek után valamivel könnyebb annak tisztázása, hogy milyen esetekben célszerű használni a megmagyarázhatóság követelményét. Ha a megmagyarázhatóság területeit nézzük (azt, hogy minek kell megmagyarázhatónak lenni), akkor a big data-n alapuló következtetések és előrejelzések, az MI és a gépi tanulás, valamint a platformok kerülnek terítékre, és arra jutunk, hogy a megmagyarázhatóság követelménye a "black-box" szerűen működő gépi tanuláson alapuló rendszerekre alkalmazható a legcélszerűbben.[49]
Azt a kérdést is vizsgáltuk, hogy a magyarázatnak a rendszer egészére kell-e vonatkoznia, vagy bizonyos eljárásokra, illetve csak a kimenetekre (döntésekre). Álláspontom szerint a rendszerekre és az eljárásokra az átláthatóság és az elszámoltathatóság követelményét érdemes használni, a megmagyarázhatóságét pedig csak a döntésekre (kimenetekre).
Végül, a "titkos" algoritmusokra is inkább az átláthatóság követelményét érdemes alkalmazni, a megmagyarázhatóság elvárását pedig csak a túl bonyolult, illetve a "nem intuitív" kimenetekre fenntartani.
Összességében tehát azt javaslom, hogy a megmagyarázhatóság követelményét a gépi tanuláson alapuló rendszerek döntéseire és kimeneteire alkalmazzuk. Ebben az értelemben a magyarázhatóság azt jelenti, hogy minden ilyen döntésnek visszavezethetőnek kell lennie egy közönséges magyarázatra, amely megfelel a józan ész követelményeinek. (A magyarázat konkrét megjeleníthetőségének kérdéskörével a következő részben foglalkozom.)
Ha elfogadjuk ezt a szűk értelmezést, annak két előnye van.
Először is, ezzel a korlátozással könnyen összefüggésbe tudjuk hozni a megmagyarázhatósági diskurzust a jogi érvelés diskurzusával, amely utóbbi olyan kérdésekre keresi a választ, hogy miért van szükség érvelésre, avagy, a magyar jogi szóhasználat szerint: indokolásra. Mikor helyes az érvelés? Melyek a jogi érvelés sajátosságai? Ehhez a diskurzushoz olyan kérdésekkel lehet csatlakozni a gépi döntések területén, mint hogy milyen különbségek vannak a bírói és a gépi döntések között, illetve milyen közös vonásai vannak a két döntéstípusnak. Mit tanulhatunk a bírói érvelésből, és mit használhatunk belőle az algoritmikus megmagyarázhatósággal összefüggésben?
A második előnye annak, ha a megmagyarázhatóságot a gépi döntésekre korlátozzuk, hogy visszanyerhetjük a nyelvi dimenziót, és hasznosíthatjuk a jog érthetőségével kapcsolatos diskurzus érveit. Hipotézisem az, hogy mivel az érthetőség diskurzusa nem csak a nyelvről szól, az algoritmikus megmagyarázhatóság diskurzusa sem csak a gépekkel szembeni sebezhetőségről, valamint a mesterséges intelligenciával kapcsolatos etikai követelményekről szól, hanem az utóbbinak van egy nyelvi dimenziója is.
Ha a megmagyarázható algoritmusok problematikáját jogelméleti szempontból vizsgáljuk, az végső soron a gyakorlati, illetve a bírói érvelés problémájáig vezet. Amikor az emberek döntéseket hoznak, elvárjuk tőlük az indokolást, és ez különösen igaz a jogra, amely a gyakorlati érvelésnek egy igen fontos területe.[50] A jog maga ugyanis néha nem más, mint egy koherens érvelésen nyugvó diszkurzív gyakorlat.[51] Ha a gépek döntéseket hoznak, a gépektől is elvárjuk, hogy ugyanígy, koherensen indokolják meg azokat.
Az érvelés mint problémakör vizsgálatának hosszú hagyománya van a jogelméletben. A döntések indokolása és magyarázata végső soron legitimitási problémákhoz vezet. Általában igazságtalannak érezzük, ha azok, akiknek hatalmuk van mások felett, nem indokolják meg a döntéseiket. Ugyanakkor még a jogban sem kivételes, hogy a döntéshozó nem indokolja meg a döntését.[52]
A jogi érvelés két pilléren nyugszik: a normák bemutatásán és a tényeken. Mindkét vonatkozásban az emberi nyelv a közvetítő, és mindkét aspektus kapcsán egyre nagyobb az igény az érthetőségre. A jogi normák esetében ez azt jelenti, hogy olyan nyelvezetet kell használniuk, amely közel áll a hétköznapi nyelvhez.[53] A tények esetében is elvárás, hogy köny-
- 32/33 -
nyen érthető "történetbe" legyenek "csomagolva".[54] Maga az érvelés akkor jó, ha meggyőzi az olvasót arról, hogy az adott - írott törvényekbe foglalt vagy korábbi döntésekbe zárt - norma alkalmazható, a normát körültekintően értelmezték, a bizonyítékokat megfelelően mérlegelték, a tényeket alaposan feltárták, és mindezeket tekintve az egyedi esetben hozott döntés megfelel a jogszabályoknak.[55] Van egy nagyon gazdag - de mindössze néhány egyszerű feltevésen alapuló - elméleti hagyomány, amely ennek a folyamatnak a mikrostruktúrájával és részleteivel foglalkozik.
1. A döntést hozó személynek van egy bizonyos szabadsága, vagy legalábbis mozgástere, és az érvelés részben a kiválasztott megoldás magyarázata. A magyarázat sok jogi kultúrában egy adott személyhez kötődik, amely tükrözi a személyiségét. (Más jogi kultúrákban a jogi döntéseket személytelen döntésként mutatják be.)
2. A szabályok, amelyek alapján a döntés született, emberi nyelven íródtak, ezért ki vannak téve az emberi értelmezésnek.[56] Az értelmezések a jogászközösség nyelvjátékán alapulnak, illetve abba ágyazódnak be, és ez a közösség az eset összefüggésében korlátozhatja vagy ki is bővítheti egy adott szó jelentését.[57]
3. A tények nem "nyers tényként" jelennek meg, hanem többé-kevésbé koherens és hihető elbeszélésekbe foglalva, amelyek illeszkednek a "hétköznapi történeteink"[58] közé.
4. A bírói döntéshozatali eljárás körkörös. A norma értelmezése, valamint a tények kiválasztása és bemutatása egymásra hivatkozással történik: a tényeket a jogi fogalmak segítségével értelmezik, míg a törvény szövegét az értelmezett tények fényében választják ki és konstruálják meg.[59]
5. A bírói érvelés több célcsoportnak szól egyszerre. Nemcsak az érintett személyek meggyőzésének eszközeként szolgál, hanem más emberek jövőbeli viselkedésének orientálására is. A döntéseket és az érvelést úgy alakítják ki, hogy megfeleljenek a többrétegű célcsoport igényeinek.[60]
6. Az indokolás "általánosítás". Mind a történetmesélés, mind a törvények értelmezése, mind pedig annak demonstrálása, hogy a törvényeket megfelelően alkalmazzák, közös feltételezéseinken, magasabb szintű elbeszélések iránti elkötelezettségünkön alapulnak, és folyamatosan metaforákat használnak. A törvények szövege mellett vannak közös indokok arra vonatkozóan, hogy mely érvek és magyarázatok elfogadhatók, és melyek nem.[61]
Az első, és szerintem leginkább releváns kérdés az, hogy a jogi érvelés mintáját akarjuk-e követni vagy sem a gépi döntések esetében. Intuitív módon a válasz igen. Ha a gépek olyan döntéseket hoznak, amelyek befolyásolják jogi helyzetünket, vagy más módon befolyásolják az életünket, akkor azt várjuk, hogy a bírósági határozatokéhoz hasonló indoklást kapjunk a gépi döntések mellé. Tehát a jogi indokolás követése jó válasznak tűnik erre a problémára. De a helyzet valójában, sajnos, ennél bonyolultabb.
A géppel hozott döntések, vagy inkább következtetések Mirelle Hildebrand szerint teljesen más rugóra járnak, mint a jogszabályokra alapított emberi döntéshozatal: "A modern jog mélystruktúrája a nyomtatott szövegre épül: az írott szöveg linearitására és konszekutív feldolgozási igényére, ami magával hozza az értelmezés, a reflexió és a vitatás szükségességét. A jog tanulmányozása és gyakorlata tehát arra irányul, hogy megállapítsa a jogi normák jelentését és alkalmazhatóságát a szóban forgó emberi interakciókra, miközben megállapítja az emberi cselekvés értelmét az alkalmazandó jogi normák tükrében. Az adatközpontú működés teljesen más nyelvtanra épül, építőkövei az információ és a viselkedés, nem pedig a jelentés és a cselekvés."[62]
A következőkben részletesebben összehasonlítjuk a gépi döntések jellemzőit a jogi döntés fentebb hat pontban összefoglalt jellegzetességeivel.
Az első pont szerint az érvelés feltételezi, hogy más döntés is születhetett volna, és az érveléssel a döntéshozó megmagyarázza, hogy miért éppen az adott döntési opciót választotta. A szabályalapú algoritmusokon alapján működő gépeknek ebben az értelemben egyszerűen nincs mérlegelési lehetőségük és képességük. Ha a döntés nyílt végű folyamat, mivel bizonyos statisztikai összefüggéseken vagy gépi tanulási folyamatokon alapul, a magyarázat számot adhat ezekről az összefüggésekről, illetve folyamatokról, ami lehet érthető vagy sem, de semmiképpen sem az érvek mérlegelésének retorikailag kellően alátámasztott folyamatáról fog szólni.
A második pont szerint a törvény szabályai értelmezhetők, mert emberi nyelven íródtak. A természetes nyelvek, mint a jogi, mindig ki vannak téve az értelmezés esetlegességének, illetve, a természetes nyelvek esetében az értelmezés mindig vitatható, mert be van ágyazva egy közösség gyakorlatába: a jog eseté-
- 33/34 -
ben a jogi közösség gyakorlatába. A gépeknek nincs közösségük, és nem beszélik a nyelvet, még akkor sem, ha természetes nyelvfeldolgozó eszközöket alkalmaznak. Egy adott jogi szabály értelmezése a gépi folyamatban előre meghatározott: eldől, amikor az adott szabály fordítását kódolják. A programozás során alkalmazott értelmezés vitatható tehát, de az eredmény nem. Lehet ugyanis, hogy léteznek emberi nyelven írt szabályok, amelyek alapján az algoritmust programozták, de maga az algoritmus nem emberi nyelven íródott, ezért nem értelmezhető többféleképpen. Valójában itt egyáltalán nincs is értelmezés: az algoritmusokat "használják" vagy "futtatják".
Harmadszor, a tények konstruálása gépek esetében nem történetmesélési folyamat. A jogi történetmesélés és a tényállás-felállítás gyakran alapul adatokon, de a mögöttes hétköznapi történetminták ennél sokkal fontosabbak. Az adatok kirajzolhatják egy történet körvonalait, vagy hihetőbbé tehetik a történetet, de önmagukban nem mondanak semmit.[63] Bár a ténymegállapítás nem hiányzik teljesen a gépi döntésekből, a ténygyűjtés jellege és indokolása drámaian eltérő. Nincsenek hagyományos értelemben vett tények és történetek, csak adatok. Az egyes adatokat a gépek összevetik a korábbi adatokkal vagy az adatbázisokkal, illetve, ha öntanuló rendszerekről van szó, akkor az új adatok részben helyettesítik is a meglévőket, valamint alakítják is a szabályokat is. Érdekes, hogy ebben a folyamatban is van körkörösség, akárcsak a jogi döntésben: ha a rendszer gépi tanulásra épül, akkor az adatok alkotják az algoritmusokat, vagyis a szabályokat, majd a működés során folyamatosan alakítják is azokat. Az értékhatárokat például nagyon gyakran a tanulási folyamat során határozzák meg, a várt kimenetek alapján. És mivel, mint láttuk, az önkényt elfogadjuk az emberektől, de a gépektől nem, az ilyen mennyiségmeghatározásokat nehezen tűrjük. De azt is látni kell, hogy az algoritmikus tanulásnál a körkörösség nélkülözi az absztrakció emberi szintjét, ami a jogi döntéshez nagyon is hozzájárul. Ez már elvezet a következő ponthoz: ahhoz, hogy a jogi általánosítások a hétköznapi narratíváinkba ágyazottak.
Negyedszer tehát, a történetmesélés és a törvények értelmezése egymásra vonatkoztatva történik, a hermeneutikai kör elmélete szerint. De ha nincs mód a normák értelmezésének megváltoztatására, és nincs lehetőség a történet hajlítására, akkor a jogi érvelésből jól ismert összecsiszolási folyamat sem működhet. Sor kerülhet bizonyos jellegű individualizációra, de a gépek esetében ez soha nem jelentheti a normák vagy a tények "meghajlítását", csak annak megállapítását, hogy egy bizonyos érték egy bizonyos tartományba esik.
Ötödször, egy gép döntése nem lehet előremutató, tehát viselkedésorientáló. Egy adott döntés előremutató eleme azt jelenti, hogy a döntéshozó meg akar erősíteni, vagy meg akar változtatni, vagy ki akar küszöbölni a jövőben - a döntés révén - egy bizonyos típusú viselkedést. A gépi döntés mindig a korábbi adatokon alapul, még akkor is, ha nem determinisztikus (vagy ha úgy tűnik, hogy nem determinisztikus). De a determinisztikus vonás hiánya inkább az individualizáció eredménye, és jobban hasonlít a véletlenhez, mint egy normatív gesztushoz. A gépek ugyan jobban tudnak "jósolni", mint az emberek, de ez nem jelenti azt, hogy bölcs ajánlásokat tehetnek az emberek számára a jövőre nézve.
Végül, ami a hatodik - és talán a legfontosabb - pont illeti: a gépek nem tudnak metaforákat és narratívákat alkalmazni, és ez óriási akadálya annak, hogy megfelelően tudják magyarázni a döntéseiket.[64] Az elbeszélések fontosságáról a tényalkotásban már volt szó, de itt két általános problémára szeretném felhívni a figyelmet. Először is: a törvények szövege és a törvények mögötti metaszövegek - ilyenek a politikai nyilatkozatok, a doktrinális tudomány szövegei, a közvélemény ítéleteit tükröző sajtószövegek, a hivatalos szervezetek dokumentumai és számtalan más típusú szöveg - folyamatosan gazdagítják a jog körüli narratív univerzumot, ami befolyásolja az adott döntést. A magyar bírák például elég gyakran hivatkoznak a teleológiai értelmezésre - a magyar alkotmány (az Alaptörvény) 28. cikke kifejezetten utal erre[65] -, ami gyakorlatilag azt jelenti, hogy a törvény egy bizonyos szakaszának értelmezésekor figyelembe kell venni a jogszabályon kívüli narratívákat is. De hogyan tudná egy gép kezelni ezeket a szempontokat? Sőt, amint fentebb jeleztem, a gépi tanuláson alapuló döntések nagyon gyakran statisztikai korrelációkon vagy az adatokon belüli láthatatlan mintákon alapulnak, ami miatt "nem intuitívnak", illetve egyenesem észszerűtlennek tűnhetnek. Vagyis, a döntések olyan összefüggéseken alapulhatnak, amelyek nem fordulnak elő a szokásos elbeszéléseinkben.
- 34/35 -
Amint fentebb láttuk, a jogi - főként a bírói - döntéseknek több olyan jellegzetessége van, amelyek miatt a gépek nem tudják utánozni azokat. Annanynak és Crawfordnak is kétségei vannak afelől, hogy "fekete dobozokat" fel lehet-e nyitni.[66] Sőt, egyesek azt is mondják, hogy bizonyos területekre a gépeknek egyáltalán nem szabad belépniük. [67]
Azt hiszem, valóban két lehetőségünk van, és az első az, hogy egyszerűen megtiltjuk a gépeknek, hogy döntéseket hozzanak az emberek jogairól. Bár ez csábító lehetőség, itt nem akarom ezt komolyan fontolóra venni. Es talán már el is késtünk vele. A másik az, hogy ha a gépek nem tudnak hagyományos, "jogászias módon" indokolni, akkor olyan módszereket kell kifejlesztenünk, amelyek segítségével a döntéseiket egy közönséges, érthető nyelvre fordítják. Ha nem ragaszkodunk tovább mereven a jogi döntéselmélethez, akkor számos lehetőségünk lesz arra, hogy emberközpontú és érthető magyarázatokat fűzzünk a gépi döntésekhez. Itt három, egymással összefüggő nyelvi fogalom jön szóba: a nyelven belüli fordítás, az érthetőség és a pragmatikai nyelvi szituáció elmélete.
Roman Jakobson híres írásában[68] háromféle fordítást különböztet meg: intralingválist, interlingválist és interszemiotikust. Bár ezt a hármas felosztást széles körben kritizálták, itteni céljainknak megfelelő magyarázó erővel bír. Az interlingvális fordítás a "szokványos" fordítási tevékenység, amely két nyelv között történik. Az intralingvális fordítás azt jelenti, hogy a szöveget újrafogalmazzuk, vagy értelmezzük azonos nyelven. Ez történik a parafrázis vagy az elbeszélő mód esetén. A jogi indokolás valójában egy intralingvális fordítás, és része a jogi aktivitások szélesebb körének, amelyeket nyelven belüli fordítások sorozataként is felfoghatunk. Szabó Miklós így ír erről:
"A jogi tevékenység nyelvi tevékenység. Nyelvi kifejezések és szövegek átalakításainak sorozata, amely a bírósági ítélettel végső aktusával zárul. Ha a jogi tevékenységet fordítások sorozataként értelmezzük, akkor két -egyébként összefonódó-fordítási láncot különíthetünk el. Az első a jogkérdés mentén fut, a normaszövegekkel a középpontjában [...] A másik lánc az empirikus cselekedettől (eseménytől) a bíróság döntéséig (amely esemény és szöveg) fut. A második lánc hurkainak összekapcsolása - ami nem par excellence jogi feladat - úgy zajlik, hogy a múlt eseményeinek rekonstruáljuk, tényekké alakítjuk és az utóbbiakat jogi tényállási elemekké transzformáljuk."[69]
Szabó és Jakobson elméletében a központi fogalom az ekvivalencia, amely azt fejezi ki, hogy a forrásszöveg és a célszöveg (esetünkben a gépi döntés és a magyarázata) azonos jelentéssel bír: "A fordítás két egyenértékű üzenetet tartalmaz két különböző kódban. A különbségek egyenértékűsége a nyelv kardinális problémája, és a fordításelmélet központi kérdése."[70] Ha a gépi kimenetek magyarázatát interszemiotikus fordításnak fogjuk fel, akkor az ekvivalencia kérdése hirtelen igen fontossá válik: a bemeneti adatoknak, a gép belsejében folyó operációknak és a kimeneti döntéseknek mindvégig ekvivalenseknek kell maradniuk, végül pedig a döntések magyarázatának is meg kell őriznie az ekvivalenciát. Ez azért problematikus, mert a gépek jelekkel és mennyiségekkel, adatokkal és adatmintákkal dolgoznak, amint fentebb láttuk. A gépek csak akkor tudják kezelni a jogi ügyeket, ha ezeket az ügyeket adatként fordítják le, interszemiotikus fordítás révén, és - ez az ekvivalencia szempontjából még fontosabb - a kapott adatokat pontosan fordítják vissza emberi nyelvre. Az ekvivalencia követelményének tehát érvényesülnie kell nemcsak a kimenet érthető magyarázata, hanem a bemenő normák és tények adatokká fordítása tekintetében is. A már emlegetett COMPAS rendszerben például, amikor a visszaesés kockázatát a vádlottak által kitöltött, több száz elemből álló kérdőív adatsorából, a vádlott által elkövetett cselekmény adataiból, valamint múltbeli esetek százainak adataiból megjósolják, akkor valójában adatokra fordítják le "a visszaesés kockázata nagy" kitételt tartalmazó szabályt, majd amikor a rendszer előrejelez egy százalékban kifejezett kockázatot, akkor azt is vissza kell fordítani emberi nyelvre, sőt, vissza kell helyezni egy emberi narratíva keretébe.
Ebben az összefüggésben kérdés az is, hogy a kimenet magyarázata mivel legyen egyenértékű: a kezdeti szabályokkal és elvekkel, vagy az algoritmikus fázis adataival és folyamataival. A válasz nyilvánvalóan az, hogy az elsővel. Ugyanakkor figyelemmel kell lenni arra, hogy ez kettős fordítást - vagy ahogy Jakobson fogalmaz: "láncfordítást" - eredményez, ami teljesen eltorzíthatja az eredeti üzenetet.
Ahogy fentebb említettem, a gépi döntések jogi döntéselméleti kontextusba helyezésével a nyelvi dimenziót is visszanyerhetjük. Milyennek kell lennie nyel-
- 35/36 -
vi szempontból az érthető gépi döntésnek? Ahhoz, hogy közelebb kerüljünk a válaszhoz, érdemes egy pillantást vetni a jogi érthetőség elméletének történetére. Ez az elméleti problémafelvetés szűkebb értelemben is legalább háromszáz éves, tágabb értelemben véve - a törvények közzétételének igénye, a törvényekhez való hozzáférés kérdéseként - inkább kétezer. Ha a végső kérdésre csupaszítjuk le a problémát, az emberek azon elsöprő vágyáról van szó, hogy olyan szabályok és döntések uralma alatt éljenek, amelyek megismerhetők, megérthetők, kiszámíthatók és követhetők - ha már teljesen igazságosak nem lehetnek a szabályok és a döntések.[71] A probléma kiindulópontja tehát nagyon hasonló a megmagyarázható algoritmusok problémájához.
Hasonló a két probléma abból a szempontból is, hogy a "titkos algoritmusok" és a törvények titkossága mögött gyakran ugyanaz a szándék áll: egy csoport hatalmi vagy más természetű monopóliumának fenntartása. Ezért gyakran fogalmazzák meg a problémát elsősorban hatalmi problémaként. Napóleon[72] vagy Bentham[73] számára az érthető jogi nyelv több szempontból is csak eszköz volt az alapvetően hatalmi harcban: e harc a kiváltságos személyek ellen folyik, akiknek érdekükben áll a szabályok elérhetetlensége és érthetetlensége. Az ókorban ők voltak a pontifexek, a 18-19. század fordulóján az ügyvédek vagy a bírák, esetleg mindkét csoport, míg a jelenkorban - ha az algoritmikus megmagyarázhatóság diskurzusát tekintjük - a programozó-technokrata csoport vagy az átláthatatlan algoritmusokat használó, profitéhes kapitalista vállalatok.[74] Bár természetesen minden ilyen elméletben lehet igazság, de sem a jog érthetetlensége, sem a jogi döntések, sem a nehezen megmagyarázható kimeneteket produkáló algoritmusok mögött meghúzódó okok nem egytényezősek - amit ez a tanulmány többször is bizonyítani próbált.
Arról viták folynak, hogy az érthető jog mint kitűzött cél elérhető-e vagy sem.[75] De széles körű az egyetértés abban, hogy a teljesen érthető jog elérhetetlen álom ugyan, de nyelvi egyszerűsítéssel már sokat elértünk. Sok jogi szöveg érthetőbbé vált a joginyelv-egyszerűsítő mozgalmak hatására. A jog természetesen tükrözi a társadalom összetettségét, a különböző társadalmi csoportok ellentétes érdekeit, egyedi esetek szintjén pedig az ellenérdekű felek álláspontjait. A jogi szövegek tükrözik azokat a speciális nyelvjátékokat, amelyeket az ügyvédek játszanak, általában nem rejtett szándékoktól indíttatva, hanem inkább azért, mert a jog egyértelműséget keres, ami gyakran csak az érthetőség rovására érvényesíthető.[76] Széles körű egyetértés van tehát abban is, hogy a nyelv egyszerűsítésének megvannak a maga korlátai, és ezen a határon túl hatékonyabb más eszközöket alkalmazni, például valós példákat mutatni, teendőlistákat készíteni vagy különböző magyarázó anyagokat használni; sőt, esetleg többféle magyarázatot is készíteni, amely figyelembe veszi a különböző célcsoportokat és pragmatikai helyzeteket. A közelmúltban egy új mozgalom is megjelent, a legal design, amely ötvözi a felhasználóközpontú szoftvertervezés és az érthető jog elveit.[77]
A nyelvi dimenzió, ezen belül pedig a jog érthetőségének diskurzusa véleményem szerint négy tanulsággal szolgál, amelyek mindegyike releváns lehet a megmagyarázható algoritmusok kontextusában is.
Az első tanulság az, hogy az érthetőség nem egyetlen tényezőtől függ: a jog nem lesz érthető pusztán az idegen szavak kiiktatásával vagy a mondatok rövidítésével. Ez igaz a megmagyarázhatósági problémára is: a megmagyarázható algoritmusok problémája nem kizárólag technikai probléma, és noha bármilyen technikai módszer jó kiindulópont lehet, de végső megoldás soha.
A második tanulság még érdekesebb. A jogi dokumentumok egyszerű nyelven történő megfogalmazása gyakran azt jelenti, hogy a jogalkotó, illetve a dokumentum megalkotója szándékosan felad egy bizonyos, bonyolultabb megoldást, csak azért, mert azt túl nehéz lenne megmagyarázni és megindokolni. Úgy gondolom, hogy az algoritmusok esetében is hasonló problémával állunk szemben, amint erre a MI Magas Szintű Szakértői Csoport etikai kódexe[78] reflektál is. Amint az algoritmusokon alapuló döntések - elvárásainkat követve - egyre tökéletesebbek lesznek, úgy lesz egyre nehezebb azok megmagyarázása. Bizonyos szempontból a pontosság és az érthetőség antagonizmusával szembesülünk, amely a jogi érthetőségi diskurzus központi problémája. Minél pontosabb egy jogi dokumentum, és minél több jövőbeli esetlegességet, forgatókönyvet és kockázatot szeretne kezelni, annál összetettebb és egyúttal annál kevésbé
- 36/37 -
érthető lesz.[79] És mivel a gépek jellemzően sokkal több paramétert képesek kezelni, mint egy ember, sokkal több adatra támaszkodhatnak, és olyan adatminták felismerésére is képesek lehetnek, amelyekére az emberek nem, csábító lehet mindezeket a képességeiket maximálisan kihasználni. Véleményem szerint azonban el kell vetni a hétköznapi narratívák révén el nem magyarázható megoldásokat minden olyan esetben, amikor egy döntés végeredményét nem lehet objektív mérőszámokkal mérni (és a jogi döntések ilyen, erkölcsi természetű, illetve belátáson - phronéziszen - alapuló döntések). Radikálisnak tűnhet az a felvetés, hogy a gépek képességeit korlátoznunk kellene a jogi döntések esetén, és a háttér bonyolultsága tekintetében csak olyan döntések meghozatalát szabadna engednünk a gépeknek, amelyeknek a magyarázatai a "láncfordítási" folyamat után is illeszthetők a hétköznapi narratíváinkba, pedig egyáltalán nem az. Nem mond többet ugyanis, mint hogy a természettudományos megközelítésnek nincsen helye az erkölcs világában.
Az érthetőség kérdéskörét vizsgálva a harmadik tanulság az, hogy figyelnünk kell a nyelvi regiszter, a pragmatikai helyzet és a célközönség hármasára. Az előző részben világossá vált, hogy a jogi döntés mintája úgysem mindig követhető maradéktalanul. A legnyilvánvalóbb megoldás tehát az, ha olyan nyelvi regisztert használunk, amely nagyon közel áll a közönséges nyelvhez. A célközönség kérdését egyre gyakrabban felvetik a hagyományos jogi döntések vonatkozásában is,[80] de ha úgy döntünk, hogy az algoritmikus döntéseket a hétköznapi nyelv regiszterében magyarázzuk, még fontosabbá válik. A történet, amely a gépi döntés körül jön létre, más és más, ha az érintett feleket akarjuk meggyőzni, az adott terület szakembereit vagy a nagyközönséget; a "gép által generált magyarázatok" világában pedig még több magyarázat hozható létre egy-egy döntéshez a különböző célközönségek számára.
Végül megkerülhetetlen az a kérdés, hogy mi tekinthető megfelelő indokolásnak a gépi döntések esetében. Hogy hogyan is nézzen ki egy-egy gépi döntés magyarázata, arra kimerítő választ ebben az írásban természetesen nem tudok adni, de néhány egyszerű alapelvet igyekszem megfogalmazni.
A jogi érvelési mintát lehet kiindulópontnak venni, de maradéktalanul másolni nem érdemes. Mit jelent ez? Szerintem a gép által hozott döntések magyarázatainak három elemet kell tartalmazniuk.
Először is, minden döntésnél meg kell adni a döntés intézményi és értékkontextusát : az adott szervezetnek, illetve bárkinek, aki algoritmusokat használ ügyek eldöntésére, meg kell magyaráznia a döntés tágabb összefüggését. Mi volt az oka az algoritmikus döntés bevezetésének? Mi volt az algoritmusos eljárás elődje? Melyek azok az értékek és érdekek, amelyek irányítják a döntéseket? Melyek azok a szabályok, amelyeket figyelembe vettek vagy kódokra fordítottak?
Másodszor, meg kell adni azoknak az adatoknak a magyarázatát, amelyek alapján a döntést hozták. Ez részben az alanyról gyűjtött adatokat jelenti, de azon külső adatokat is, amelyeken a döntés nyugszik. Az adattípusokat (példákat, eseteket, korábbi döntéseket) meg kell említeni és jellemezni kell. Fontos, hogy nem kell feltétlenül minden egyes adatot felsorolni (bár kérésre minden adatot rendelkezésre kell bocsátani); a cél az, hogy az adatok felhasználásnak bemutatása hihető történetté álljon össze.
Végül - harmadszor -, a döntés folyamatát lépésről lépésre el kell magyarázni. A neurális hálózatok esetében több vizuális módszer is létezik a döntési folyamat ábrázolására, például a színátmenet-alapú hozzárendelés és az osztályaktiválási térképek. A közeljövő egyik legnehezebb dilemmája, hogy megengedhető-e vizuális módszerek használata jogi kérdéseket illető, gépi úton hozott döntések magyarázataként.[81] Ha megengedjük a párhuzamos magyarázatokat, amelyeket különböző pragmatikai helyzetekhez és célközönségekhez terveztek, a vizuális magyarázatok alkalmazása opció lehet mind a szakemberekből, mind a laikusokból álló közönség esetében is.
A megmagyarázható algoritmusok diskurzusa a jog területén rendelkezik néhány speciális vonással. Ha a gépek jogi kérdésekben döntenek, első látásra azt várnánk, hogy a jogi döntésekben megszokott indokolást adják. Az algoritmikus döntések jellege azonban más, mint az ember által hozott jogi döntéseké, ezért nem indokolhatók a szokásos jogi módon. Míg
- 37/38 -
a jogi döntéseket természetes nyelven írják, és ezek az értelmezett szabályok tényekre való alkalmazásával számolnak el, addig a gépi döntések vagy formalizált logikai és matematikai szabályokat alkalmazzák egy adott eset adataira, vagy a korábbi esetekből felismert adatmintákat. A gépi döntéseket tehát nem lehet hagyományos értelemben igazolni, hanem csak interszemiotikus fordítással megmagyarázni. A fordítás esetében ugyanakkor felmerül a fordításelmélet központi problémája, az egyenértékűség. A tanulmány végső konklúziója az, hogy bár első ránézésre szokatlannak tűnhet, a géppel hozott döntésekben nem érdemes mereven követni a jogi döntések hagyományos érvelési formáját és szerkezetét, hanem olykor más magyarázati formátumban kell gondolkodni. Helyesebb lehet, ha például a különböző célcsoportoknak különböző indokolást készít a gép, vagy vizuális magyarázó módszereket is alkalmaz. ■
JEGYZETEK
[1] A megmagyarázható algoritmusok irodalma rendkívül nagyra nőtt az elmúlt években. Barredo Arreita és társai 2019-ben már több mint 400 publikációt elemeztek cikkükben. Alejandro Barredo Arrieta - Natalia Díaz-Rodríguez - Javier Del Ser - Adrien Bennetot - Siham Tabik, Alberto - Barbado, Salvador García - Sergio Gil-López - Daniel Molina - Richard Benjamins - Raja Chatila - Francisco Herrera: Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible, Information, Information Fusion, 2020. június, 82-115. Néhány más friss publikáció: Pantelis Linardatos - Vasilis Papastefanopoulos - Sotiris Kotsiantis: Explainable AI: A Review of Machine Learning Interpretability Methods, Entropy 2021/1, 18, https://dx.doi.org/10.3390/e23010018; Amina Adadi - Mohammed Berrada: Peeking inside the black-box: a survey on explainable artificial intelligence (XAI). IEEE Access, 2018 52138-52160, https://doi.org/10.1109/ACCESS.2018.2870052; Jorg Cassens -Rebekah Wegener: Intrinsic, Dialogic, and Impact Measures of Success for Explainable AI, in Proceedings of the ACM CHI Workshop on Operationalizing Human-Centered Perspectives in Explainable AI (HCXAI 2021), eds. Upol Ehsan - Q. Vera Liao -Martina Mara -Mark Riedl - Andreas Riener - Marc Streit -Sandra Wachter - Philipp Wintersberger, Yokohama, 2021.
[2] A területnek saját folyóirata is van: Human-computer interaction, kiadója a Taylor and Francis. Néhány könyv a témában illusztrációként: Alan Dix - Janet Finlay - Gregory D. Abowd: Human-computer Interaction, Essex, Pearsons Education Limited; Advances in Human-Computer Interaction, eds. Silvia Pfleger - Joao Goncalves - Kadamula Varghese, Berlin, Springer, 1995; Sergio Sayago: Perspectives on Human-Computer Interaction Research with Older People, Cham, Springer Nature, 2019. Egy jó áttekintés a megmagyarázhatóságról az élet különböző területein: Mersedeh Sadegh - Verena Klös - Andreas Vogelsang: Cases for Explainable Software Systems: Characteristics and Examples, 2021 IEEE 29th International Requirements Engineering Conference Workshops (REW), 2021, 181187, https://doi.org/10.1109/REW53955.2021.00033.
[3] A jogi területen kívül nagy irodalma van a képalkotó eljárásokon alapuló orvosdiagnosztikai döntések megmagyarázhatóságának, például: José-Loouis Solorio-Ramírez - Magdalena Saldana-Perez - Myltiadis D. Lytras - Marco Antonio Moreno-Ibarra - Cornelio Yáñez-Márquez: Brain Hemorrhage Classification in CT Scan Images Using Minimalist Machine Learning, Diagnostics, 2021/8, 1449, https://doi.org/10.3390/diagnostics11081449; Amitojdeep Singh - Sourya Sengupta - Vasudevan Lakshminarayanan: Explainable deep learning models in medical image analysis, Journal of Imaging, 2020/6, 52, https://doi.org/10.3390/jimaging6060052; Fabrizio Nunnari -Abdul Kadir - Daniel Sonntag: On the Overlap Between Grad-CAM Saliency Maps and Explainable Visual Features in Skin Cancer Images, in: Machine Learning and Knowledge Extraction: CD-MAKE 2021, Lecture Notes in Computer Science, eds. Andreas Holzinger - Peter Kieseberg P. - A Min Tjoa - Edgar Weippl, Vol 12844, Cham, Springer, https://doi.org/10.1007/978-3-030-84060-0_16. A racionalitás különböző jelentéseire a jogban lásd: Dov M. Gabbay - Patrice Canivez - Shahid Rahman - Alexandre Thiercelin: Approaches to Legal Rationality. Dordrecht: Springer, 2010; Neil M. Richards - Jonathan H. King: Big Data Ethics, Wake Forest Law Review, 2014/2, 393-432; Solon Barocas - Andrew D. Selbst: Big Data's Disparate Impact, California Law Review, 2016/3, 671-732.
[4] Charles de Montesquieu: L'Esprit des lois (első közzététel 1748, Gallimard 1949), bk 11, 6. fejezet. Idézi Lukas van den Berge: Montesquieu and the judicial review of proportionality in administrative law: rethinking the separation of powers in the neoliberal era, European Journal of Legal Studies, 2017/1, 204-233, 205.
[5] A racionalitás különböző jogi jelentéseiről lásd: Dov M. Gabbay - Patrice Canivez - Shahid Rahman - Alexandre Thiercelin: Approaches to Legal Rationality, Dordrecht, Springer, 2010.
[6] Neil M. Richards - Jonathan H. King: Big Data Ethics, Wake Forest Law Review, 2014/2, 393-432;
- 38/39 -
Solon Barocas - Andrew D. Selbst: Big Data's Disparate Impact, California Law Review, 2016/3, 671-732.
[7] Vincent Müller: Ethics of Artificial Intelligence and Robotics, in The Stanford Encyclopedia of Philosophy, ed. Edward N. Zalta, 2021. nyári kiadás, https://plato.stanford.edu/archives/sum2021/entries/ethics-ai/; Mark Coeckelbergh: AI Ethics, The MIT Press, Cambridge, MA, 2020.
[8] Bryce Goodman - Seth Flaxman: European Union regulations on algorithmic decision-making and a "right to explanation", AI Magazine, 2017/3, https://doi.org/10.1609/aimag.v38i3.2741; Bryan Casey - Ashkon Farhangi - Roland Vogl: "Rethinking Explainable Machines: The GDPR's 'Right to Explanation' Debate and the Rise of Algorithmic Audits in Enterprise, Berkeley Technology Law Journal, 2019/1, 143-188.
[9] Például: Mesterséges intelligenciával foglalkozó magas szintű szakértői csoport: Etikai iránymutatás a megbízható mesterséges intelligenciára vonatkozóan, 2019. április 8., https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60429. Vagy: "A felhasználóknak képesnek kell lenniük arra, hogy értelmezzék és megfelelően használják a rendszer kimenetét" (Az Európai Bizottság Mesterséges Intelligencia Törvényéről szóló javaslatának (47) preambulumbekezdése). Lásd még a 22. vj.-t, illetve az ott felsorolt dokumentumokat.
[11] U.o. 15. cikk
[12] U.o. [kiemelés tőlem].
[13] Pl. Bryan Casey - Ashkon Farhangi - Roland Vogl: Rethinking Explainable Machines: The GDPR's "Right to Explanation" Debate and the Rise of Algorithmic Audits in Enterprise, Berkeley Technology Law Journal, 2019/1, 143-188; Celine Castets-Renard: Accountability of Algorithms in the GDPR and beyond: A European Legal Framework on Automated Decision-Making, Fordham Intellectual Property, Media & Entertainment Law Journal, 2019/1, 91-138; Thomas D. Grant - Damon J. Wischik: Show Us the Data: Privacy, Explainability, and Why the Law Can't Have Both, George Washington Law Review, 2020/6, 1350-1420; Bryce Goodman - Seth Flaxman: European Union regulations on algorithmic decision-making and a "right to explanation", AI Magazine, 2017/3, https://doi.org/10.1609/aimag.v38i3.2741.
[14] Olyan rendszerekről van szó, amelyek az utakat általában kamerák és más képi felismerők segítségével figyelik, majd képesek néhány egyszerű közlekedési szabálysértést (tilos jelzésen áthaladás, gyorshajtás) és az elkövető rendszámát felismerni, majd a teljes első fokú bírságolási folyamatot menedzselni. Magyarországon ilyen rendszer a VÉDA.
[15] A forgalomellenőrző rendszerekről ld. Jennifer M. Lancaster: You have Got Mail: Analysis the Constitutionality of Speeding Cameras in City of Moline Acres kontra Brennan, 470 SW3D 367 (MO.2015), Southern Illinois University Law Journal, 2017/3, 485504, 493.
[16] GDPR (71) preambulumbekezdése.
[17] Sandra Wachter - Brent Mittelstadt - Luciano Floridi: Why a Right to Explanation of Automated. Decision-Making Does Not Exist in the General Data Protection Regulation, International Data Privacy Law, 2017/2, 76-99.
[18] Gianclaudio Malgieri - Giovanni Comand: Why a Right to Legibility of Automated Decision-Making Exists in the General Data Protection Regulation, International Data Privacy Law, 7/4, 243-265.
[19] Joshua A. Kroll - Solon Barocas - Edward W. Feltén - Joel R. Reidenberg - David G. Robinson - Harlan Yu: Accountable Algorithms, University of Pennsylvania Law Review, 2017/3, 633-706; Cary Coglianese - David Lehr: Regulating by Robot: Administrative Decision Making in the Machine-Learning Era, Georgetown Law Journal, 2017/5, 1147-1224.
[20] Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights Executive Office of the President, May 2016, https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf; Ronan Hamon - Henrik Junklewitz -José Ignacio Sanchez Martin: Robustness and Explainability of Artificial Intelligence, Publications Office of the European Union, Luxembourg, 2020, https://www.doi.org/10.2760/57493.
[21] Lásd az Algorithmwatch.org oldal több mint 200 etikai kódexet felsoroló listáját.
[22] Csak néhány példa: Accenture: Responsible AI and Ethical Framework: Transparency: When complex machine learning systems have been used to make significant decisions, it may be difficult to unpick the causes behind a specific course of action. The clear explanation of machine reasoning is necessary to determine accountability.", https://www.accenture.com/gb-en/company-responsible-ai-robotics; Advisory Board on Artificial Intelligence and Human Society, Japan, 2017. március 24.: Report on Artificial Intelligence and Human Society: "R&D should be conducted to develop technologies that enable people [...] to explain the processes and logics of calculations inside AI technologies", 23., https://www8.cao.go.jp/cstp/tyousakai/ai/summary/aisociety_en.pdf; AI for people: AI for People Ethical Framework for a Good AI Society: Opportunities, Risks, Principles and Recommendations: "Explicability: enabling the other principles through intelligibility and accountability [...] In all, reference is made to the need to
- 39/40 -
understand and hold to account the decision-making processes of AI. This principle is expressed using different terms: »transparency« in Asilomar; »accountability« in EGE; both »transparency« and »accountability« in IEEE; »intelligibility« in AIUK; and as »understandable and interpretable« for the Partnership. Though described in different ways, each of these principles captures something seemingly novel about AI: that its workings are often invisible or unintelligible to all but (at best) the most expert observers"" 17, https://www.eismd.eu/wp-content/uploads/2019/02/Ethical-Framework-for-a-Good-AI-Society.pdf D. Dawson - E. Schleiger - J. Horton - J. McLaughlin - C. Robinson - G. Quezada - J. Scowcroft - S. Hajkowicz: Artificial Intelligence - Australia's Ethics Framework. A Discussion Paper, Data61 CSIRO, 2019, https://www.csiro.au/-/media/D61/Reports/Artificial-Intelligence-ethics-framework.pdf: Transparency & Explainability. People must be informed when an algorithm is being used that impacts them and they should be provided with information about what information the algorithm uses to make decisions'", 6.; High Level Expert Group on Artificial Intelligence (Az EU Bizottsága által felállított Magas Szintű Szakértői Csoport - HLEG EU): Ethics guidelines for trustworthy AI: "Explainability concerns the ability to explain both the technical processes of an AI system and the related human decisions (e.g. application areas of a system). Technical explainability requires that the decisions made by an AI system can be understood and traced by human beings. Moreover, trade-offs might have to be made between enhancing a system's explainability (which may reduce its accuracy) or increasing its accuracy (at the cost of explainability). Whenever an AI system has a significant impact on people's lives, it should be possible to demand a suitable explanation of the AI system's decision-making process. Such explanation should be timely and adapted to the expertise of the stakeholder concerned (e.g. layperson, regulator or researcher). In addition, explanations of the degree to which an AI system influences and shapes the organisational decision-making process, design choices of the system, and the rationale for deploying it, should be available (hence ensuring business model transparency)." https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.
[23] Bolinger Dwight: "Semantic Overloading: A Restudy of the Verb Remind", Language, 1971/3, 522-547, 2021. június 28., https://doi.org/10.2307/412376.
[24] A jelenleg dominánsnak mondható jogi érveléselmélet, a koherenciaelmélet nagyjából ezen a megfontoláson nyugszik. Lásd pl. Ronald Dworkin: Taking Rights Seriously, Cambridge Mass, Harvard University Press, 1977; Neil MacCormick, Coherence in Legal Justification, in Theory of Legal Science, eds. Alexander Peczenik - Lars Lindahl - Bert Van Roermund. Dordrecht, D. Reidel Publishing, 1984.
[25] Ld. Laetitia A. Renier - Marianne Schmid Mast -Anely Bekbergenova: To err is human, not algorithmic - Robust reactions to erring algorithms, Computers in Human Behavior, 2021/C, https://doi.org/10.1016/j.chb.2021.106879, https://doi.org/10.1016/j.chb.2021.106879.
[26] Lawrence Lessig: Code 2.0, New York, Basic Books, 2006.
[27] Ld. Mirelle Hildebrandt: Algorithmic regulation and the rule of law, Philosophical Transactions of the Royal Society, 2018. augusztus 6., https://doi.org/10.1098/rsta.2017.0355.
[28] Lon L. Fuller: Reason and Fiat in Case Law, Harvard Law Review, 1946/3, 376-395.
[29] A COMPAS szoftver a State v. Loomis, 881 N.W.2d 749 (Wis. 2016) ügyben játszott kulcsszerepet. A szoftver leírását és részletes kritikáját lásd: Jeff Larson - Surya Mattu - Lauren Kirchner - Julia Angwin: How We Analyzed the COMPAS Recidivism Algorithm. Pro Publica, 2016. május 23., https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm.
[30] Frank Pasquale: Black box society, Cambridge, Mass, Harvard University Press 2015; Frank Pasquale, Toward a Fourth Law of Robotics: Preserving Attribution, Responsibility, and Explainability in an Algorithmic Society, Ohio State Law Journal 2017/5, 12431448.
[31] Pasquale: Black box society (30. vj.) 149.
[32] Richards-King (6. vj.).
[33] Executive Office of the President (of the USA): Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights. https://obamawhitehouse.archives.gov/sites/default/files/microsites/ostp/2016_0504_data_discrimination.pdf.
[34] Pl. Charles Duhigg: How Companies Learn Your Secrets, New York Times, 2012. február 16., https://www.nytimes.com/2012/02/19/magazine/shopping-habits.html; Michael Mattioli: Disclosing Big Data, Minnesota Law Review, 2014/2, 535-584; Sharon D. Nelson - John W. Simek: Big Data: Big Pain or Big Gain for Lawyers, Law Practice, 2013/4, 24-27.
[35] Federal Trade Commission: FTC Report Provides Recommendations to Business on Growing Use of Big Data: Report Notes Ways to Avoid Discriminatory Data Use, Highlights Benefits & Risks of Big Data for American Consumers, 2016. január 6., https://www.ftc.gov/news-events/press-releases/2016/01/ftc-report-provides-recommendations-business-growing-use-big-data.
[36] Cathy O'Neil: Big-Data Algorithms Are Manipulating Us All, Wired, 2016. október 10., https://doi.org/10.1109/ACCESS.2018.2870052.
[37] A fentebb már hivatkozott régi adatvédelmi irányelv - 95/46/EK irányelv, (12. vj.) - 15. cikk (1) bekezdése.
- 40/41 -
[38] AI HLEG Ethics Guidelines (24. vj.) 21.
[39] Itt érdemes megjegyezni, hogy ennek a problémának létezhet másféle megoldása is. Jack Balkin például kifejti elméletében, hogy a felhasználó információs és hatalmi aszimmetriáját és sebezhetőségét úgy lehet kivédeni, hogy a platformokat "információs bizalmasként (information fiduciary) fogjuk fel. "A jog pontosan az ilyen helyzetekre alkalmazza a bizalmi kapcsolat fogalmát. A jog általánosságban ilyenkor azt nézi, hogy az erősebb fél hallgatólagos vagy kifejezett felhívást tett-e egy bizalmi kapcsolat létesítésére, amelyet a gyengébb fél elfogadott." Jack M. Balkin: The Fiduciary Model of Privacy, Harvard Law Review Forum 2020/1, 11-33, 13; Jack M. Balkin: 2016 Sidley Austin Distinguished Lecture on Big Data Law and Policy: The Three Laws of Robotics in the Age of Big Data, Ohio State Law Journal, 2017/5, 1217-1242.
[40] Ld. pl. az új DSA tervezet 99 preambulumbekezdését (Az Európai Parlament és a Tanács rendelete a digitális szolgáltatások egységes piacáról (digitális szolgáltatásokról szóló jogszabály és a 2000/31/EK irányelv módosításáról) "A Bizottságot fel kell hatalmazni arra, hogy hozzáférést kérjen az érintett személyek adatbázisaihoz és algoritmusaihoz, magyarázatot kérjen azokkal kapcsolatban...", valamint 52 preambulumbekezdés: "az online platformoknak ezért biztosítaniuk kell, hogy a szolgáltatások igénybe vevői rendelkezzenek az annak megértéséhez szükséges egyedi információkkal, hogy mikor és kinek a nevében kerül sor a hirdetés megjelenítésére".
[41] A "mi" kérdésre adott némileg eltérő válaszért lásd Hamon-Junklewitz-Sanchez Martin (20. vj.) és Bernhard Waltl - Roland Vogl: Explainable Artificial Intelligence - the New Frontier in Legal Informatics, Jusletter IT, 2018. február 22. A magyarázat fogalmát a legszélesebben értik, amely magában foglalja az átláthatóságot és az értelmezhetőséget is.
[42] Andrew D. Selbst - Solon Barocas, The Intuitive Appeal of Explainable Machines, Fordham Law Review 2018/3, 1085-1140
[43] Uo. 1094.
[44] Uo. 1097.
[45] Thomas D. Grant - Damon J. Wischik: Show Us the Data: Privacy, Explainability, and Why the Law Can't Have Both, George Washington Law Review, 2020/6, 1350-1420. A szerzők érvelésének célja az, hogy rámutassanak a GDPR értelmezése szerinti feszültségre a magánélet szentsége és a megmagyarázhatóság között.
[46] Pl. Joana Hois - Dimitra Theofanou-Fuelbier -Alicia-Janin Junk: How to Achieve Explainability and Transparency in Human AI Interaction, in HCI International 2019 - Posters, HCII 2019, Communications in Computer and Information Science, ed. Constantine Stephanidis, Springer, Cham, https://doi.org/10.1109/ACCESS.2018.2870052; lásd még: University of Helsinki: Ethics of AI, Chapter 4: Should we know how AI works, https://ethics-of-ai.mooc.fi/chapter-4/1-transparency-in-ai.
[47] Chris Olah - Arvind Satyanarayan - Ian Johnson - Shan Carter - Ludwig Schubert - Katherine Ye - Alexander Mordvintsev: The Building Blocks of Interpretability, 6 March 2018, https://distill.pub/2018/building-blocks/.
[48] A Magas Szintű Szakértői Csoport (AI HLEG) anyagában (22. vj.) ez egészen látványosan tetten érhető, hiszen az etikai követelményeknél mindvégig a megmagyarázhatóság kifejezés szerepel, az anyag végén azonban - ahol a technikai robosztusság és biztonság követelményeinek részleteiről van szó - az értelmezhetőség kifejezés.
[49] Barredo-Arrieta és munkatársai (az általános magyarázható AI kontextusban) "átlátható modellekről" és "gépi tanulás utáni magyarázható technikákról" beszélnek. Alapvetően ugyanazt a megkülönböztetést alkalmazom itt, azzal a különbséggel, hogy azt javaslom, hogy az "átláthatóság" kifejezést használjuk az "átlátható modellek" esetében.
[50] Frederick Schauer: Giving Reasons, Stanford Law Review, 1995/4, 633-660; Julie Dickson: Interpretation and Coherence in Legal Reasoning, The Stanford Encyclopedia of Philosophy, 2016; valamint Müller (7. vj.).
[51] Ronald Dworkin: Law's Empire, London, Fontana Press, 1986.
[52] Schauer (50. vj.) 634.
[53] Lásd a Plain English Movement mozgalmat.
[54] J. Christopher Rideout: Storytelling, Narrative Rationality, and Legal Persuasion, Legal Writing: The Journal of the Legal Writing Institute, 2008/14, 53-86.
[55] Robert Alexy: A Theory of Legal Argumentation: The Theory of Rational Discourse as Theory of Legal Justification, Oxford, Oxford University Press, 1989.
[56] Ronald Dworkin: Law as Interpretation, Texas Law Review, 1982/3, 527-550.
[57] Lásd pl. Interpreting Statutes. A Comparative Study. ed. Neil MacCormick - Robert S. Summers, London - New York Routlege, 1991.
[58] "Nem egyszerűen azt kell bizonyítaniuk, hogy valami megtörtént, hanem azt, hogy ami megtörtént, az hihető. A bizonyítás nem irányulhat a bizonyosságra, csupán a (lehető legnagyobb) valószínűségre - s erre a nagy perek nagy tévedései kellő súllyal figyelmeztetnek. " - Szabó Miklós: Ars Iuris: A jogdogmatika alapjai, Miskolc, Bíbor, 2005, 257.
[59] Wolfgang Fikentscher: Methoden des Rechts IV., Tübingen, J.C.B. Mohr (Paul Siebeck), 1975-1977.
198 Fikentscher a gadameri hermeneutikai kör elméletét adaptálja a jogalkalmazás folyamatára.
- 41/42 -
[60] Lawrence Baum: Judges and their Audiences. A Perspective on Judicial Behaviour, Princeton-Oxford, Princeton University Press, 2008.
[61] Robert M. Cover: The Supreme Court, 1982 Term - Foreword: Nomos and Narrative, Harvard Law Review, 1983/4, 4-68.
[62] Mireille Hildebrandt: Law as Information in the Era of Data-Driven Agency, Modern Law Review, 2016/1, 1-30; Mireille Hildebrandt: Algorithmic regulation and the rule of law, Philosophical Transactions of the Royal Society A, 6 August 2018, https://doi.org/10.1098/rsta.2017.0355.
[63] Caryn Devins - Teppo Felin - Stuart Kauffman - Roger Koppl: The Law and Big Data, Cornell Journal of Law and Public Policy, 2017/2, 357-414.
[64] Legutóbb az alábbi kötet írásai mutattak rá, hogy a jog mennyire kiszolgáltatott a hétköznapi metaforáinknak: Narrative and Metaphor in the Law. eds. Michael Hanne - Robert Weisberg, Cambridge University Press, 2018. Lásd még: Peter Brooks: Narrative in and of the Law, in A Companion to Narrative Theory, eds. James Phelan - Peter J. Rabinowitz, Blackwell Publishing, Malden, MA, 2005.
[65] V.ö. pl. Ződi Zsolt - Lőrincz Viktor: Az Alaptörvény és az alkotmánybírósági határozatok megjelenése a rendesbíróságok gyakorlatában 2012-2016, in Normativitás és empíria, A rendesbíróságok és az Alkotmánybíróság kapcsolata az alapjog-érvényesítésben, szerk. Gárdos-Orosz Fruzsina, Társadalomtudományi Kutatóközpont Jogtudományi Intézete, 2020, 133-167. A 28. cikkre történő hivatkozást az 5. táblázat közli, 144.
[66] Mike Ananny - Kate Crawford: Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society, 2016, 1-17.
[67] Kiel Brennan-Marquez: Plausible Cause: Explanatory Standards in the Age of Powerful Machines, Vanderbilt Law Review, 2017/4, 1249-1302.
[68] Roman Jakobson: On Lingusitic Aspects of translation, On Translation ed Reubern Arthur Brower, Cambridge, Mass: Harvard University Press. 232-239, https://web.stanford.edu/~eckert/PDF/jakobson.pdf.
[69] Szabó Miklós: Law as Translation, Archiv für Rechts-und Sozialphilosophie (ARSP), 2004, Beiheft Nr. 91, 60-68.
[70] Jakobson (68. vj.).
[71] Lon L. Fuller: Az erkölcs, ami lehetővé teszi a jogot, in Joguralom - Jogállam, szerk. Takács Péter, Budapest, [k.n.] 1995.
[72] John Henry Merryman - Rogelio Pérez-Perdomo: The Civil Law Tradition: An Introduction to the Legal Systems of Europe and Latin America, Stanford, Stanford University Press, 3rd edn., 2007.
[73] Jeremy Bentham: A Fragment on Government, London, Wilson, 1823.
[74] Casey Newton: It's time for Facebook's News Feed to explain itself. Building trust with AI. The Verge. https://www.theverge.com/2018/1/26/16937088/facebook-news-feed-explainability-ai; William H. Davidow - Michael S. Malone: The Autonomous Revolution. Reclaiming Future We've Sold to Machines, Oakland, CA, Berrett-Koehler Publishers, 2020.
[75] Lásd pl. Ződi Zsolt: A jog érthetőségének határai: Meg tudják-e oldani a nyelvészek a jogi szövegek érthetetlenségének problémáját? in Sz. M.: A törvény szavai, Miskolc, Bíbor, 2017, 258.
[76] Jack Stark: Should the main goal of statutory drafting be accuracy or clarity? Statute Law Review, 1994/3, 207-213.
[77] Meera Klemola - Astrid Kohlmeier: The Legal Design Book: Doing Law in the 21st Century, Ground M, 2021; Marcelo Corrales Compagnucci - Helena Haapio - Margaret Hagan - Michael Doherty: Legal Design: Integrating Business, Design and Legal Thinking with Technology, Edgar Elgar, 2021; Michael Doherty: Comprehensibility as a rule of law requirement: the role of legal design in delivering access to law, Journal of Open Access to Law, 2020/1; Margaret Hagan: The User Experience of the Internet as a Legal Help Service: Defining standards for the next generation of user-friendly online legal services. Virginia Journal of Law & Technology, 2016/2.
[78] Lásd 22. vj.
[79] "Moreover, trade-offs might have to be made between enhancing a system's explainability (which may reduce its accuracy) or increasing its accuracy (at the cost of explainability)" - AI HLEG Ethics Guielines (24. vj.) 18.
[80] Baum (60. vj.).
[81] Különösen a neurális hálók esetén. Lásd pl. Linardatos-Papastefanopoulos-Kotsiantis (1. vj.).
Lábjegyzetek:
[1] A szerző jogász, NKE ITKI/TK JTI.
Visszaugrás
