Ződi Zsolt[1]: A chatbotok használatának szempontjai és korlátai a jogászi munkában* (Fontes, 2025/1-2., 4-14. o.)

https://doi.org/10.51784/FI.2025.1-2.1

1. Bevezetés

A ChatGPT[1] 3.5 2022. novemberi megjelenése a hétköznapi emberek számára az inkább csak hollywoodi (rém)me-sékből ismert mesterséges intelligenciát a mindennapokban is használható és átélhető valósággá tette. A ChatGPT emberi nyelven kezdett hozzánk beszélni, megtévesztő pontossággal, meglepően kevés hibával. A híres Turing-teszten a rendszer minden komolyabb nehézség nélkül szinte bármilyen csevegési helyzetben átment,[2] tehát nem volt eldönthető, hogy emberrel vagy géppel beszélgetünk.

A rendszer publikálása után elég hamar elindultak azok a diskurzusok, amelyek a chatbotoknak főleg a nyelvbe ágyazott szakmákra gyakorolt hatását kezdték el firtatni. Két nagy presztízsű szakma ezek közül is kiemelkedett: a jogászoké[3] és az orvosoké.[4] De igen hamar kiderült, hogy a chatbotok más területeken is jól teljesítenek: egészen jó minőségű kódokat is képesek írni,[5] és viszonylag jól helytállnak olyan hétköznapi problémák megoldásában is, mint egy étel kitalálása, egy nyaralás megtervezése vagy egy szakdolgozat megírása.

Ami a jogászokat illeti, a 2022. év végi berobbanás után szinte azonnal megjelentek azok a hangok is, amelyek a jogászi szakma végét jósolták. "Az MI jön a jogászokért, megint"[6] -harsogta a New York Times 2023 áprilisában. "Feleslegessé teszi-e a ChatGPT a jogászokat? (Javaslat: kezdj el félni)." - javasolta a Reuters cikke.[7] Jenna Green, a cikk szerzője így írja le a tapasztalatait: "Én magam teszteltem, és arra kértem, hogy magyarázza el, mi minősül megalapozott félelemnek az üldöztetéstől egy menedékjogi ügyben - aztán rávettem a férjemet, egy bevándorlási ügyvédet, hogy értékelje a választ. »Minden helyes« - mondta, hozzátéve, hogy amit a bot készített, az sokkal érthetőbb volt, mint néhány írás, amelyet gyakorló jogászoktól látott."

Ugyanakkor már 2023 júniusában megjelentek a sajtóban olyan szórványos híradások, hogy a chatbotok olyan forrásokat, dokumentumokat, embereket, dolgokat, helyszíneket, számokat, statisztikákat stb., azaz 'kemény', ellenőrizhető tényeket 'találnak ki', amelyek egyébként nem léteznek a valóságban, azaz nagyon sokszor pontatlanok. A közvélemény igen hamar el is nevezte ezt a jelenséget 'hallucinálásnak'. A jogi területen néhány különösen látványos kudarc nagy nyilvánosságot is kapott, mint például azoknak a New York-i ügyvédeknek az esete, akik a ChatGPT által 'hallucinált' jogeseteket idéztek, és emiatt komoly bírságot és bírói dorgálást is kaptak.[8] De más területeken, így például a tudományos kutatás (és ezen belül a forrásmegjelölés, forráskezelés területén)[9] is nyilvánvalóvá vált, hogy a ChatGPT egyszerűen megbízhatatlan. A számítógépes nyelvészeti szakma prominens képviselői azonnal magyarázattal is szolgáltak: Emily M. Bender, a washingtoni egyetem professzora határozottan arra az álláspontra helyezkedett, hogy a hallucináció problémája nem megoldható, mert ez valójában nem is probléma, hanem a rendszer inherens sajátossága. A gond ott van, hogy a rend-

- 4/5 -

szert nem arra a célra használják, amire az eredetileg ki lett fejlesztve, azaz a csevegésre.[10]

Mindez komoly kétségeket ébresztett a chatbotok használatával kapcsolatban, ugyanakkor sok írás már ekkor azt prognosztizálta, hogy ezek a rendszerek folyamatosan fejlődnek, és elképzelhető, hogy a hallucináció jelenségét egyszer majd ki lehet küszöbölni. Ilyen kiküszöbölést, hallucinációmentességet ígért a Retrieval Augmented Generation (kereséssel kiegészített szöveggenerálás) technológiája.[11] A RAG leegyszerűsítve egy speciális szakadatbázissal egészíti ki a chatbotot. A kérdés nem egyenesen a chatbothoz megy, hanem előbb a szakadatbázis keresője kapja meg, amely azután kikeresi a kérdéshez kapcsolódó (száz százalékig megbízható) szövegelemeket, amelyeket átad a chatbotnak, amely ezután ezekből az elemekből alkotja meg a választ. Ez a rendszer tehát csak a chatbot szöveggenerálási képességeit használja, a szöveg lényegi tartalma egy kifejezetten az adott szakterület információit tartalmazó adatbázisból származik. A módszer jónak tűnt, de a kezdeti optimizmust, ha nem is kiábrándulás, de legalábbis ismét óvatosság váltotta fel, amikor a kísérletek azt mutatták, hogy a RAG sem képes teljesen kiküszöbölni a tévedéseket. Inkább csak egy nehezen mérhető, de bizonyosan komoly javulást képes elérni.[12] Erre később még visszatérünk.

Jelen írás ezeknek a chatbotoknak a jogászi szakmára gyakorolt lehetséges hatásait elemzi. Két szélsőséges álláspontot szeretne elkerülni. Egyrészt szeretné elkerülni azokat a végítéletváró jóslatokat, amelyek szerint a jogászi szakmának vége van,[13] azonban abba a hibába sem szeretne beleesni, hogy a chatbotok hatását lebecsüli, vagy a chatbotok teljes kizárását követeli a jogászi munkából. Elég valószínűnek tűnik, hogy a chatbotok (és más technológiai újítások) a jog képét és a jogászi szakmát is jelentősen át fogják formálni, és ezzel önmagában nincs semmi gond. Ugyanakkor ennek az átalakulásnak a részleteit - különösen hosszabb, húsz évnél távolabbi időtávon - valójában senki nem láthatja előre. Lehetséges, hogy a mesterséges intelligencia rendszerek drámai fejlődésen és javuláson fognak keresztülmenni, de az is lehetséges (például amiatt, hogy kifogyunk az emberek által előállított nem-szintetikus tartalmakból[14]), hogy a fejlődésük lelassul. Nem tudhatjuk, milyen teljesen új módszerek, találmányok jelennek meg. A chatbotok technológiai hátterét jelentő felfedezések lényegében mind az elmúlt tíz évben történtek. A vektoros jelentésábrázolás,[15] a figyelemblokkok,[16] valamint az új típusú neurális hálók[17] technológiái nélkül nem létezhetnének ilyen tudású chatbotok. Ilyen drámai teljesítményjavulást vagy teljesen új megközelítéseket hozó felfedezések bármelyik pillanatban születhetnek.

Emiatt egy ilyen gyorsan változó környezetben véleményünk szerint arról lehet felelősen beszélni, hogy melyek azok a helyzetek, területek, jogászi tevékenységek, amelyekhez elvi, erkölcsi vagy célszerűségi okok miatt nem tanácsos a chatbotokat odaengedni. Jelen írás tehát bevallottan normatív természetű - ha tetszik, az AI-etika területére tartozó -, így nemcsak az az ambíciója, hogy a chatbotok jelenlegi korlátairól beszéljen, hanem az is, hogy ajánlásokat tegyen egy olyan jövőbeli helyzetre, amikor ezeknek a rendszereknek a képességei sokkal jobbak lesznek a jelenlegieknél.

A tanulmány a jogászi munka és a chatbotok metszéspontját három oldalról járja körbe. Először a 'chatbotokról', illetve ennek tágabb kontextusáról, a 'jogi gépesítésről', másodszor a 'jogászi munkáról', ezután pedig a kettő filozófiai-elméleti kapcsolatáról beszél.

Ennek megfelelően az írás a bevezetés után három részre tagolódik. Az első részben a tanulmány a chatbotokat a 'jogi gépesítés' dimenziójába helyezi. Itt arra szeretné felhívni a figyelmet, hogy az automatizáció és az MI-támogatás, különösen a nagy nyelvi modellekkel történő jogászkodás két teljesen különböző módja a 'gépesítésnek'. Az egyik szabályalapú, míg a másik statisztikai vagy adatalapú. Ezért nagyon különböző módon és területeken használhatók, és nagyon különböző kockázatokat vetnek fel. Ez a rész azt is leírja, hogy jelenleg hol tartunk a jogi szakmában az LLM-ek használatát illetően.

A második rész a jogi tevékenységek sokféleségét mutatja be. Úgy érvel, hogy a jog egy multifunkciós gépezet, és a jogászok is sokféle tevékenységet végeznek, amelyek nem mindegyike egyformán gépesíthető. Már első látásra is egyértelmű, hogy vannak olyan tevékenységek, amelyek nem igényelnek különösebb kreativitást, stratégiai érzéket, elmélyült jogi ismereteket, a jog értő értelmezését, erkölcsi érzéket, tekintélyt vagy hasonló mélyen emberi képességeket és bölcsességet, míg más tevékenységek esetén ezekre szükség van. Utóbbiak jóval nehezebben, vagy sehogyan sem gépesíthetők, illetve morális átszínezettségük okán nem is tanácsos őket gépesíteni.

- 5/6 -

Végül a harmadik rész a jog kitüntetett aktivitásfajtájáról, a döntésről szól, méghozzá jogelméleti-jogfilozófiai háttér előtt. Azt vizsgálja, hogy miben különbözik az a folyamat - legyen az szabályalapú vagy statisztikai -, ahogyan az ember döntést hoz, és a gép 'dönt'. Másképp fogalmazva, ez a rész - a chatbotok és a jogi tevékenységek ismeretében - megpróbálja jogelméleti szempontból megragadni a különbséget az emberi és a mesterséges intelligencia által hozott döntések (vagy ajánlások) között. Azzal érvel, hogy az ember szabad akarata és a társadalmi gyakorlatba ágyazott nyelvhasználata alapvetően különbözteti meg őt a nagy nyelvi modellek nyelvgenerálásától és döntéseitől, és még ha a gépek kimenetei jónak is tűnnek, bizonyos helyzetekben a döntéshez vezető út ugyanolyan fontos része a döntésnek, mint a végeredmény - máskülönben nem lennének a jogi eljárásoknak olyan részletes garanciális szabályai. A pénzfeldobáshoz hasonló gépi döntés sokféle helyzetben lehet használható, de az erkölcsi téttel bíró helyzetek nem ilyenek.

2. Automatizálás vs. mesterséges intelligencia

Ebben a részben arra a fő kérdésre keressük a választ, hogy miben különböznek a chatbotok a már korábban ismert 'gépesítési' kísérletektől. Miben hoztak újat, miben más ez a technológia, mint a már csaknem ötvenéves, különböző 'jogi automatizációs' módszerek? Miért különlegesek a chatbotok? Amikor az MI korlátairól hallunk - és a jogászok különösen szeretik a korlátok felemlegetését, "a mesterséges intelligencia úgysem lesz képes soha... " kezdetű mondatokkal -, a megszólalók nagyon gyakran nem a chatbotokat, hanem az egyszerű szabályalapú automatizációt tartják szem előtt.[18] A chatbotok ugyanis valóban hatalmas változást hoztak a jogi folyamatok gépesítésében, de kérdés, hogy ez azt jelenti-e, hogy a hagyományos értelemben vett jognak és a jogászoknak 'végük van'.[19]

2.1. A jog algoritmizálásának 'Langdell-Leibniz modellje'

Simon Deakin és Christopher Markou tanulmányukban több helyen 'langdelli-leibnizi modellnek' (az egyszerűség kedvéért nevezzük ezt logikai modellnek) nevezik a jog számítógépesítésének (matematizálásának) azt a már több mint 350 éve létező elképzelését,[20] amikor a jog tartalmát a matematikai axiómákhoz hasonló ha > akkor logikájú szabályok rendszerébe szervezik, majd ez a hatalmas rendszer képes a tényekből és a szabályokból ('a változókból') logikai úton következtetéseket levonni, azaz automatikusan jogot alkalmazni.[21] Ez a rendszer nem más, mint egy komplex 'döntő automata', amely a jogot teljesen kiszámíthatóvá teszi. Az amerikai realista,[22] illetve az európai szabadjogi mozgalom[23] megjelenéséig ez az elképzelés volt uralkodó azok közt, akik a 'jog matematizálhatóságáról' vagy jogi logikáról gondolkodtak. A 20. század első felében, éppen a jogszociológiai elméletek hatására az ötlet visszaszorul, de a számítógépek elterjedésével az 1950-es évektől aztán új életre kel.

Amikor ugyanis elérhetővé válik kereskedelmi forgalomban a számítógép, szinte azonnal elkezdik jogi célokra is használni.[24] Figyelemre méltó ugyanakkor, hogy az első időkben - nagyjából a 70-es évekig - ez a használat nem a logikai modellt alapul véve történt, hanem elsősorban a jog szövegeinek a hatékonyabb uralásáról szólt. A különböző 'text-retrieval' (szövegkinyerő-szövegkereső) technológiák, a könyvtári indexek mintájára készült metaadatok, majd a teljes szövegű, már automatikusan készülő index voltak azok az állomások, amelyeken keresztül az amerikai jogászok fokozatosan algoritmizálták a jogot. Jól lehet érzékelni, hogy ez merőben más volt, mint amelyet a logikai modell kívánt volna, hiszen nem a jog tartalmát (értelmét, jelentését) algoritmizálták, hanem a szöveg uralásához, a megfelelő szövegelem megtalálásához szükséges külsődleges struktúrákat tárták fel.

Az értelem, a jelentés megragadása, a valódi jogalkalmazó gépek teljesen más módon kezdtek el megjelenni, mint ahogy azt a logikai modell és az 50-es évek olyan álmodozói, mint Lee Loevinger, a Jurimetrics-módszer[25] propagálója képzelték. A jelentés számítógépesítése, a ha > akkor szabályokká formálása előbb olyan üzleti folyamatok számítógépesítésének a mellékterméke lett, mint a számvitel, a logisztika, a bérszámfejtés, az adóbevallás vagy bizonyos más compliance-funkciók. Ez az algoritmizálás persze csak részleges és szigetszerű volt. A humánmenedzsment és bérszámfejtő szoftverekben például kóddá kellett fordítani az egyes munkajogilag releváns jogviszonyfajtákat, a társadalombiztosítási jogszabályok rendelkezéseit, vagy például az adólevonás miatt az adózás szabályait. Ezek a részleges munkafolyamat-támogatások aztán a 90-es évektől bizonyos szűkebb jogi eljárásokban elvezetnek a teljesen automatizált döntésekhez is, de szigorúan csak azokban az esetekben, amikor a jogalkotó eleve úgy alkotta meg az eljárást, hogy kizárt belőle minden mérlegelési és jogértelmezési

- 6/7 -

lehetőséget. Ilyenek voltak bizonyos regisztrációs vagy szabálysértési eljárások.[26]

Másrészt ugyan valóban megjelennek az első, kisebb jogterületeket átfogóan feldolgozó szakértői rendszerek is, de nem aratnak sikert. Itt már komplexebb esetek 'döntéstámogatásáról' is szó van - és nem csak részfolyamatok munkafolyamat-támogatásáról -, ami azt jelenti, hogy a gépek bizonyos szűk doméneken képesek bonyolultabb döntésekre is javaslatokat adni, általában bonyolult, előredefiniált döntési fákat használva. Ezekben az egyébként nagyon szűk körben és szinte csak kísérleti célra használt rendszerekben már valóban a teljes korábban megálmodott logikai modell működik. A jog rendelkezéseit és a jogeseteket paraméterekre bontják, 'ledesztillálják' a tudást belőle, logikai kapcsolatokat hoznak létre az egyes rendelkezések, illetve a jogesetek közt, azaz ha > akkor típusú szabályokká konvertálják az egyébként szabadszöveges jogi dokumentumokat, jogszabályokat és az ezeket alkalmazó egyedi eseteket.[27]

A logikai módszer a szakértői rendszerek kudarca miatt zsákutcának tűnik - hiszen a szakértői rendszerek nem terjedtek el -,[28] de valójában egyáltalán nem az. A helyzet ugyanis az, hogy a logikai módszer nem komplex döntéstámogató rendszerekként, hanem szigetszerűen működő, félautomatikus vagy automatikus (főként közigazgatási) eljárásokként él tovább. És mint ilyen, valószínűleg még hatalmas karrier vár rá, mégpedig azért, mert az életünk egyre több aspektusa kerül fel a virtuális térbe (bankolás, vásárlás, szállásfoglalás, szerződések megkötése), és ezek a folyamatok eleve számítógépen zajlanak, ahol minden adattá alakul és minden naplózódik. Az utolsó részben részletesebben fogunk beszélni erről a tendenciáról.

2.2. A statisztikai, nyelvi modellen alapuló módszer és jelenlegi használati módjai

A 2010-es évek közepének felfedezései, ahogy azt az írás elején jeleztük, a jelentés kinyerésének, és ezen keresztül az intelligencia imitálásának egy teljesen új módszerét hozták el. A vektoros jelentésábrázolás nem jogiszöveg-specifikus algoritmizálás, hanem általános természetes nyelvfeldolgozási módszer, amely az egyes szavak jelentését a környező szavakból képzett sokdimenziós vektorokkal, illetve ezek egymásba ágyazásával írja le, majd ugyanígy egy komplex vektortérben válogatja ki a szöveggeneráláshoz a következő szót.

A chatbotok a jog területén nagyon rövid idő alatt nagyon népszerűek lettek, több száz jogi területen használható alkalmazás jelent meg különböző helyeken. A blogbejegyzésekből,[29] tudományos igényű tanulmányokból[30] és sajtó-, valamint ügyvédi lap cikkekből[31] alapvetően az a kép bontakozott ki, hogy az LLM-ek használatának két nagy területe van.

1. Az LLM-ek képesek bármilyen szöveggel kapcsolatos tevékenységet felgyorsítani, hatékonyabbá tenni, legyen az szövegek létrehozása vagy létező szövegek összefoglalása, vagy nagy mennyiségű szöveg szortírozása, válogatása. Ez nagyon megnövelheti a jogászi munka hatékonyságát, és már rövid távon is előnybe hozhatja azokat a jogászokat, akik képesek lesznek beépíteni a chatbotokat a munkafolyamataikba. Első lépésben például elsajátítják a 'kérdezésmérnökség' (prompt engineering) misztikus tudományát. A ChatGPT ezenfelül korlátlan szövegfeldolgozási kapacitással rendelkezik. Ezért mindazokra a feladatokra, amelyekre a jogászszakma már korábban is használta a számítógépet, illetve már korábban is gépi tanuláson alapuló algoritmusokat (e-discovery, jogi forráskutatás, összefoglalók írása hosszabb dokumentumokból stb.) használt, hatalmas minőségi javulást lehet elérni a chatbotokkal.

2. A ChatGPT előnye a szimpla szövegfeldolgozó automatákhoz képest az, hogy 'kreatív'. Sokszor nem ad ugyan tökéletes válaszokat, de azok 'elég jók', és például az első körben történő orientálásra, ötletek megfogalmazására alkalmasak lehetnek. Ugyanez a kreativitás érvényesül, amikor a chatbotok bonyolult jogi problémákat képesek viszonylag egyszerű formában megfogalmazni, elmagyarázni, és ezen képességük miatt nagy segítséget nyújthatnak az igazságszolgáltatáshoz való hozzáférés (access to justice) javításában: például olyan marginalizált csoportok kaphatnak 'viszonylag korrekt' jogi tájékoztatást, akik eddig semmilyen jogi szolgáltatáshoz nem fértek hozzá. De a kreativitás a jogászok számára is hasznosítható: a jogászok számára nemcsak orientálásra, hanem 'ötletgenerálásra' is képesek lehetnek - egy teljesen új, ismeretlen témakörről összefoglalást képesek adni, egy új feladathoz ötleteket, kiindulópontokat szolgáltatni.

Másrészt egyértelmű lett, hogy a korábbi logikai típusú automatizálással szemben a chatbotok képesek mindenféle regiszterben 'beszélni', ezért a laikusok számára történő jogi felvilágosítás ígéretes eszközei lehetnek.

- 7/8 -

A kétféle célcsoportból és a kétféle használati módból az alábbi táblázat rajzolható fel:

1. táblázat. Az HM-ek használatának módjai a jogi tevékenységekben

A kiterjedt és azonnali alkalmazásnak egyedül az erős hallucinációs hajlam szab határt. Többféle ötlet született ennek az eliminálására is, ezek közül a RAG technológiát már említettük, és azt is, hogy vannak korlátai, ugyanis a pontosságon kívül is számtalan kérdést felvet, és ezek közül a legizgalmasabb az, hogy egy nagyobb méretű adatbázisban egy keresésre kapott relevanciarangsorolt szövegtöredékeket hogyan gyúrja egy szöveggé (tanáccsá) a chatbot. Nyilvánvaló, hogy ha egy keresésre száz találat van, de a prompt arról szól, hogy írjon egy bekezdésnyi választ, akkor a válasz írásánál a chatbotnak szelektálnia kell a források közt, majd a szöveg megalkotásakor a találatokat egymással is valamilyen viszonyrendszerbe kell rendeznie, döntéseket kell hoznia. Például fel kell ismernie, hogy mondjuk az első szövegtöredék tartalmazza a főszabályt, a második a kivételt és így tovább. Ezenfelül, mivel a szöveg konkrét megalkotásakor már a teljes korpuszt használja a gép, az, hogy 'kizárólag' csak a szakadatbázisban található szövegekre támaszkodjon, maradéktalanul nem tartható be, mert a teljes korpusz szövegelemei 'átütnek' a válaszon a technológia sajátosságai miatt. Ezzel magyarázható a megmaradt, soha nem kiküszöbölhető pontatlanság, amelyről később még beszélek majd.[32]

Ugyanakkor a következőkben az írás amellett szeretne érvelni, hogy még ha sikerül is minden hibázást kiküszöbölni - ami egyelőre kétséges -, sem biztos, hogy minden döntés közelébe érdemes ezeket a gépeket odaengedni.

3. A jogi tevékenységek különfélesége

Ez a rész abból az egyszerű gondolatból indul ki, hogy kissé pontatlan általában 'a jogról' és 'a jogi tevékenységekről' beszélni, amikor ezt a 'gépesítés' kontextusában tesszük. Könnyen belátható, hogy vannak olyan tevékenységek, amelyek könnyebben algoritmizálhatók vagy támogathatók számítógéppel, és vannak olyanok, amelyek kevésbé. Egy meglevő sablon alapján megírni egy egyszerű szerződést nem ugyanolyan nehézségű feladat, mint egy sok ezer oldalnyi iratanyagot termelő bonyolult ügyben döntést hozni, vagy egy hatalmas cég felvásárlásának jogi aspektusát levezényelni. Az is könnyen belátható, hogy nemcsak mennyiségi kérdésekről van szó, bár kétségtelen, hogy a kis, egyszerű ügyek talán könnyebben számítógépesíthetők, mint a nagy és bonyolult ügyek.

Kérdés tehát, hogy milyen elvi, elméleti megfontolások mentén lehet megítélni az algoritmizálás szempontjait? Három ilyen szempont létezhet. Az első a jog ex ante és ex post jellegével van összefüggésben, a második a szabályalapú és érvelésalapú cselekvéseket különbözteti meg, míg a harmadik döntések és más cselekvések közt tesz különbséget. Az első kettő esetén az egyik szélsőség felé haladva a számítógépesítés esélyei is nőnek. Minél inkább ex ante (erről később) és minél inkább szabályalapú egy jogi tevékenység, annál könnyebben algoritmizálható. A harmadik szempont esetén - amelyről később külön pont szól -, nem ténybeli, inkább normatív korlátokat érdemes felállítani, amelynek lényege, hogy bizonyos döntésekhez erkölcsi-filozófiai okokból nem érdemes a gépeket odaengedni. Erről szól majd a teljes harmadik rész.

3.1. A compliance és a jogászjog dimenziója

A jogászi tevékenységeknek ez a felosztása a jog kétféle funkciójáig vezet vissza, ezért ezt a dimenziót lehetne az ex ante - ex post jelzőkkel is illetni, bár kétségtelen, hogy sok szempontból ez félrevezető lehet. A jog ugyanis egyfelől múltbeli cselekedetek, már megtörtént tények (ex post facto) megítélésének mércéjéül szolgál, de másfelől jövőbeli cselekedeteket szeretne előre (ex ante) befolyásolni azért, hogy bizonyos helyzeteket előidézzen, vagy épp elkerüljön. Ezt gyakorta azzal teszi, hogy részletesen leírja, mi az elvárt magatartás, sőt újabban, hogy mi a használandó technológia. Elvárt lehet egy tilalom, valamitől való tartózkodás, de ha ez pozitív kötelezettség, és nem a jogalany saját elhatározásából fakad (tehát például nem arról van szó, hogy valamit azért kell betartani, mert az illető szeretne egy érvényes szerződést), hanem a jog egy valamilyen élethelyzet, szakma, vagy tevékenység gyakorlása során folyamatos igazodást, sőt gyakran ennek a folyamatos dokumentálását várja el, akkor megfelelésről, (divatos angol szóval) compliance-ről beszélünk.

Az ex post jogászjog - és az ex ante compliance megkülönböztetés a témánk szempontjából azért fontos, mert a compliance típusú szabályozási módszer a 20. században egyre több területen lett a szabályozás fő módszere, és sokkal könnyebben engedelmeskedik a matematikai logikának, mint az ex post jogász-jog.[33] A különböző társadalmi alrendszerekben a kockázatok

- 8/9 -

elkerülésének, a társadalmi kontrollnak a megfelelési szabályok lettek az elsődleges eszközei, amelyek gyakran összefonódtak a különféle 'védelmi' szabályozásokkal. Bár a 19. századi mun-kásvédelmi,[34] majd a 20. század közepi befektetővédelmi[35] szabályok korai előképei ennek a megfelelési szabályozásnak, az igazi mennyiségi robbanás a fogyasztó-[36] és környezetvédelem, majd az egyes veszélyes üzemeket szabályozó megfelelési szabályok létrejöttével következett be nagyjából a 60-as évektől. Komoly szabályozást kapott a gyógyszer- és vegyipar, az energetikai - és ezen belül az atomenergia-termelési ágazat, a közlekedési, a pénzügyi szektor, és a különféle termékmegfelelőségi szabályok, hogy csak a legfontosabbakat említsük, de szektorokon keresztül ível az ún. HSE (health, sefety and environment - egészség, biztonság és környezetvédelem)[37] szabályozása is. A compliance lényege a pozitív kötelezettségekben megnyilvánuló folyamatos igazodási kényszer, a mérhetőség és a dokumentáltság. A jogalanyoknak maguknak kell folyamatosan figyelniük a jogszabályokat, és betartani ezeket, de ezt folyamatosan dokumentálniuk is kell, és nagyon gyakran mindezt egy hatóságnak be is kell mutatni, ugyanis a compliance-szabályok betartatását gyakran ágazati 'agencyk' felügyelik.

A compliance típusú jog különösen alkalmas a gépesítésre, hiszen a pozitív cselekedetek leírása a legtöbbször mennyiségi paraméterekkel történik, és a fizikai világra irányul. Be kell tartani bizonyos jól körbehatárolható, gyakran szigorúan kvantifikált paraméterekkel körbeírt szabályokat (mint pl. a KRESZ, vagy egy termékmegfelelőségi szabály, egy eljárás vagy egy ellenőrző lista).

Az ex post 'jogászjoggal', amelynek a paradigmatikus esete a büntetőjog, nem ez a helyzet. Ennek alkalmazása számtalan problémát vet fel, amikor algoritmizálni szeretnénk, hiszen rendszerint emberi cselekedetek utólagos megítéléséről van szó, amelyek erkölcsileg is átszínezettek. A problémát az utolsó részben érintjük, itt csak annyit érdemes megjegyezni, hogy az emberi cselekedetek ex post megítélése az emberi méltóság és morál, és ezen keresztül a szabad akarat problémájára, valamint az ezen cselekedeteknek az érvek és ellenérvek, a kor- és társadalomfüggő nyelvbeágyazottságának problémájára futnak ki.

3.2. szabályalapú cselekvések vs. érvelésen alapuló cselekvések

A jogi tevékenységek második dimenziója, melyet itt használni szeretnénk, megkülönbözteti a szabályalapú és az érvalapú cselekvéseket.[38] Cselekvés alatt itt olyan virtuális outputot vagy valóságos magatartást értünk, amely valamilyen hatást vált ki a külvilágban. A szabályalapú cselekvéseken belül is van fokozatiság, mert ha egy szabályt természetes nyelven fogalmazunk meg, azt végül valamilyen módon mindenképp át kell fordítani outputtá vagy cselekvéssé, és ennek során minden paraméterét diszkrétté, kvantifikálhatóvá kell tenni. Ugyanakkor természetesen vannak olyan nyelvi objektivációk, amelyekkel ezt könnyebben meg lehet tenni, és vannak, amelyekkel kevésbé.

A probléma megfogalmazható ezért úgy is - és gyakran így is fogalmazzák meg -, hogy mennyiben és hogyan (vagy egyáltalán nem) fordíthatók át algoritmussá az értékek, az erkölcsi megfontolások, az alkotmányos elvek, az emberi jogok.[39] Ha egy spektrumon gondolkodunk, ahol mondjuk egy tisztán számszerű paraméterekkel operáló szabály van az egyik oldalon (pl. egy adókulcs vagy egy jegybanki alapkamat), akkor a másik szélső oldalon valóban a legáltalánosabban megfogalmazott erkölcsi parancsok ('légy jó', 'légy igazságos', 'légy toleráns', 'ne diszkriminálj') vannak, de a valódi választóvíz ebben a tekintetben a számok - és a mesterséges nyelvek mint a számítógépes nyelvek - és a természetes nyelvek, az analóg és a diszkrét információ közt húzódik.

Az érvelésalapú cselekvések jellegzetessége, hogy mindig van egy nyelvi objektivációként megfogalmazott norma, amely kiindulópontként szolgál, és amelyet értelmezni kell, mert az adott helyzet az adott norma alapján többféle cselekvési lehetőséget tesz lehetővé. Ezért az érvelésalapú döntések nagyon sokszor erkölcsi döntések is, bár nem szükségszerűen. Például egy sor olyan szakma van (az orvosoké, a mérnököké, vagy mondjuk a pénzügyi, banki szakembereké), amelyek írott szabályok alapján dolgoznak, és ezek teljes mértékig nem algoritmizálhatók, mert természetes nyelven megfogalmazottak, és egyedi helyzetekben feltételezik az adott szakember értelmezését, 'ítélőerejét', ugyanakkor ezekben a szakmákban jóval kevesebb az ilyen szabályok száma, mint mondjuk a jogászi szakmában, és ezen belül is például a családjogban vagy a büntetőjogban.

3.3. Döntések vs. egyéb 'cselekvések', aktusok a jogban

Az utolsó spektrum, melyre a jogászi tevékenységeket érdemes felhelyezni, az a döntés és 'minden más cselekvés' spektruma. A döntés alatt természetesen a jogilag releváns

- 9/10 -

jogokat és kötelezettségeket keletkeztető döntéseket értjük, és a jogrendszeren belül is kiemelkednek ezek közül az állami szervezetek (beleértve a bíróságokat is) által hozott döntések. Mivel ennek a kategóriának bevezetésével konkrét célunk van, mégpedig az, hogy kizárjuk a gépeket bizonyos típusú döntésekből, azonnal felvetődik kérdésként, hogy az állami döntéseken kívül milyen típusú más döntéseket kellene idevenni, illetve bizonyos 'nem döntések' (pl. az erős ajánlások kritikus területeken, mint a hitelbírálat) nem ugyanolyan súlyúak-e?

Erre tulajdonképpen már a hatályos jog is rendelkezik egy válasszal, amely több helyről olvasható össze. Először is ott van az automatizált döntéshozatal általános szabályozása az adatvédelmi jogban.[40] A jelenleg ezt szabályozó szöveg (a GDPR 22. cikke) egyértelművé teszi, hogy nemcsak a jogi döntésekről van szó, hiszen főszabályként ez a rendelkezés egyébként 'jelentős' más döntéseket (amelyek 'hasonlóképpen jelentősen érintenék' az adatalanyt) is emberi hatáskörbe utal. De ami érdekes, hogy egy sor más helyen is találunk utalást a gépi döntések korlátaira, azaz, anélkül hogy kifejezetten így neveznék, más jogszabályok is tartalmaznak az 'automatizált döntéshozatalra' korlátozó vagy garanciális szabályokat.

Mindjárt ilyen a Mesterséges Intelligencia rendelet (MI rendelet). Ennek a 'tiltott MI gyakorlatait' nehéz másképp értelmezni, mint az automatizált döntéshozatal egy meghatározott fajtájának - az MI-vel, azaz gépi tanuláson alapuló, vagy más 'kiszámíthatatlan' MI-vel történő döntés - objektív és kivételek nélküli betiltását bizonyos társadalmi helyzetekben.[41] Az MI rendelet magas kockázatú rendszerekre vonatkozó szövevényes szabályai, így például az emberi felügyeletre vonatkozó szabályok pedig ennél sokkal szélesebb körre, így az oktatási, munkaügyi és pénzügyi szektorban hozott legfontosabb döntésekre tartalmaznak előírásokat.

Az automatizált döntéshozatal szabályai jól példázzák a döntés jelentőségét a jogrendszerben, de a szabályozás maga nagyon szikár, és lényegében három szabályból áll. Az első tulajdonképpen azt 'üzeni', hogy az ilyen döntések csak kivételesek lehetnek ('joga van hogy ne terjedjen ki rá'). A második, hogy ezek esetében is mindenképpen kell lehetőséget hagyni az emberhez forduláshoz. A harmadik pedig, hogy a döntésről (a 'logikáról') a döntést elszenvedett magyarázatot kell kapjon.

Mindhárom szabály processzuális jellegű, hiszen nem mond arról semmit, hogy tartalmilag milyen döntések esetén nem ajánlatos gépeket használni, másrészt nem mond semmit (természetesen) a rendelkezés igazolásáról. Miért fontos, hogy a gépi döntés kivétel maradjon egy jogrendszerben, és mik ennek a tartalmi szempontjai? Erről szeretnénk beszélni a harmadik részben.

4. Emberek és gépek

4.1. Mi a különbség az emberi és a gépi döntés közt? - A két fő dimenzió

Ebben a tanulmányban elsősorban arra a kérdésre keressük a választ, hogy hol húzódnak a gépesítés, és ezen belül a mesterséges intelligenciával történő jogászkodás határai a jogban. Az első részben beszéltünk két különböző technológiáról, a szabályalapú és az adatalapú technológiákról, amelyek közül az utóbbi körébe sorolhatók a chatbotok is. A második részben a jogi tevékenységeket vizsgáltuk meg, és arra jutottunk, hogy bizonyos tevékenységek jól algoritmizálhatók, mások kevésbé. Ebben az utolsó részben az előző két rész megállapításaira építve a gépesítés határait a jogi döntések kontextusában vizsgáljuk meg.

A második részben azt láthattuk, hogy a jog egy többfunkciós rendszer, amelyben a jogi tevékenységek igen heterogének, de itt mi két fő csoportba soroltuk az egyszerűség kedvéért őket, az ex ante és az ex post típusú tevékenységekébe. Az előbbit neveztük 'megfelelési' szabályoknak, az utóbbit 'jogászjognak', a hozzájuk kapcsolódó tevékenységeket pedig 'klasszikus jogi tevékenységeknek'. Ilyen a pereskedés, amikor egy már megtörtént emberi cselekvéssor, eseménysor utólagos megítélése van napirenden, és ezen belül is különösen látványosan ilyenek a büntetőeljárások. A második szempont a szabályalapú és az érvalapú cselekvéseket különböztette meg. Míg a szabályalapú cselekvések gyakran szinte teljes egészében algoritmizálhatók, az érvalapú cselekvések a természetes nyelv közegébe ágyazódnak, folyamatos mérlegelést igényelnek, fokozati jellegűek, és át vannak itatva erkölcsi és értékmegfontolásokkal. Végül a harmadik részben a döntés mint jogászi tevékenység kitüntetett szerepére mutattunk rá.

Mindez azzal a céllal történt, hogy bebizonyítsuk: mind az ex post jogászjog, mind az érvelésalapú tevékenységek ellenállnak a gépesítésnek, és ez különösen a döntések területén igaz, és különösen igaz a Langdell-Leinbiz-féle algoritmizálásra. Nem véletlen, hogy a szakértői rendszerek, ennek a gondolkodásmódnak a leglátványosabb képviselői, általában meg sem próbálták ezeket a területeket meghódítani, vagy ha igen, azt olyan formában tették, mint a korábban említett HYPO rendszer, amely az üzleti titoksértés bírói gyakorlatában a tényállás (paraméterekre bontott) betáplálása után egyszerre tudott érveket szolgáltatni a jogsértést elkövető és elszenvedett számára, tehát alapvetően nem döntést hozott, hanem egy (bármilyen irányú) döntés mellett szolgáltatott érvként használt jogeseteket.[42]

- 10/11 -

A kérdés, hogy igaz-e a chatbotokra is az, amit a Langdell-Leibniz-rendszerekről állítottunk? Nem lehet-e, hogy mivel a chatbotok nem a hagyományos ha > akkor típusú algoritmizáláson alapulnak, mégiscsak képesek hatékonyan támogatni a 'jogászjogi', érvelésalapú jogászi munkát, és mindezt a döntések világában is képesek hatékonyan elvégezni? Hiszen a chatbotok nem paraméterekre bontott inputot igényelnek és nem ilyen outputot adnak, hanem beszélnek, szerződést írnak, mérlegelnek, érvelnek.

A válaszunk egyértelműen nem, és ez a harmadik rész ennek bizonyítására szolgál. Azt állítjuk, hogy a chatbotok továbbra is csak gépek, és bármilyen jól imitálják a beszédet, sőt a jogi érvelést, ettől még gépek maradnak. A statisztikai alapú szövegfelismerés és -generálás, valamint a tanulási képesség a logikai rendszerektől ugyan radikálisan megkülönbözteti ezeket a modelleket, de ettől még az általuk végzett tevékenység nemcsak nem emberi, hanem nem is gondolkodás. Míg a logikai módszer a jogi szabályok szakmai jelentésének explicit tudásfeldolgozási folyamatokon keresztüli számítógépes szabállyá alakításán alapul, az LLM-ek a hétköznapi nyelvben található szó- (token, szótöredék) és szócsoportmintázatok gépi módszerekkel történő statisztikai alapú felismerését használják kiindulópontként, és a természetes nyelvet imitálják. Az LLM-ek azzal, hogy természetes nyelvi kérdésekre adnak természetes nyelvi válaszokat, megtévesztően emberszerű viselkedést tanúsítanak, de eközben szó sincsen a hagyományos értelemben vett kérdés-válasz interakcióról. A gép a promptot vektorizálja, és egy virtuális vektortérben hasonló szövegek statisztikai adatait használva generál egy statisztikai valószínűségeken alapuló szöveget.[43] Emily M. Bender szavaival élve, itt egy 'sztochasztikus papagájról' beszélünk,[44] amelyből - visszautalva a 2. részben írtakra - amellett, hogy valószínűleg soha nem lehet a hibázás lehetőségét száműzni, hiányzik minden emberi. Nincsen az emberi értelemben vett 'gondolkodás', 'érvelés', 'meggyőzés' és még egy sor tulajdonság, amelyet hamarosan részletesen is számba veszünk. Nincsen semmi, ami az ember társadalmiságában, éntudatában, tekintélyében, nyelvhasználatában, szabad akarata gyakorlásával tett értékválasztásaiban gyökerezik.

Az alábbi táblázatban két fő érvet sorakoztatunk fel amellett, hogy az emberi döntések és nyelvhasználat, és az LLM-ek döntései és 'nyelvhasználata' radikálisan eltérnek egymástól.

Az első fő érv, hogy a chatbotoknak nincsen szabad akarata, az LLM-ek nem morális 'ágensek', a másik pedig, hogy az emberi nyelvet a chatbotok nem mint a társadalmi gyakorlat, adott esetben beszédaktusokkal történő cselekvés[45] eszközét használják, hanem mint statisztikai adathalmazt. A táblázat e két fő szemponthoz három-három, az adott dimenzióhoz tartozó alszempontot rendel.

2. táblázat: Az emberi és a gépi döntés közötti különbségek

Nézzük ezeket a szempontokat most részletesebben.

4.2. A szabad akarat, az ágenciaprobléma és az autoritás kérdése

Az első dimenzió tehát a szabad akaratról, vagy másképpen az ágenciaproblémáról szól. Csak az embernek van szabad akarata (ágenciája, cselekvőképessége), és a jogi döntéseknél ezt a szabad akaratot nagyobbrészt a nyelv közegében használja. A gépeknek, beleértve az MI-t is, nincsen szabad akaratuk, ezért a nyelvhasználatuk sem emberi, hanem adatvezérelt, statisztikai alapú, így őróluk mint 'ágensekről' számítástechnikai értelemben talán lehet beszélni,[46] morálfilozófiailag azonban semmi esetre sem.[47]

- 11/12 -

Az ember szabad lény, és a jogi döntéshozó is az. Mivel mindig van mozgástere, részben a tények történetté formálása, részben pedig a természetes nyelven megfogalmazott jogszabályok értelmezési lehetősége miatt, minden döntés egyben egy több lehetőség közül történő választás, és a döntés indokolása voltaképp az arról történő számadás, hogy ezen a mozgástéren belül miért éppen azt a pontot választotta a döntéshozó.[48] A nem nyelvi formában megfogalmazott szabályok esetén (tehát pl. egy matematikai képlet esetén), amely egy tisztán szabályalapú döntés, tulajdonképpen nincs is mozgástér, itt kondicionálisok sorozata, vagy másképp, döntési fákon történő végiglépkedés zajlik - egy meghatározott inputra mindig ugyanaz az output a válasz.[49]

Bármilyen nyelvi formában megfogalmazott szabály esetén azonban ez a mozgástér azonnal létrejön, és különösen igaz úgy, hogy a nyelvbe zárt szabály értelmezése a tényekre tekintettel történik. Egy igazi algoritmus, például egy matematikai szabály (pl. a[2] + b[2] = c[2]) esetén egyszerűen nincsen értelme annak, hogy 'értelmezzük' a szabályt. Ugyanígy, ha megadtuk, hogy a háromszög oldalai a = 2 és b = 3, akkor nincsen értelme ennek a 'tényleírásnak' firtatni a 'létrejötte hogyanját' (ahogy egy életbeli történés rekonstruálása olykor igencsak nehézkes), vagy a hozzá tartozó bizonyítékok megbízhatóságát (ahogy ez egy bírósági eljárásban gyakorta megesik).

Ez tehát elvezet az ágenciaprobléma második eleméhez, ahhoz, hogy a jogi munka, és főként a jogi döntés egy hermeneutikai kört ír le. Itt Gadamer és Fikentscher gondolatait idéznénk fel.[50] E szerint egy jogeset megoldása mindig körszerűen zajlik. A jogeset tényeit a jogszabályok nyelvezetével ragadjuk meg, majd a jogi rendelkezéseket a jogeset egyedi körülményeinek fényében értelmezzük. Ha egy konkrét bírósági eljárást veszünk alapul, akkor a tanúvallomások, a tárgyi bizonyítékok, gyakran a felek által eltérően értelmezett okiratok és szerződések, levélváltások és jegyzőkönyvek szövevényes rendszeréből kell megkonstruálni egy tényállást: ez a konstruálás folyamatosan egy 'prekoncepció' jegyében történik, hiszen a bíró egy konkrét jogszabályhelyre tekintettel szerzi be vagy mérlegeli a bizonyítékokat. A jogszabályok értelmezése pedig ennek a folyamatosan kialakuló tényállásnak a fényében értelmeződik.

Az teljesen világos, hogy a logikai modellek nem így működnek, de kérdés, hogy igaz-e ez az adatalapú modellekre is.[51] Még egyszer: ezt a kérdést azért kell feltennünk, mert ezekkel kapcsolatban felmerülhetnek kétségeink, hogy talán mégiscsak van közük ehhez a módszerhez.

Ha ugyanakkor közelebbről szemügyre vesszük ezeket, láthatóvá válik, hogy az adatalapú döntések esetén sem arról van szó, hogy ezekben a szabályok értelmezése vagy a tények konstruálása (a tényállás felállítása) egymásra tekintettel történne, körszerű lenne. Először is a chatbotok jelenlegi leggyakoribb használati módja, hogy eleve egy preparált tényállást adnak be nekik, amelyre választ várnak (ha döntésről van szó) így a beadott prompt már egy ember által megkonstruált történet. A gép ezt a feltett kérdést (promptot) vektorizálja, majd ez alapján a szövegek vektorterében keres hasonló szövegeket és fogalmazza meg szavanként a válaszát. Itt tehát egy lineáris folyamatról van szó, amely ráadásul a tények szövegével és a szabályok szövegével egyszerre végez lineáris műveleteket, illetve a tények és a szabályok egymástól történő elválasztása egy LLM esetében egyszerűen nem értelmes megkülönböztetés. Csak szövegek vannak egy adott domainen belül, és a prompthoz lévő közelségük foka lesz az egyedüli paraméter, amely alapján a rendszer felhasználja őket, vagy nem.

Továbbmenve, ha feltételezzük, hogy egy komplex mesterséges intelligencia, amely képes tárgyakat felismerni, tanúvallomásokat megérteni stb., tehát egy bármilyen komplex helyzetet képes lesz egyszer kezelni,[52] az akkor is teljesen valószínűtlen, hogy ezek a rendszerek képesek lesznek majd eltérő - egymással homlokegyenest ellenkező álláspontok melletti -érvek vitájában is magabiztosan dönteni. A chatbotokban a statisztikai valószínűségek, vagy épp kifejezetten és tudatosan generált véletlenek adják a 'szabad' vagy 'kreatív' cselekvés illúzióját. Fel lehet vetni ellenérvként, hogy végső soron mindegy, hogy milyen folyamaton keresztül jutunk el egy döntésig, ha a döntés jó. Egy statisztikai alapú döntés is tud jó lenni. Ez azonban nem igaz, és itt érünk el az autoritás mozzanatáig.

A szabad akarat, az ágencia dimenziójához ugyanis szorosan hozzátartozik az autoritás mozzanata. Az emberi döntéseket egy mindenki által elfogadott instanciának kell hoznia, amelynek jó eséllyel engedelmeskedünk.[53] Nem futunk oda egy kisgyerekhez, egy ismertelen idegenhez, vagy egy nyilvánvalóan inkompetens személyhez, hogy 'döntsd el a vitánkat'. Olyat kérünk fel erre, akit közösen elfogadunk. Akit elfogadunk akkor is, ha számunkra kedvezőtlen döntést hoz. Az autoritás mélyen a társadalmi gyakorlatokban gyökerező jellegzetesség. Autoritása, elfogadottsága, tekintélye lehet egy embernek vagy egy intézménynek, de nem lehet egy mégoly 'okos' gépnek. Ebben a tekintetben persze elképzelhető, hogy lassú változás következhet be, és olyan gépet leszünk képesek építeni, amelynek a döntését feltételek nélkül elfogadjuk. Ennek a valószínűsége azonban rövid távon nagyon csekély.

Végül a harmadik szempont a szabad akaraton alapuló döntésen belül az előretekintés mozzanata. Arra az egyszerű megfigyelésre gondolunk, hogy minden múltbeli cselekedet, történés eldöntése egyben a jövőnek szóló üzenet, szabály is. Ez különösen a common law területen születő bírósági ítéletekre igaz: a bírák itt tudatosan nemcsak az egyedi ügyet döntik el, de minél magasabb instancián döntenek, ez annál inkább érvényes.[54] Ez a jellegzetesség részben összefügg azzal,

- 12/13 -

hogy a bíró különböző célcsoportoknak beszél az ítéletben: nemcsak a felek vitáját dönti el, és reflektál az érveikre, hanem védi a döntését a felsőbíróság előtt, és mércéket fogalmaz meg a jövőbeli döntések számára is. Amióta a bírósági ítéleteket az információszabadsággal összefüggő jogszabályokban a kontinensen is közzéteszik az interneten, egyre inkább érzékelhető lett, hogy a bíró nemcsak a felekhez meg a felsőbíróságnak beszél, hanem a nagyközönségnek is, és abban a tudatban, hogy az ítéletét példaként hozhatják fel.[55] Az LLM-ek nem képesek az előretekintésre, és nehezen kezelik az egyszerre több célcsoport felé történő kommunikációt is. De visszautalva a tekintély mozzanatára, ha mi emberek nehezen fogadnánk el egy gép döntését egy egyedi esetben, ez fokozottan igaz az előretekintő szabályalkotásra: miféle demokrácia az, amelyben a viselkedésünk jövőbeli mércéit egy gép határozza meg, és nem a politikai közösség, vagy az általa felhatalmazott bírói kar?

4.3. A nyelv és a társadalmiság korlátja

A második érvcsoport lényegi tartalma az, hogy a nyelvhasználat a társadalmi gyakorlatba ágyazott, és nem egyszerűen egy statisztikai valószínűségeken alapuló matematikai manipuláció. A nyelv a jogászi tevékenységek közege, a legtöbb jogi aktivitás a természetes nyelvbe ágyazott. Ugyanakkor, mivel az LLM-ek éppenhogy a természetes nyelvet 'vették birtokba' (sőt hekkelték meg,[56] azaz ennek beszélését imitálják élethűen), innen származik az az illúzió, hogy a jogászi munka minden aspektusát elvégezhetik. Ugyanakkor azt láttuk fentebb, hogy az LLM-ek a nyelvet teljesen másképp használják, mint az ember. A kérdés az, hogy ez a másfajta nyelvhasználat különbözik-e annyira, hogy ennek relevanciája legyen.

Az LLM-ek a nyelvet statisztikai alapon beszélik, az átlagokat és a középértékeket, (vagy épp más matematikai beállítást) veszik alapul a nyelvhasználatkor. Ez azt jelenti, hogy egyfelől az LLM-eknek nincsen semmiféle hozzáférésük a valósághoz, kizárólag szövegekből hoznak létre szövegeket, másfelől ez a szöveglétrehozás a társadalomba ágyazottság mozzanatát nélkülözi.

Ez ellen felhozható érvként, hogy a legtöbb bírósági eljárás, különösen a magasabb bírói szinteken szintén kizárólag okiratokból folyik. Ez ugyanakkor azért nem jó érv, mert valahol ezt megelőzően a bíró mindenképpen találkozott az 'élettel', ha másképpen nem, a felek képviselőivel, hús-vér emberekkel és legalább az eredeti okiratokkal, de még fontosabb, hogy van egy komoly előismerete[57] az életről, a hasonló ügyekről, a tipikus történetekről. Itt válik láthatóvá, hogy a nyelvhasználat társadalmi gyakorlat: egy közösségen belül a közösség nyelvjátékaihoz kötődik, egy ezek közül a nyelvjátékok közül.[58] A jelentésadás a közösség aktusa, az érvek a nyelv közösségi használatának közegében értelmezhetők.

A közösség nyelvhasználata nem 'random', hanem egy világban gyökereznek, amelyben ennek a közösségnek az értékei tükröződnek vissza. Az értékek átitatják a jogi fogalmakat, a legtöbb jogi fogalomban valamilyen mértékig megtalálhatjuk ezeket, és természetesen vannak olyan fogalmak, amelyek azután kifejezetten azért lettek a jog részei, hogy a közösség értékei közvetlenül érvényesülhessek. Ilyenek a jóhiszem és tisztesség, a méltányosság vagy az észszerűség fogalmai. Ezekre a fogalmakra különösen igaz, hogy nyelvileg általánosan megfogalmazottak, csak orientálnak, és nem eldöntenek egy kérdést.

A kifejezetten értékekkel átitatott fogalmakon kívül a jog egyébként is tele van metaforákkal, amelyek jogon kívüli narratívákra támaszkodnak.[59] A metaforák több szinten is jelen vannak, úgymint a nyelv mélystruktúráiban rejtőző olyan metaforák, mint hogy ha valami 'fent' van, az jó, ha meg valami 'lent', az rossz,[60] vagy az olyan 'közepesen absztrakt' kifejezetten jogias metaforák, mint mondjuk a 'jogág' fogalma, egészen az olyan teljesen nyílt, hétköznapias, valódi metaforákig, mint a "szavak jelentésének félárnyéka",[61] amely már inkább a bírói ítéletekben jelenik meg, nem a jogszabályok szövegében.

A jogi döntés nyelvbeágyazott társadalmisága talán sehol nem annyira feltűnő, mint a tényalkotás folyamatánál.[62] Ennek egy aspektusáról már az ágenciaproblematika kapcsán beszéltünk: arról, hogy ez a normákra tekintettel zajlik. Azonban nemcsak erre tekintettel. Amikor egy jogi eljárásban egy tényállást állítunk fel, valójában egy hihető mesét mondunk el.[63] Nem véletlen, hogy a bírói ítéletekben olyan gyakran fordul elő az 'életszerű' vagy éppen a 'nem életszerű' fordulat: ilyenkor a hétköznapi narratíváinkhoz hasonlítja a bíró a történetet. Amikor precedensekkel dolgozik egy bíró, valójában akkor is narratívák összecsiszolása folyik. A precedens 'ratio decidendije' állandó változásban van, a későbbi esetek fényében újra- és újraértelmeződik.

5. Konklúzió - hová engedjük be az LLM-eket?

Tanulmányunkban arra a kérdésre kerestük a választ, hogy melyek a nagy nyelvi modelleken (LLM-eken) alapuló

- 13/14 -

chatbotok használatának lehetőségei és korlátai a jogi munkán belül. Másképp fogalmazva, hol, milyen területeken lehet és nem lehet, vagy egyenesen nem szabad chatbotokat használnunk. Előbb azt vizsgáltuk meg, hogy hogyan működnek a chatbotok, és mi különbözteti meg őket a hagyományos automatizálástól, a logikai rendszerektől. Itt arra a következtetésre jutottunk, hogy bár a chatbotok azt az illúziót keltik, hogy birtokba vették a természetes nyelvet, és nem algoritmikus alapon működnek, ez korántsem igaz. Nem logikai, hanem statisztikai alapú a döntésük, de ettől meg nem emberi nyelven beszélnek vagy döntenek, érvelnek és fontolgatnak, hanem statisztikai valószínűségek mentén generálnak szövegeket. Ezután a jogi tevékenységeket vettük szemügyre, és arra jutottunk, hogy a 'klasszikus' 'jogászjogi' területeken (mint például egy büntetőügy), ahol egy múltbeli esemény sokszor erkölcsileg is erősen átszínezett utólagos megítélése a megoldandó probléma, és amely nagyon sokszor érvek és ellenérvek összecsapásából kirajzolódó jogi döntés, ahol a gépek nem fognak jól boldogulni.

A harmadik részben ezt a módszert, a chatbotok statisztikai szöveggenerálási módszerét összevetettük az emberi döntéssel, és számba vettük a kettő közötti különbségeket. A különbségek két nagy csoportját találtuk: egyrészt azt, hogy a gép nem rendelkezik szabad akarattal, másképp nem ágens, másrészt, hogy a nyelvhasználata nem ágyazódik be egy társadalmi gyakorlatba, hiszen egyáltalán nincs is hozzáférése a valósághoz, csak a valóság lenyomataihoz, az emberi szövegekhez van.

Mindezeknek a megfontolásoknak a birtokában most már feltehetjük a kérdést: hová engedjük be az LLM-eket? Az LLM-ek azt az ígéretet hordozzák, hogy a nem szigorúan szabályalapú, érvelésen és értékeken, a természetes nyelven alapuló morális döntések birodalmában is képesek elboldogulni. És éppen ide nem szabad őket beengedni. A jognak ez a része, amelyet jogászjognak hívtunk, csak látszólag a jogászok kizárólagos birodalma. Míg az ex ante jogi területeket célszerűségi megfontolások, szakmai szabályok és a kiszámíthatóság értéke uralja, amelyeket időnként egyes szakmák szabályaiként definiálnak, addig ez a jogászjog valójában nem a jogászoké, hanem bonyolult emberi viszonyok közt megtörtént, erkölcsileg átitatott cselekedetek utólagos megítéléséről szól. Ez valójában tehát az erkölcs birodalma, és azért van az, hogy itt ekkora jelentősége van a szabad akaratnak, a tekintélynek, a természetes nyelvhasználatnak, érvelésnek és indokolásnak. A külső, tárgyi világ bizonyos aspektusai esetén még jól is jöhet, hogy a gépek vigyáznak ránk, de a legbelsőbb és legemberibb viszonyaink közt csak kárt tehetnek. És nem is fogadnánk el a döntéseiket. Ebben a világban az adatvezérelt, statisztikai mintafelismerésen alapuló 'sztochasztikus papagájoknak' nincsen keresnivalójuk. Ebben a világban még a döntés-előkészítés területén is nagy veszélyeket hordoz magában, ha rájuk támaszkodunk, de döntéseket semmilyen körülmények közt nem hozhatnak. Egyelőre persze ez a veszély nem is fenyeget, az azonban annál reálisabb forgatókönyv, hogy a döntés-előkészítés fázisaiba ezek a rendszerek bekapcsolódnak. Nagyon fontos lenne tisztázni - akár egy chatbothasználati etikai kódex segítségével, hogy milyen célokra, milyen ügytípusokban, milyen munkafázisokban, milyen ellenőrző mechanizmusok beépítésével lehet ezeket a rendszereket használni. ■

JEGYZETEK

* A tanulmány a TKP2021-NKTA-51 számú projekt keretében készült, amely a Kulturális és Innovációs Minisztérium Nemzeti Kutatási Fejlesztési és Innovációs Alapból nyújtott támogatásával, a TKP2021-NKTA pályázati program finanszírozásában valósult meg.

[1] Az itt tárgyalt generatív előtanított transzformereken, vagy nagy nyelvi modelleken (Generative Pretrained Trensformers, Large Language Models) alapuló csevegőrobotokat összefoglalóan vagy LLM-nek (Large Language Model) vagy chatbotnak hívom. Bár a két fogalom (LLM és chatbot) nem ugyanazt jelenti - előbbi a 'megalapozó modell', míg a másik a ráépülő vagy downstream alkalmazást (downstream software) -, én ebben az írásban, a köznyelvi használathoz hasonlóan nagyjából felcserélhetőkként kezelem őket.

[2] Celeste Biever: ChatGPT broke the Turing test - the race is on for new ways to assess AI, Nature, 2023. július 25. www.nature.com [letöltve: 2025. 02. 28.]

[3] Daniel Martin Katz, Michael James Bommarito, Shang Gao, Pablo Arredondo: GPT-4 Passes the Bar Exam 2023. március 15. Philosophical Transactions of the Royal Societ, 2024. dx.doi.org/10.2139/ssrn.4389233 [letöltve: 2025. 02. 28.]

[4] Alexandr Khomich: The Healthcare Debate: Will AI Threaten Clinicians Or Be Their Ally? Forbes, 2024 március 26. www.forbes.com [letöltve: 2025. 02. 28.]

[5] Philip Haindl, Gerald Weinberger: Does ChatGPT Help Novice Programmers Write Better Code? Results From Static Code Analysis. IEEE access, 2024. augusztus 19. DOI: http://doi.org/10.1109/ACCESS.2024.3445432 [letöltve: 2025. 02. 28.]

[6] Steve Lohr: AI is coming for Lawyers, Again. The New York Times, 2023. április 10. www.nytimes.com [letöltve: 2025. 02. 28.]

[7] Jenna Greene: Will ChatGPT make lawyers oblsolete: (Hint: be afraid). Reuters, 2022. december 9. www.reuters.com [letöltve: 2025. 02. 28.]

[8] Dan Milmo: Two US lawyers fined for submitting fake court citations from ChatGPT. The Guardian, 2023. június 23. www.theguardian.com [letöltve: 2025. 02. 28.]

[9] Robin Emsley: ChatGPT: these are not hallucinations - they're fabrications and falsifications. Nature Schizophrenia 2023/9., Article number: 52. www.nature.com [letöltve: 2025. 02. 28.]

[10] Idézi Matt O'Brian: Chatbots sometimes make things up. Is AI's hallucination problem fixable? "It's inherent in the mismatch between the technology and the proposed use cases." AP News, 2023. augusztus 1. apnews.com [letöltve: 2025. 02. 28.]

[11] Yunfan Gao, Yun Xiong, Xinyu Gao, Kangxiang Jia, Jinliu Pan, Yuxi Bi, Yi Dai, Jiawei Sun, Meng Wang, Haofen Wang: Retrieval-Augmented Generation for Large Language Models: A Survey. ArXiv [letöltve: 2025. 02. 28.] https://doi.org/10.48550/arXiv.2312.10997, valamint Shailja Gupta, Rajesh Ranjan, Surya Narayan Singh: A Comprehensive Survey of Retrieval-Augmented Generation (RAG): Evolution, Current Landscape and Future Directions, ArXiv, https://doi.org/10.48550/arXiv.2410.12837 [letöltve: 2025. 02. 28.]

Specifikus kisebb doméneken is készültek elemzések a ChatGPT hallucinációs hajlamairól: pl. lásd az egészségügyi területen. Rui Yang, Yilin Ning, Emilia Keppo, Mingxuan Liu, Chuan Hong, Danielle S. Bitterman, Jasmine Chiat Ling Ong, Ting Daniel Shu Wei, Nan Liu: Retrieval-augmented generation for generative artificial intelligence in health care. npj Health Syst. 2/2025. https://www.nature.com/articles/s44401-024-00004-1 [letöltve: 2025. 02. 28.]

[12] Varun Magesh, Faiz Surani, Matthew Dahl, Mirac Suzgun, Christopher D Manning, Daniel E Ho, Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools ArXiv https://doi.org/10.48550/arXiv.2405.20362 [letöltve: 2025. 02. 28.]

[13] Lásd pl. Jenna Greene már idézett írását. (7. lj.)

[14] Nicola Jones: The AI revolution is running out of data. What can researchers do? Nature, 2024. december 11. www.nature.com [letöltve: 2025. 02. 28.]

[15] Tomas Mikolov, Kai Chen, Greg Corrado, Jeffrey Dean: Efficient Estimation of Word Representations in Vector Space. arXiv:1301.3781 [letöltve: 2025. 02. 28.]

[16] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Jones Llion, Aidan Gomez, Lukasz Kaiser, Illia Polosukhin: Attention is All you Need. Advances in Neural Information Processing Systems. arXiv:1706.03762 [letöltve: 2025. 02. 28.]

[17] Hopfield J. J.: Neural networks and physical systems with emergent collective computational abilities. Processes of the National Academy of Sciences of the U S A. 1982/4 2554-8. doi: http://doi.org/10.1073/pnas.79.8.2554. [letöltve: 2025. 02. 28.] Hopfield, a 2024-es fizikai Nobel-díj tulajdonosa ebben a cikkében fejtette ki először a számítógépes neurális hálók elméletét.

[18] Itt muszáj megjegyezni, hogy az automatizáció szót szokták egészen tág értelemben, lényegében a gépesítés szinonimájaként is használni. Lásd Pasquinelli, Matteo: The Eye of the Master, A Social History of Artificial Intelligence, New York - London, Verso, 2023. 6. Jelen tanulmányban ugyanakkor az automatizáció' és az 'MI-vel történő támogatás' kifejezések két különböző módszert (szabályalapú és adatalapú) jelölnek.

[19] Richard Susskind: Az ügyvédség vége. A jogi szolgáltatások természetének újragondolásáról. Budapest, CompLex, 2012.

[20] Leibniz fejtegetése a jogi axiómákról 1665-ös De Conditionibus c. munkájában található. Vö. Pol Boucher: Leibniz: What Kind of Legal Rationalism? In Marcelo Dascal (ed.): Leibniz: What Kind of Rationalist? Berlin, Springer. 2008. 231-249. o.

[21] Simon Deakin, Christopher Markou: From Rule of Law to Legal Singularity in Simon Deakin, Christopher Markou (szerk.): Is Law Computable. Critical Perspectives on Law and Artificial Intelligence. Oxford. London, New Delhi, Sydney, Hart, 2020.

[22] Lásd pl. Oliver Wendell Holmes: The Common Law, Cambridge, Mass, Harvard University Press and the Belknap Press, 2009 (első kiadás: 1881).

[23] Lásd pl. Eugen Ehrlich: Grundlegung des Soziologie des Rechts, Duncker und Hunblot, 2022 (első kiadás 1913).

[24] Vö. Ződi Zsolt: A számítógép és a jog interakciója - a kezdetek. A jurimetrics mozgalom Pro Publico Bono Online, Budapesti Corvinus Egyetem, 2011/1. Ződi Zsolt: Jogi adatbázisok és jogi forráskutatás, gépek a jogban. Budapest, Gondolat, 2012.

[25] Szó sem volt mozgalomról, de valahogy így vonult be a köztudatba. Lee Loevinger: Jurimetrics - The Next Step Forward. Minnesota Law Review. 33 (1949) 455. o.

[26] Az automatikus közlekedésiszabály-kikényszerítő rendszerek (automatic enforcement of traffic rules) az USA-ban és Európa egyes országaiban már a 90-es évektől használatban voltak. Sherry F. Colb: Stopping a Moving Target, Rutgers Race & the Law Review 2001/2., 191-222. o.

[27] Ilyen volt Kevin D. Ashley HYPO rendszere. Kevin D. Ashley: Modeling Legal Argument; Reasoning Cases and Hypotheticals. Cambridge Mass, London. MIT Press 1990.

[28] Philip Leith: The Rise and Fall of Legal Expert Systems, European Journal of Law and Technology, 2010/1. DOI: https://doi.org/10.1080/13600869.2016.1232465 [letöltve: 2025. 03. 02.]

[29] Pl. magyarul Ződi Zsolt: Még egyszer a ChatGPT-ről és a jogászokról, Arsboni 2023. március 6. arsboni.hu, [letöltve: 2025. 02. 28.] és Orbán Miklós: ChatGPT: Ideje félni a mesterséges intelligencia fenyegetésétől? Arsboni 2023. február 15. arsboni.hu

[30] Daniel Martin Katz, Michael James Bommarito, Shang Gao, Pablo Arredondo: GPT-4 Passes the Bar Exam 2023. március 25. 382 Philosophical Transactions of the Royal Society, DOI: http://doi.org/10.2139/ssrn.4389233 [letöltve: 2025. 02. 28.]. Homoki Péter-Ződi Zsolt: Large Language Models and Their Possible Uses in Law, Hungarian Journal of Legal Studies, 2024/3. DOI: https://doi.org/10.1556/2052.2023.00475 [letöltve: 2025. 02. 28.]

[31] Az ABA Journal már 2013 januárjában elkezdte publikálni az írásokat a ChatGPT-ről, a mai napig több mint 100 cikket közölt a témában. Pl. Debra Cassens Weiss: AI program earned passing bar exam scores on evidence and torts; can it work in court? ABA Journal, 2023. január 22. [letöltve: 2025. 02. 28.] www.abajournal.com

[32] "Any amount of relevant text fed through RAG to a machine will retain the original perplexity and entropy in the system to hallucinate independent of the text." Freedom Preetham: RAGs Do Not Reduce Hallucinations in LLMs - A Math Deep Dive, Medium 2024. február 26. [letöltve: 2025. 02. 28.]

[33] Az ex ante - ex post megkülönböztetés a 90-es évektől kezdve jelent meg a jogi irodalomban, de két különböző területen és jelentésben. A jogi és közgazdasági diskurzuson belül általában annak kapcsán kerül szóba, hogy meddig érdemes elmenni a gazdaság területén a 'megelőző' szabályozásban, amely folyamatos odafigyelési és alkalmazkodási kötelezettséget ró a gazdasági szereplőkre, illetve milyen előnyei és hátrányai vannak a prevenciónak, és hogyan egészíti ki egy jó szabályozási keverékben a felelősségi szabályokat. Lásd pl. Charles D. Kolstadt - Thomas S. Ulen - Gary V. Johnson: Ex Post Liability for Harm vs. Ex Ante Safety Regulation: Substitutes or Complements? The American Economic Review, 1990/4., 881-901. Másrészt a jogelmélet és a magánjog, lényegében az (általános) sztenderdek és a (konkrét) szabályok különbségét érti alatta, azt, hogy az adott jogi szabály tartalma pontosan ismert-e korábban (ex ante, részletes szabályok), vagy csak utólagos értelmezéssel lehet kibontani belőle (ex post sztenderdek). "Az egyetlen különbség a szabályok és a sztenderdek között az, hogy milyen mértékben tesznek erőfeszítéseket a törvény tartalmának megadására az egyének cselekvése előtt vagy után." Louis Kaplow: Rules Versus Standards: An Economic Analysis, Duke Law Journal 1992/3., 557-629. Ebben az írásban az ex ante - ex post kategóriákat az első értelemben használom.

[34] Pl. Health and Morals of Apprentices Act 1802, és Factory Act 1802, Nagy-Britanniában, majd a későbbi teljes munkajogi szabályozás.

[35] Securities Act of 1933 az USA-ban, majd a későbbi teljes befektetővédelmi szabályozás.

[36] The Consumer Bill of Rights of 1962 az USA-ban; valamint a Tanács 93/13/EGK irányelve (1993. április 5.) a fogyasztókkal kötött szerződésekben alkalmazott tisztességtelen feltételekről.

[37] A HSE ma már a globális 'védelmi' terület legfontosabb része. Lásd pl. Hans-W.Micklitz: International Regulation on Health, Safety, and the Environment - Trends and Challenges, Journal of Consumer Policy, 2000/1., 3-24.

[38] Ez a megkülönböztetés sokban követi Ronald Dworkin érvelését a szabályok és az alapelvek különbségéről. Ronald Dworkin: The Model of Rules, The University of Chicago Law Review, 1967/1., 14-46.

[39] Oreste Pollicino, Giovanni De Gregorio: Constitutional Law in the Algorithmic Society in Hans-W. Micklitz, Oreste Pollicino, Amnon Reichman, Andrea Simoncini, Giovanni Sartor, Giovanni De Gregorio (szerk.): Constitutional Challenges in the Algorithmic Society, Cambridge, Cambridge University Press. 2021. 3-24.

[40] Az Európai Parlament és a Tanács (EU) 2016/679 rendelete (2016. április 27.) a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról, valamint a 95/46/EK rendelet hatályon kívül helyezéséről (általános adatvédelmi rendelet, GDPR) 22. cikk - A kiterjedt szakirodalomból két frissebb írás: Klaus Wiedemann: Profiling and (automated) decision-making under the GDPR: A two-step approach, Computer Law & Security Review, 2022/július, 105662, DOI: https://doi.org/10.1016/j.clsr.2022.105662. [letöltve 2025. 03. 02.] és Diana Sancho: Automated Decision-Making under Article 22 GDPR: Towards a More Substantial Regime for Solely Automated Decision-Making. In: Martin Ebers, Susana Navas (szerk.): Algorithms and Law. Cambridge, Cambridge University Press; 2020. 136-156.

[41] Az Európai Parlament és a Tanács (EU) 2024/1689 rendelete (2024. június 13.) a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról, valamint a 300/2008/EK, a 167/2013/EU, a 168/2013/EU, az (EU) 2018/858, az (EU) 2018/1139 és az (EU) 2019/2144 rendelet, továbbá a 2014/90/EU, az (EU) 2016/797 és az (EU) 2020/1828 irányelv módosításáról (a mesterséges intelligenciáról szóló rendelet). A tiltott gyakorlatok magyarázatához: Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act); digital-strategy.ec.europa.eu

[42] Lásd Ashley (27. lj.).

[43] Lásd pl. Stephen Wolfram: What Is ChatGPT Doing ... and Why Does It Work?, Stephen Wolfram Writings, 2023. február 14. https://writings.stephenwolfram.com [letöltve 2025. 02. 28.]

[44] Emily M Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell: On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT, 21). Association for Computing Machinery, New York, NY, USA, 2021. 610-623. DOI: https://doi.org/10.1145/3442188.3445922.

[45] John L. Austin: Tetten ért szavak. Budapest, Akadémiai Kiadó, 1990.

[46] Stuart J. Russel - Peter Norvig: Mesterséges intelligencia modern megközelítésben, Budapest: Panem - Prentice Hall 2000.

[47] Bár meg kell jegyezni, hogy Hildebrandt 'adatvezérelt ágenseknek' nevezi a mesterséges intelligenciákat, Mirelle Hildebrandt: Law as Information in the Era of Data-Driven Agency. The Modern Law Review, 79: 1-30. DOI: https://doi.org/10.1111/1468-2230.12165 és Mirelle Hildebrandt, Kieron O'Hara: Introduction: Life and the Law in the Era of Data Driven Agency, in Mirelle Hildebrandt és Kieron O'Hara (szerk.): Life and the Law in the Era of Data Driven Agency, Chaltenham, Northampton, Camberley, Edgar Elgar, 2020.

[48] Nagyon hasonlóan érvel Hans Georg Gadamer: Igazság és módszer. Gondolat, Budapest, 1984.

[49] Hasonlóan érvel Szabó Miklós: Rendszeres jogelmélet, Miskolc Bíbor, 2015. 109.

[50] Wolfgang Fikentscher: Methoden des Rechts. J.C.B. Mohr (Paul Siebeck), Tübingen, 1975-1977, IV. kötet. 198. és Gadamer (48. lj.).

[51] Hildebrandt (47. lj.).

[52] Ez az állapot talán már nincs nagyon messze, a Chat GPT 4o rendszer pl. már jelenleg is képes fényképekről meglepően pontos leírásokat adni, és ezekkel a leírásokkal egy LLM rendszer már tud dolgozni.

[53] Leslie Green: Authority, 1998, doi:https://doi.org/10.4324/9780415249126-S004-1. Routledge Encyclopedia of Philosophy, Taylor and Francis, www.rep.routledge.com és lásd még Tom Christiano, 'Authority', The Stanford Encyclopedia of Philosophy 2024/őszi kiadás, Edward N Zalta., Uri Nodelman (szerk.), plato.stanford.edu [letöltve: 2025. 02. 28.]

[54] Neil Duxbury: The Nature and Authority of Precedent. Cambridge, Cambridge University Press, 2011; Raimo Siltala: A Theory of Precedent: From Analytical Positivism to a Post-Analytical Philosophy of Law. Oxford - Portland - Oregon, Hart, 2000.

[55] Vö. pl. Ződi Zsolt: A korábbi esetekre történő hivatkozások mintázatai a magyar bíróságok ítéleteiben. MTA Law Working Papers (2014).

[56] Yuval Noah Harari argues that AI has hacked the operating system of human civilisation, The Economist, 2023. április 28. www.economist.com [letöltve: 2025. 02. 28.]

[57] Gadamer ezt előismeretnek, vagy a megismerés előzetesség-struktúrájának nevezi. Gadamer, (48. lj.).

[58] Ludwig Wittgensein: Filozófiai vizsgálódások. Atlantisz, Budapest, 1998. 21.

[59] Michael Hanne, Robert Weisberg (szerk.): Narrative and metaphor in the law. Cambridfe Cambridge University Press. Lásd még Robert M. Cover: The Supreme Court, 1982 Term - Foreword: Nomos and Narrative Harvard Law Review, 1983/1., 4.

[60] George Lakoff, Mark Johnsen: Metaphors we live by. London, The university of Chicago Press. 2003.

[61] Herbert Hart metaforája, amelyet azonban Oliver Wendell Holmes-tól kölcsönzött. Henly Burr: "Penumbra": The Roots of a Legal Metaphor Hastings Constitutional Law Quarterly 81-100. 1987/1., 84., valamint Ződi Zsolt: A jog mint adat, mint narratíva és mint metafora. Magyar Jogi Nyelv, 2021/1., 9-18.

[62] Varga Csaba: A bírói ténymegállapítási folyamat természete. Budapest, Akadémiai Kiadó, 1992. 89.

[63] Ződi Zsolt: A korábbi esetekkel való érvelés a jogban. Iustum Aequum Salutare, 2017/2., 93-104. Lásd még Frederick Schauer: Precedent. Stanford Law Review, 1987/3., 571-605.