https://doi.org/10.32575/ppb.2026.1.4
A mesterséges intelligencia (MI) kifejezés napjainkra a technológiai fejlesztésen túlmutató, szélesebb jelentéstartalommal bír. Nemzetközi viszonylatban, kifejezetten pedig az Európai Unióban (EU) megfigyelhető az az általános tendencia, hogy egyre hangsúlyosabb az MI biztosította lehetőségek befogadása, amelyet a megbízható és innovációbarát MI fejlesztésének kettős célja határoz meg. Az EU az elmúlt években kiemelt figyelmet fordított az MI kutatására, szabályozására és gyakorlati alkalmazására azzal a törekvéssel, hogy globális éllovasává váljon az etikus, korszerű és biztonságos MI-nek. Tanulmányomban az MI-vel kapcsolatos stratégiák és szabályozási dokumentumok jelentősebb mérföldköveit kívánom a kutatásom tárgyává tenni. Ennek keretében azt vizsgálom meg, hogy a nemzetközi jog és az Európai Unió joga milyen eljárásjogi garanciákat biztosít, és a hazai közigazgatási hatósági eljárásjogi szabályozás mennyire illeszkedik ebbe rendszerbe: mely kockázatokra reagál jól, és melyek esetében nincs összhang.
Kulcsszavak: eljárásjogi garancia, jogorvoslathoz való jog, közigazgatási döntéshozatal, kockázatkezelés, mesterséges intelligencia
The term artificial intelligence now has a broader meaning that goes beyond technological development. Internationally, and specifically in the European Union, there is a general trend towards greater acceptance of the opportunities offered by AI, which is defined by the dual objectives
- 99/100 -
of developing reliable and innovation-friendly AI. In recent years, the EU has paid particular attention to AI research, regulation, and practical application with the aim of becoming a global leader in ethical, modern, and secure AI. In my study, I intend to focus on the most significant milestones in AI-related strategies and regulatory documents. In this context, I examine what procedural guarantees are provided by international law and European Union law, and to what extent domestic administrative procedural law fits into this system: which risks it responds to well and where there is a lack of consistency.
Keywords: procedural guarantees, right to legal remedy, administrative, decision-making, risk management, artificial intelligence
Az elmúlt időszakban a technológiai fejlődés példa nélküli ütemben hódította meg és formálta át mindennapi életünket.[1] A technológiai fejlődés egyik legjelentősebb hajtóereje a számítástechnika automatizálása, amely fokozatosan átveszi, kiegészíti, illetve támogatja az emberi munkát az ismétlődő és standardizálható feladatokban.[2] Napjainkban az automatizáció egyik legígéretesebb ágazata és az egyik legjelentősebb hatást gyakorló tényezők egyikeként kibontakozó jelenség a mesterséges intelligencia (MI), amely a hatékony, de tisztességes hatósági ügyintézés szabályozásába teljesen új színt hoz be. Ugyanakkor nem szabad megfeledkezni arról sem, hogy Alaptörvényünk XXVI. cikkének (1) bekezdésében tüntetik fel mind az új műszaki megoldások, mind a tudomány vívmányai alkalmazásának intézményvédelmi kötelezettségét, amely képes hozzájárulni az állam működésének hatékonyságához, a közszolgáltatások színvonalának emeléséhez, a közügyek átláthatóságának javításához, valamint az esélyegyenlőség előmozdításához. Az MI alkalmazása kétségkívül ebbe a kategóriába tartozik. Tehát az MI alkalmazása az állam működtetése során nem lehetőség, hanem kifejezett alkotmányos kötelezettség.[3]
A tanulmány a nemzetközi jogi és európai uniós joganyagra, illetve stratégiai dokumentumokra támaszkodik. Az egyes dokumentumokban és szakirodalmi forrásokban meghatározó szerepet töltenek be az emberi jogi és a közigazgatási döntéshozatal szempontjából meghatározó jelentőségű eljárásjogi garanciák. Ez a fajta megközelítés az MI-t nem pusztán technológiai innovációként azonosítja, hanem a jogállami berendezkedést, illetve az egyén jogi helyzetét befolyásoló eszközként határozza meg. További egységes jellemzője a felhasznált forrásanyagnak az MI-jelenség kockázatalapú megközelítése. Az MI döntéshozatali folyamatokban történő használata ugyanis közvetlenül érint olyan eljárásjogi vagy alapjogi garanciákat, mint
- 100/101 -
a tisztességes eljáráshoz való jog, a döntések átláthatósága, a jogorvoslathoz való jog, de megemlítendő az emberi méltósághoz való jog vagy akár a diszkriminációmentesség követelménye is.
Kutatásom során többféle módszertannal dolgozom. A mesterséges intelligenciára vonatkozó szabályozási dokumentumok és az azokba foglalt eljárásjogi alapelvek elemzése során elsődlegesen a jogdogmatikai módszertant követem, amelynek keretében a releváns jogforrások normatív tartalmának feltárására és rendszerezésére törekszem. Ezt kiegészítve, az egyes nemzetközi és uniós joganyagok, valamint a magyar közigazgatási hatósági eljárásjogi szabályozás közötti hasonlóságok és különbségek tanulmányozása során az összehasonlító módszertant alkalmazom, különös figyelemmel az eltérő szabályozási megoldások mögött meghúzódó elvi megfontolásokra és azok gyakorlati implikációira. A kutatás első részében az MI mint technológiai megoldás sajátosságainak elemzése és korlátainak beazonosítása során az interdiszciplináris megközelítést részesítem előnyben, ami a jogtudomány és az informatika határterületén elhelyezkedő szempontok integrálására épül. Ennek keretében a technológiai működés logikai és jogi értékelési szempontjainak összekapcsolásával törekszem a vizsgált jelenség komplex megragadására.
A tanulmány első felében a mesterséges intelligencia technológiai és működési sajátosságainak rövid elemzésével kívánom megteremteni azt az elméleti kiindulópontot, amely úgy gondolom elengedhetetlen egyrészt annak megértéséhez, hogy miért minősül az algoritmikus döntéshozatal kifejezetten kihívást jelentő és kockázatos, ugyanakkor nagy fokú innovációs fejlődést jelentő technológiai újításnak. Másrészt pedig, hogy miért indokolt az egyes emberi jogi és eljárásjogi garanciák biztosítása, illetve érvényesítésük elmaradása milyen következményekkel járhat. A következő szerkezeti egységekben pedig kifejezetten az egyes jelentősebb eljárásjogi garanciákat vetem vizsgálat alá az egyes, mérföldkőnek számító nemzetközi és uniós szabályozási dokumentumok és stratégiák alapján. Az elemzés során különös hangsúlyt fektetek a kockázatalapú megközelítésre, kifejezetten a közigazgatási döntéshozatal szempontjából releváns garanciális kérdésekre koncentrálva. Végezetül, a tanulmány záró fejezete az elvégzett elemzés főbb megállapításainak szintetizálására vállalkozik a jövőre irányulóan, aminek keretében egy de lege ferenda javaslatot is megfogalmaz.
A vizsgálat célja annak feltárása, hogy a nemzetközi és uniós MI-szabályozásban megjelenő eljárásjogi garanciák milyen mértékben érvényesülnek a magyar közigazgatási hatósági eljárásjogban, valamint mely területeken azonosíthatók szabályozási hiányosságok vagy eltérések.
A technológiák eddig csak megkönnyítették és meggyorsították a működést és a munkavégzést, de alapjaiban nem változtatták meg. Ennek a korszaknak a végét álláspontom szerint az MI térnyerése és alkalmazásának fokozódása hozta el. Az MI fokozatosan nyert teret
- 101/102 -
a tudományos életben és ért el jelentős eredményeket.[4] 2022 novemberében érkeztünk el egy fordulóponthoz az MI történetében, amikortól is a nagy nyelvi modellek számottevő változást hoztak az MI teljesítményében és a benne rejlő lehetőségekben. Ezek a modellek ugyanis hatalmas mennyiségű adatból képesek akár önállóan is tanulni, és képesek az emberhez hasonló minőségű következtetések levonására és szövegek generálására. Egy hagyományos számítógépes programot ugyanis úgy terveztek, hogy determinisztikusan működjön. A felhasználó így azt várja el a programtól, hogy mindenféle kreatív ötlet nélkül csakis azt a műveletet végezze el, amire utasítja és pontosan úgy, ahogy az utasítás szól. Az Mi-rendszerek azonban nem determinisztikusan működnek, mivel ezek a rendszerek a felhasználó által elvártnál kevésbé átlátható és megmagyarázható módon adnak válaszokat. Sok esetben még az MI szakértői és fejlesztői sem tudják pontosan megjósolni és teljes részletességgel megmagyarázni az MI viselkedését. Ugyanis az öntanuló szoftver olyan szabályokat is képes létrehozni és olyan tanulságokat képes levonni akár a hibás, akár a helyes döntésekből, amelyek eredetileg nem voltak az algoritmus részei.[5] Arra vonatkozóan azonban, hogy a bemeneti adatokból hogyan képezték le a kimeneti adatokat, nem tudnak átlátható és egzaktan értelmezhető magyarázatot adni.[6] Az MI ezen tulajdonsága jelentősen megnehezíti az ok-okozati összefüggések vizsgálatát, illetve magas kockázatot jelent az alapvető jogok érvényesülésére nézve is. A rendszerszintű átláthatóságnak ugyanis ki kell terjednie - többek között - az adatokra és az algoritmusokra vonatkozó olyan kérdésekre, mint például, hogy milyen információkat vesznek figyelembe a döntéshozatal során, hogyan választják ki az inputot és hogyan vezet annak értékelése a döntéshozatal eredményéhez.[7] Mindebből következően alkalmazzák a szakirodalmi források az MI-rendszer vonatkozásában, annak fekete dobozkénti azonosítását.
A fekete doboz jelleg alapvetően az MI eszköztárára vezethető vissza. Az MI ugyanis elsődlegesen gépi tanuló algoritmusokkal operál. Ezek az algoritmusok matematikai modellt építenek bemeneti, úgynevezett mintaadatok alapján, majd azokból kimenetet, lényegében előrejelzést adnak anélkül, hogy konkrétan beprogramozták volna őket.[8] Ezt prediktív analízisnek nevezik, amelynek során az algoritmus az adatokból önállóan tanulva valószínűsít egy jövőbeli magatartást vagy eseményt. A módszer mélytanuláson alapul, amelynél a mesterséges neurális hálózat bemeneti és kimeneti rétege mellett további rejtett rétegeket (úgynevezett mélyhálót) és gépi tanulási algoritmusokat alkalmaz, lehetővé téve összetett mintázatok és nemlineáris összefüggések felismerését.[9] A gépi tanulás transzformátorarchitektúrában működik, amely a bemenetet kimenetté alakítja több egymásra épülő feldolgozó
- 102/103 -
szinten keresztül. Ezek a szintek együtt dolgoznak azon, hogy a rendszer megértse a bemenet jelentését és megtalálja a legjobb választ. A transzformátorok egyik kulcseleme, hogy nem sorban olvassák a szöveget, hanem figyelembe veszik a szavak mondaton belüli helyét, és külön jelöléssel látják el azt, így nem kell minden szövegrészt lépésről lépésre feldolgozniuk. Emellett a rendszer nem minden szóra figyel egyformán, hanem kiválasztja a legfontosabbakat a teljes szöveg megértéséhez.[10]
A gépi tanuláshoz nagy mennyiségű, megbízható adatra van szükség, hogy az algoritmus hatékonyan felismerje a mintázatokat és következtetéseket vonhasson le.[11] Az MI kapacitása azonban korlátozott, ezért nem dolgozza fel a szöveget betűről betűre, hanem előbb kisebb egységekre, úgynevezett tokenekre bontja, amelyek lehetnek szavak, szóelemek, számok, írásjelek vagy speciális karakterek. A tokenizálás csökkenti a számítási igényt, miközben megőrzi a jelentést. A felhasznált adatokból az MI kódolt, számsor formájú reprezentációt készít, ezt nevezzük beágyazódásnak.[12] A rendszer teljesítménye azonban az adatok korlátaihoz is kötött, ugyanis egy-egy kérdés teljes körű megválaszolásához több forrásból kell információt gyűjteni, amit az MI csak akkor tud kezelni, ha nem kizárólag zárt adatbázisból dolgozik.[13]
Az MI megfelelő szabályozási keretrendszert igényel ahhoz, hogy célszerűen fejleszthető és alkalmazható lehessen, a szabályozatlanságból eredő kockázatok minimalizálásával, valamint a negatív hatások lehetséges elkerülésével. Mindennek biztosításához kifejezetten olyan szabályozási keretrendszer kialakítása szükséges, amely támogatja az innovációt, azonban mégis igyekszik elejét venni a társadalom és az egyén jogait és érdekeit jelentős mértékben csorbító alkalmazási módoknak. Jelen állás szerint az élet számos területén alkalmazzák az Ml-t, például javítja az egészségügyi ellátást,[14] előmozdítja a bűnüldöző hatóságok számára a bűnözés elleni hatékonyabb fellépést,[15] biztonságosabbá teszi a közlekedést,[16] de segíthet a kiberbiztonsági fenyegetések észlelésében is.[17] Mindezek ellenére mégis korunk egyik legnagyobb kihívását jelenti.[18] Ugyanis gyakran prognosztizálják, hogy amennyiben ezek az innovációk, új technológiák, megoldások alkalmazása szélesebb körben elterjedne, az veszélyekkel, illetve kockázatokkal járna, ideértve például az emberi kontroll elvesztését és a nem megfelelő technológiahasználatból eredő egyéb károkat, valamint az alapvető
- 103/104 -
emberi jogok és a tisztességes eljárás háttérbe szorítását.[19] Ahhoz azonban, hogy az MI értékes eszköz legyen az állami és vállalati szektor, valamint a polgárok számára, legitimitással kell rendelkeznie.[20]
A mesterséges intelligencia szabályozása több szinten is megjelenik. Érdemes ugyanakkor megjegyezni azt, hogy a jelenlegi nemzetközi környezetben továbbra is az államok maradnak a fő szabályzók, így az elsődleges szabályozás nemzeti szinten lelhető fel. Mindazonáltal kiemelt jelentősége van a különböző MI alkalmazással és fejlesztéssel kapcsolatos alapelveket és alapvető elvárásokat meghatározó nemzetközi és európai uniós szabályozási törekvéseknek is, amelyek a nemzeti szabályozásnak, valamint a technológiai nagyvállalatok önszabályozásának is keretet adnak.[21]
Az MI döntéshozatala során egy meghatározott döntésre jut, amely azonban nem foglal magában átlátható és egyértelmű indokolást arra vonatkozóan, hogy miért és milyen lépések által jutott a megadott következtetésre. Indokolás nélkül pedig a döntés nem igazolható, nem nyújt garanciát arra vonatkozóan, hogy nem önkényesen vagy külső befolyás nyomására született. Emellett az indokolás elmaradása a döntéssel szembeni jogorvoslathoz való jogot is kiüresíti, mivel a fél nem tudná megindokolni, hogy mely érvekkel és milyen okból nem ért egyet. Az MI döntéshozatali folyamatának lekövetése még a tervező programozók számára is akadályokba ütközhet, mivel az MI működési mechanizmusa nehezen vagy egyáltalán nem fejthető vissza, miután kikerült az emberi kezekből.[22] Az MI ezen tulajdonsága megnehezíti az ok-okozati összefüggések vizsgálatát, illetve magas kockázatot jelent az alapvető jogok érvényesülésére nézve is, hiszen a rendszer döntései nem teljesen visszakövethetők, így az érintett ügyfelek számára nehéz megérteni, hogy a döntést milyen adatok, logikai összefüggések vagy algoritmikus feltételek alapján hozták meg.[23] Például, gyakran nem lehet meghatározni, hogy egy MI-rendszer miért jutott egy adott eredményre, aminek következtében nehéz annak bizonyítása és értékelése is, hogy valakit igazságtalanul hozott hátrányos helyzetbe. A rendszerszintű átláthatóságnak és megismerhetőségnek ugyanis ki kell terjednie - többek között - az adatokra és az algoritmusokra vonatkozó olyan kérdésekre, mint például, hogy milyen információkat vesznek figyelembe a döntéshozatalban, hogyan választhatják ki az inputot, és hogyan vezet annak értékelése az adott döntési javaslathoz.[24] Amennyiben az MI döntése vagy az ahhoz vezető logikai folyamat nem ismerhető meg vagy értelmezhető emberi oldalról, azáltal a döntés legitimációja is jogosan kérdőjelezhető meg.
- 104/105 -
A közigazgatási hatóság indokolási kötelezettsége és az ügyfél magyarázathoz való joga alapvetően a tisztességes hatósági eljáráshoz való alapjog szerves részeként jelenik meg a hazai jogrendszeri szabályozásban, illetve az egyes nemzetközi és európai uniós egyezményekben. Magyarország Alaptörvénye a XXIV. cikk (1) bekezdésében kimondja, hogy "[a] hatóságok törvényben meghatározottak szerint kötelesek döntéseiket indokolni". Hasonlóképpen fogalmaz az Európai Unió Alapjogi Chartájának 41. cikke is a megfelelő ügyintézéshez való jog tekintetében. Az indokolási kötelezettségből következően biztosítani kell, hogy a döntéssel érintett személy magyarázatot kérhessen és kaphasson a döntés körülményeiről, a kiértékelést végző algoritmusról és az ennek során megtett lépéseiről, valamint a döntéshez felhasznált adatokról. Ehhez elválaszthatatlanul kapcsolódik a döntéssel érintett azon joga, miszerint a személyére vonatkozó iratokba - a bizalmas adatkezeléshez, illetőleg a szakmai és üzleti titokhoz fűződő jogos érdekek tiszteletben tartása mellett - betekinthessen.
A Gazdasági Együttműködési és Fejlesztési Szervezet (OECD), a Mesterséges Intelligencia Alapelvei című iránymutatásában[25] hangsúlyozza, hogy az MI-rendszerek általi döntéshozatal során a döntéssel érintett szereplőknek - a döntés körülményeihez és a technika időbeli állásához igazodva - értelmezhető és érdemi információt kell nyújtaniuk annak érdekében, hogy az érintettek tudatában legyenek annak, ha MI-vel lépnek kapcsolatba, illetve megértsék az Mi-rendszerek működését, ezáltal pedig képesek legyenek vitatni az MI általi ajánlásokat vagy döntéseket. Hasonló követelményeket állít fel az Egyesült Nemzetek Szervezetének (ENSZ) szakosított intézményeként az Egyesült Nemzetek Nevelésügyi, Tudományos és Kulturális Szervezete (UNESCO) által kiadott, Ajánlás a mesterséges intelligencia etikájáról című dokumentumában.[26] Eszerint a nagyobb átláthatóság hozzájárul a békésebb, igazságosabb, demokratikusabb és befogadóbb társadalmakhoz, ami pedig az MI-technológia legitimitásának megerősítéséhez vezető út legfontosabb sarokköve. Emellett az átláthatóság biztosítása lehetővé teszi a nyilvánosságnak az ellenőrzés jogosítványának a gyakorlását is, ami pedig csökkentheti, adott esetben kiküszöbölheti az Mi-technológia működésének visszásságait, ezáltal segítséget nyújt az emberi jogokra gyakorolt negatív hatások megelőzésében. Az átláthatóság ugyanis biztosítja a döntést befolyásoló tényezőknek, valamint a megfelelő biztosítékok (például biztonsági vagy méltányossági intézkedések) meglétének vagy hiányának a nyomonkövethetőségét. Az ENSZ, az Interim Report - Governing AI for Humanity című jelentésében[27] az átláthatóság követelményét globális kormányzási és legitimációs követelményként kezeli, ami annál fontosabb szerepet játszik, minél nagyobb az MI-rendszer társadalmi és jogi hatása. Az Európa Tanács keretegyezményében a Mesterséges Intelligenciáról, az Emberi jogokról, a Demokráciáról és a Jog Uralmáról (ET Egyezmény) már megjelenik a kockázatalapú megközelítés és a hatásvizsgálat fontossága is.[28] E körben megköveteli a részes felektől az egyértelmű iránymutatás kibocsátását az emberi jogok, a demokratikus működés, valamint a jog uralmának helyzetéről
- 105/106 -
és az ezekkel kapcsolatos károk és veszélyek elkerüléséről. Az átláthatóság követelménye a fentiek alapján tehát nem pusztán technikai, hanem garanciális eljárási és jogállami követelmény.
Az átláthatóság követelményére az Európai Unió sem pusztán technikai, hanem normatív kihívásként tekint. Ezt bizonyítja a mesterséges intelligencia magas szintű szakértői csoportja (Szervezet) által kidolgozott, az Etikai iránymutatások a megbízható mesterséges intelligenciáról című dokumentuma, amelyben a Szervezet az átlátható Ml-t egy normatív minimumként nevesíti. Ennek értelmében, amennyiben az MI-rendszer jelentősen érinti az emberek életét, lehetővé kell tenni, hogy az MI-rendszer döntéshozatali folyamatának kellő magyarázatát kérhessék az érintettek. A magyarázatot azonban kellő időben és az érdekelt fél jártasságának megfelelően (például laikus módon) kell megadni. Az Európai Bizottság Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése című, mérföldkőnek számító dokumentumában[29] az átlátható MI a bizalmi ökoszisztéma egyik kulcsfontosságú építőeleme, mégpedig arra alapozottan, hogy az átláthatóság hiánya megnehezíti az esetleges jogsértések azonosítását és bizonyítását, ideértve az alapvető jogok védelmével, a felelősség megállapításával és a kártérítés-igénylési feltételeknek való megfeleléssel kapcsolatos jogszabályi rendelkezéseket. Az emberközpontú, megbízható és alapjogkonform MI elterjedésének előmozdítása az Európai Unió 2024/1689/EU rendeletében (MI-rendelet), a világ első átfogó, kötelező erejű, horizontális szabályozásában is megjelenik, amely az MI fejlesztésére, forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó harmonizált szabályokat állapít meg az Unió területére. Az MI-rendszer által hozott döntések átláthatóságának és megmagyarázhatóságának érdekében az MI-rendelet előírja mind az általános célú, mind a nagy kockázatú MI-rendszerek vonatkozásában az egyes modellek kialakításának és tesztelésének részleteit, illetve olyan technikai dokumentációnak az elkészítését, amely tartalmazza az MI-modell funkcióját, korlátait, adatforrásait és értékelési eredményeit, mindezt olyan módon, hogy az összes érintett - az eljárásban betöltött pozíciójától függetlenül - képes legyen értelmezni a rendszer működését és annak hatásait. Ez különösen fontos az igazságügyi hatóságok által történő használatra szánt azon MI-rendszerek esetében, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. Mivel az így meghozott döntések jelentős hatással vannak a jogrend alapelveire, így kiemelt jelentősége van annak, hogy az igazságügyi hatóságok, illetve az MI döntésével érintettek képesek legyenek teljeskörűen és egyértelműen értelmezni az MI által adott kimenetet és annak jogszerűségét, vagy adott esetben annak megkérdőjelezését.
Az általános közigazgatási rendtartásról szóló 2016. évi CL. törvény (Ákr.) 81. § (1) bekezdése kifejezetten előírja a közigazgatási hatóság indokolási kötelezettségét a meghozott döntés vonatkozásában, amely egyben a hatósági eljárást jogerősen lezáró határozat kötelező tartalmi eleme is egyben. Ez az indokolási kötelezettség a hazai szabályozásban sem pusztán a döntéshozatal formai eleme, hanem a döntés jogszerűségének és a tisztességes eljárás garanciális elemét jelentő jogorvoslathoz való jog alapvető feltétele, ugyanis az indokolás alapján értelmezhető, hogy a döntéshozó hatóság az eljárása során milyen tényeket tárt fel, melyeket vette figyelembe és mellőzött döntésének kialakítása során, és mely jogszabályi rendelkezéseket
- 106/107 -
mentén döntött.[30] Ezáltal a döntés időben utóbb is ellenőrizhető lesz, valamint helyessége és jogszerűsége is ez alapján lesz elbírálható a bírósági felülvizsgálat keretében.[31]
Az átláthatóság követelményének érvényesüléséhez járul hozzá továbbá az Ákr. 33. §-ában szabályozott iratbetekintési jog is. Az iratbetekintéshez való jogot az Alkotmánybíróság egyrészt a fegyveregyenlőséghez való jog garanciájaként kezeli,[32] ugyanis ennek hiányában a nyilatkozattétel, az észrevételezés, illetve a bizonyítási indítványok megtételének a joga is kiüresedik.[33] Másrészt pedig az iratbetekintést ahhoz a követelményhez kapcsolódóan kezeli, hogy az ügyfél a jogait gyakorolni, kötelezettségeit teljesíteni tudja.[34] Következésképpen az iratbetekintés törvényben biztosított jogának a sérelme annyiban jelenti a tisztességes hatósági eljáráshoz való alapjog korlátozását, amennyiben az ügyfél nyilatkozattételhez és jogorvoslathoz való jogát csorbítja.[35]
Ugyanakkor, ha az Ákr. szerinti hatósági döntéshozatalt technológiai és algoritmikus kontextusban értelmezzük azt mondhatjuk, hogy azok teljes mértékben technológiasemlegesek. Így megválaszolatlan kérdésként merül fel - többek között -, hogy MI-rendszer esetén az hogyan tárja fel a tényállást, hogyan értékeli a bizonyítékokat, és mindezt hogyan teszi a döntéssel érintett személy számára érthetővé és átláthatóvá. Továbbá a döntéssel érintett személy hogyan fog tudni hozzáférni az algoritmus által, a döntés meghozatala során felhasznált és figyelembe vett adatokhoz és befolyásoló tényezőkhöz. Hiszen ebben az esetben nem beszélhetünk már papíralapú iratokról. Ha a fentebb meghatározott követelményeket az MI-rendszer nem teljesíti, akkor fennáll a lehetősége, hogy a döntés jogsértő lesz, amelyet utóbb a közigazgatási hatóság nem javíthat ki.[36] A fentiek alapján az az álláspontom, hogy az MI-alapú döntések esetén az ügyfél hatékony jogorvoslathoz való joga sérülhet, mert a jogorvoslati fórumként eljáró bíróság nem tudja elvégezni a döntés érdemi felülvizsgálatát, mivel azt maga sem tudja teljeskörűen értelmezni, majd rekonstruálni, hanem tipikusan hatályon kívül helyezi azt és új eljárásra kötelezi a hatóságot.
A döntéshozatalhoz vezető folyamatok megismerhetősége és a meghozott döntés indokainak átláthatatlansága okán felmerülhet a döntéshozó Mi-rendszerek pártatlanságának a kérdésköre is. Lényeges, hogy ilyenkor a megkülönböztetés nem feltétlenül szándékos emberi döntés következménye, hanem az algoritmus működésének mellékterméke. Ha például egy algoritmust olyan adatok alapján tanítottak be, amelyek maguk is tartalmaztak előítéletes vagy egyenlőtlenséget eredményező mintázatokat, akkor a modell ezeket újratermelheti a jövőbeni
- 107/108 -
döntéseiben.[37] Az MI elfogultsága az úgynevezett bizonytalansági elfogultság okán is tetten érhető, amely akkor merül fel, ha egy csoport alulreprezentált az MI rendelkezésére álló mintában, és mivel az algoritmus kerüli a bizonytalanságot és az abból eredő kockázatokat, ezért inkább olyan döntést hoz az előrejelzések alapján, amelyben biztosabb. A gyakorlatban ez azt jelenti, hogy a prediktív algoritmusok előnyben részesítik azokat a csoportokat, amelyek jobban képviseltetik magukat.[38]
A diszkrimináció tilalma és az egyenlő bánásmód követelménye szintén a tisztességes hatósági eljáráshoz való alapjog szerves részeként jelenik meg mind a hazai jogrendszeri szabályozásban, mind az egyes nemzetközi és európai uniós egyezményekben. Magyarország Alaptörvénye a XV. cikk (1) és (2) bekezdésében kimondja, hogy "[a] törvény előtt mindenki egyenlő", illetve "Magyarország az alapvető jogokat mindenkinek bármely megkülönböztetés, nevezetesen faj, szín, nem, fogyatékosság, nyelv, vallás, politikai vagy más vélemény, nemzeti vagy társadalmi származás, vagyoni, születési vagy egyéb helyzet szerinti különbségtétel nélkül biztosítja". Ezzel megegyezően az egyes emberi jogi egyezmények, mint az Emberi Jogok Egyetemes Nyilatkozata vagy az Emberi Jogok Európai Egyezménye, továbbá az Európai Unió Alapjogi Chartája hasonlóképpen tiltanak mindenfajta diszkriminációt, határozottan kimondva, hogy senkit nem érhet hátrány pusztán valamely védett tulajdonsága miatt.[39]
Az OECD az emberközpontú értékek védelmének érdekében szintén rögzíti, hogy az Mi-szereplőknek biztosítaniuk kell, hogy az általuk használt Mi-rendszerek tiszteletben tartsák az emberi jogokat és a demokratikus értékeket, ideértve különösen az egyenlőséget, a megkülönböztetésmentességet, illetve a társadalmi igazságosságot és méltányosságot. Ennek érdekében az Mi-szereplőknek kifejezetten törekedniük kell arra, hogy az Mi-rendszereik ne erősítsék fel a meglévő társadalmi egyenlőtlenségeket. Ezen kockázatok elkerülése érdekében ösztönzi az OECD az MI-rendszerek vonatkozásában a hatásvizsgálatot, kifejezetten az egyenlőség és diszkrimináció szempontjából, továbbá a társadalmi csoportok bevonását az Mi-rendszerek értékelésébe. Tehát az egyenlő bánásmód kívánalma sem pusztán formális, hanem a szubsztantív egyenlőség elérését célozza. Az UNESCO is kiemelt hangsúlyt helyez arra, hogy az Mi-szereplőknek minden észszerű erőfeszítést meg kell tenniük annak érdekében, hogy az Mi-rendszerek méltányosságának biztosítása érdekében minimalizálják és elkerüljék a diszkriminatív működés megerősítését vagy állandósítását a rendszerek teljes életciklusa során. Az ENSZ a diszkrimináció valós veszélyének megelőzésére az inkluzivitás fontosságát is hangsúlyozza. Eszerint az Ml-t olyan módon kell használni, hogy mindenki számára hozzáférhető és hasznos legyen. Ez magában foglalja az érintettek széles körű bevonását az MI fejlesztésébe és használatába, legyen szó fejlett vagy kevésbé fejlett országokról, vagy valamely hátrányos helyzetű, marginalizált társadalmi csoportokról. Ebben az értelemben a diszkriminációval szembeni védelem a globális igazságosság garanciális normatív irányelve is egyben. Az Európa Tanács szintén az aktív állami fellépést szorgalmazza az MI-rendszerek
- 108/109 -
által megvalósított strukturális és egyéb torzulások korrigálására és megelőzésére. Az ET-egyezmény egyik sajátossága, hogy a diszkriminációtilalmat nemcsak az MI alkalmazásának a pillanatához köti, hanem - többek között - a modellképzéshez, az adatgyűjtéshez, a teszteléshez vagy akár az utólagos hatásvizsgálathoz is.
Az Európai Unió az MI-szabályozásában az egyenlőség és diszkrimináció kérdését etikai elvből stratégiai kockázattá, majd kötelező jogi normává fejlesztette. A Mesterséges Intelligencia Magas Szintű Szakértői Csoportja például a megbízható mesterséges intelligencia egyik önálló etikai alapelveként tekint a sokszínűségre és a megkülönböztetésmentességre. Tehát az egyenlőség nem pusztán az egyenlő bánásmódot jelenti a Szervezet felfogásában, hanem a méltányosságot is. Ez pedig aktív kötelezettséget jelent például annak biztosításához, hogy életkortól, nemtől, képességektől vagy tulajdonságoktól függetlenül lehetőség legyen mindenki számára az MI-termékek és szolgálatások igénybevételére. Ennek során pedig az MI-rendszerek nem alkalmazhatnak egyetlen megközelítést mindenkivel szemben, hanem a felhasználók lehető legszélesebb körét megcélzó egyetemes tervezési elvek alkalmazását kell előirányozni, a releváns hozzáférhetőségi szabványok betartásával. Az Európai Bizottság megközelítése szerint a megkülönböztetés kockázata eredhet az MI-rendszerek általános tervezési hibáiból vagy az esetlegesen elfogult adatok kijavítás nélküli felhasználásából, például azáltal, hogy a rendszer tanítása csak vagy főként egy konkrét forrásból származó adatok felhasználásával történik. Egyértelműsíti továbbá a Bizottság, hogy az elfogultság és a megkülönböztetés minden társadalmi vagy gazdasági tevékenység velejáró kockázata, tehát az emberi döntéshozatal sem mentes a hibáktól és az elfogultságtól. Az MI-ben jelen lévő, ugyanilyen elfogultság azonban sokkal nagyobb hatást fejthet ki. Éppen ezért a Bizottság a diszkrimináció kezelését nem utólagos jogorvoslat keretében látja a leghatékonyabban biztosíthatónak, hanem egy előzetes szabályozási feladatként azonosítja. Az MI-rendszereknek ezt, a kötelező szabályokkal történő keretbe foglalását teremtette meg rendszerszinten az MI-rendelet. Az MI-rendelet ugyanis kifejezetten tiltja az olyan MI-alkalmazásokat, amelyek strukturálisan hátrányos bánásmódot eredményeznek egyénekkel vagy csoportokkal szemben, fenyegetik az alapvető jogokat és a méltányosságot, illetve indirekt módon diszkriminálnak. Ebbe a tiltott kategóriába sorolja például azokat az MI-rendszereket, amelyek a természetes személyeket vagy azok csoportjait hosszabb időszakokon keresztül, különböző kontextusokban tanúsított magatartásuk, illetve ismert, kikövetkeztetett vagy előre jelzett személyes jellemzőik és személyiségjegyeik alapján értékelik (pontozzák) vagy kategorizálják. Különösen, ha ezáltal a cél a természetes személyek által elkövethető bűncselekmények valószínűségének a megállapítása vagy előrejelzése. Hasonló alapjogi aggályok merülnek fel a valós idejű távoli biometrikus azonosítás alkalmazása esetében, így különösen az arcfelismerő rendszerek nyilvános helyeken történő használatával összefüggésben. Ezáltal a technológia lehetővé teszi a tömeges megfigyelést, amely az állandó megfigyeltség érzetének kialakulásához vezethet, és ezáltal közvetetten visszatarthatja az egyéneket alapvető jogaik, különösen a gyülekezési szabadság gyakorlásától. Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes magán- és közszolgáltatások és ellátások igénybevétele és elérhetősége, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javíthassák az életszínvonalukat. Itt különösen érintettek azon természetes személyek, akik alapvető állami alapellátásokért és
- 109/110 -
szolgáltatásokért folyamodnak a hatóságokhoz. Ők jellemzően kiszolgáltatott helyzetben vannak a hatóságokkal szemben. Ha pedig ezek a hatóságok MI-rendszerek igénybevételével döntik el, hogy megadják, megtagadják, csökkentsék vagy visszavonják az igényelt ellátásokat, azáltal jelentős befolyást gyakorolhatnak a személyek megélhetésére. De ugyanez a helyzet a természetes személy hitelképességének értékelésére szánt Mi-rendszerek esetében is. Ezért a forgalomba hozott vagy más módon üzembe helyezett nagy kockázatú Mi-rendszerekből eredő bizonytalanságok enyhítése érdekében az MI-rendelet bizonyos követelményeket támaszt a szolgáltatókkal szemben. Ezek közül az egyik legfontosabb, hogy a tanító adatok sokszínűek legyenek, és ne tartalmazzanak strukturális torzításokat, amelyek indokolatlan hátrányt okozhatnak bizonyos csoportoknak. További fontos követelmény, hogy a forgalomba hozatal és a használat megkezdését megelőzően fel kell mérni a lehetséges hátrányos hatásokat és azokat dokumentálni kell, amelyek ezáltal a későbbiekben felülvizsgálhatók.
Az Ákr. 2. § (2) bekezdésének b) pontjában úgy rendelkezik, hogy "[a] hatóság a hatásköre gyakorlása során - többek között - a törvény előtti egyenlőség és az egyenlő bánásmód követelményét megtartva, indokolatlan megkülönböztetés és részrehajlás nélkül jár el". Tehát a hatósági eljárás minden szakaszában a közigazgatási hatóságnak minden ügyfélt egyenlő bánásmódban és elbírálásban kell részesítenie, függetlenül személyes jellemzőitől. Például, ha egy személyt életkora vagy neme miatt súlyosabban vagy kedvezőtlenebbül érint a döntés, vagy ezek a szempontok az adott ügy tárgyához egyáltalán nem kapcsolódnak, mégis figyelembe veszik azokat, aminek következtében a döntéssel érintett személy hátrányosabb helyzetbe kerül, mintha ezekre a - nem releváns - szempontokra nem lett volna a hatóság tekintettel. Ebből következően tehát a hatóságnak semleges, objektív, kifejezetten az ügy tekintetében releváns tények és feltételek alapján kell meghoznia döntéseit, mégpedig úgy, hogy az azonos tényállású eseteket azonos vagy hasonló módon bírálják el. Tehát az Ákr. nem tartalmaz részletes anyagi jogi vagy eljárásjogi szabályokat az egyenlő bánásmód megsértésének eseteire vagy jogkövetkezményeinek vonatkozásában, hanem alapelvi szinten rögzíti a törvény előtti egyenlőség és az egyenlő bánásmód követelményét. Az egyenlő bánásmódról és az esélyegyenlőség előmozdításáról szóló 2003. évi CXXV. törvény (Ebktv.) ezzel szemben részletesen meghatározza a hátrányos megkülönböztetés fogalmát, formáit, a védett tulajdonságok körét, valamint a jogsértés megállapításának és bizonyításának speciális szabályait. Az Ebktv. személyi és tárgyi hatálya kiterjed a közhatalmat gyakorló szervekre, így a közigazgatási hatóságokra is.[40] Ennek következtében álláspontom szerint az Ebktv. rendelkezései nem csupán önálló, elkülönült jogérvényesítési eljárásokban alkalmazhatók, hanem irányadók az Ákr. alapján lefolytatott hatósági eljárások során is. A két törvényi szintű jogszabály tehát egymást kiegészítve képes a gyakorlatban biztosítani azt, hogy az ügyfél a hatóság eljárásával szemben igénybe vehető jogorvoslatok keretében hivatkozhasson arra, önálló jogsértési jogcímként, hogy a hatóság eljárása során vagy kifejezetten a döntésében az Ebktv. által tiltott hátrányos megkülönböztetést valósított meg. Figyelemmel kell lenni ugyanakkor az Alkotmánybíróság gyakorlatára
- 110/111 -
is, amely szerint annak ellenére, hogy a diszkrimináció tilalma és az általános egyenlőségi szabály önálló alkotmányos alapjognak minősül, viszont önmagában, absztrakt módon nem alkalmazandó. Érvényesülése ugyanis mindig konkrét jogviszonyhoz kötött, amely hárompólusú szerkezetet feltételez: egyrészt az érintett személyt, másrészt az összehasonlítási alapul szolgáló másik személyt vagy személyek csoportját, harmadrészt pedig azt a jogszabályi rendelkezést vagy egyedi intézkedést, amely a különbségtételt megvalósítja. Ennek megfelelően az egyenlőségi követelményből fakadó alkotmányos elvárások csak valamely, jogszabály által biztosított jog vagy előírt kötelezettség, illetve egyedi hatósági vagy bírósági döntés összefüggésében értelmezhetők.[41]
Ugyanakkor álláspontom szerint a legnagyobb problémát az okozza az algoritmus igénybevételével meghozott döntés vonatkozásában, hogy egyrészről a diszkrimináció rejtetten is képes megvalósulni azáltal, hogy az érintettek nem rendelkeznek tudomással arról, hogy egy algoritmus hozott elutasító döntést például az álláspályázatuk vonatkozásában, vagy emiatt adtak nekik hátrányosabb feltételekkel hitelt. A fenti példák az MI-rendelet alapján tipikusan magas kockázatú rendszerek körébe sorolhatók, amelyek esetében fokozott átláthatósági és emberi felügyeleti követelmények érvényesülnek. Álláspontom szerint a fenti esetkörökben megvalósuló MI-alapú döntéshozatal esetében a pusztán formális tájékoztatás nem elegendő. Ehelyett olyan többszintű tájékoztatási rendszer kialakítása indokolt, amely nemcsak biztosítja, hogy az érintett tudomást szerezzen az automatizált döntéshozatal tényéről, hanem lehetővé teszi a döntés alapjául szolgáló főbb szempontok és logikai összefüggések megértését, és ténylegesen támogatja a jogorvoslathoz való jog gyakorlását. Ugyanis a tisztességes hatósági eljáráshoz való jogból eredő elengedhetetlen követelmény, hogy a döntéssel érintett hozzáférjen a döntést befolyásoló releváns információkhoz, és lehetősége legyen a döntés érdemi felülvizsgálatát kezdeményezni. Másrészt, ha tudnak is róla, nehéz bizonyítani a megkülönböztetés okát, mivel - mint korábban szó volt róla - az algoritmus működése átláthatatlan és értelmezhetetlen egy, az algoritmikus működés szempontjából laikus személy számára. Ebből eredően az őt ért hátrányt sem fogja tudni teljes mértékben és megalapozottan bizonyítani, de akár feltárni sem. Ha mégis sikerrel járna az igényérvényesítés, felmerül a kérdés, hogy mégis kit lehetne felelősségre vonni: a szoftver fejlesztőjét, az üzemeltetőt, az adatot szolgáltatót? Ezekre a dilemmákra a jogrendszerek jelenleg keresik a választ. Azonban alapvető elvárás olyan szabályozási keret kialakítása, amelyben van konkrét felelőse a jogsértő algoritmikus döntésnek, és van lehetőség az általa okozott sérelem orvoslására is.[42] Úgy gondolom, hogy ezáltal a dilemma által ismételten visszakanyarodtunk a jogorvoslathoz való jog érvényesíthetőségének a potenciális sérüléséhez. Ugyanis azáltal, hogy az ügyfél - a személyén kívül álló, általa nem orvosolható ok miatt - nem tud az őt ért jogsérelemmel szemben fellépni, vagy adott esetben nem is tud arról, hogy sérelem érte, kikerülhető az MI alkalmazását övező egyik legfontosabb követelmény, mégpedig az egyenlő emberi jogok biztosítása, amely minden modern jogrendszer sarokköve, és elvárható, hogy ez az algoritmusok korában is érvényesüljön.
- 111/112 -
Minden jogállam alapelve, hogy ha jogsérelem ér valakit, akkor biztosítva legyen számára a hatékony jogorvoslat, amely egyben az egyik garanciális eleme a tisztességes hatósági eljárás követelményének is. Az MI-alapú döntéshozatal esetén a jogorvoslat érvényesülése számos kihívással szembesül, különösen akkor, ha az MI-rendszer által meghozott döntés nem tartalmaz átlátható és egyértelmű indokolást arra vonatkozóan, hogy a rendszer milyen lépések és milyen logikai összefüggések mentén jutott az adott következtetésre. Megalapozott indokolás hiányában a döntés pedig nem lesz igazolható, és nem nyújt megfelelő garanciát arra nézve sem, hogy az nem önkényesen, vagy adott esetben nem külső befolyás hatására született. Az indokolási kötelezettség elmaradása így egyúttal kiüresíti a döntéssel szembeni jogorvoslathoz való jog érdemi gyakorlását is, mivel a döntéssel érintett fél számára ellehetetleníti annak megjelölését, hogy a döntés mely elemeit vitatja, és pontosan milyen jogi vagy ténybeli okokból. Ennek hiányában nem csupán a döntés indokoltsága marad tisztázatlan, hanem az is, hogy az érintettet érte-e igazságtalan vagy indokolatlan hátrány.[43] Így úgy gondolom, hogy jogosan merül fel az a félelem, hogy az MI működési mechanizmusa fokozatosan eltávolodhat az eredeti emberi logikától, és a betáplált adatok vagy az azokból tanult statisztikai és logikai összefüggések olyan sajátos belső korrelációkat alakíthatnak ki, amelyek visszafejtése nehézségekbe ütközik, vagy egyáltalán nem lehetséges, és adott esetben a döntéssel érintett személy jogérvényesítését korlátozza vagy lehetetleníti el.[44] Ugyanis, ha a fél nem élhet a védekezését biztosító eljárási eszközökkel, az kiüresítheti a jogorvoslathoz való jogát.[45] Mindezek alapján az MI által támogatott döntéshozatallal szembeni jogorvoslathoz való jog tényleges érvényesülése elképzelhetetlen megfelelő emberi felügyelet nélkül. Fontos azonban, hogy az emberi felügyelet ne pusztán technikai ellenőrzést jelentsen, hanem olyan jogi és intézményi garanciát, amely lehetővé teszi a döntések értelmezését, indokolását, felülvizsgálatát és - szükség esetén - korrekcióját.[46]
Magyarország Alaptörvénye a XXVIII. cikk (1) és (7) bekezdéseiben kimondja, hogy "[m]indenkinek joga van ahhoz, hogy jogorvoslattal éljen az olyan bírósági, hatósági és más közigazgatási döntés ellen, amely a jogát vagy jogos érdekét sérti", az igényérvényesítés ezen formáját pedig törvény által felállított, független és pártatlan bíróság tisztességes és nyilvános tárgyaláson, észszerű határidőn belül bírálja el. Hasonló követelményeket állítanak fel az egyes nemzetközi és európai uniós emberi jogi alapdokumentumok is.[47] Azonban az MI döntéshozatali alkalmazása - ahogy a megelőző részekben is bemutattuk - egy teljesen új dimenzióba helyezi ezen jog gyakorlását. Az OECD MI-re irányuló alapelveinek egyik központi eleme az az elszámoltathatóság, miszerint az MI-rendszerek alkalmazásáért mindig pontosan beazonosítható emberi vagy intézményi szereplőknek kell felelősséget viselniük, függetlenül
- 112/113 -
attól, hogy a döntés technikailag milyen mértékben automatizált. Ez a megközelítés kizárja azt, hogy az MI-rendszer "önálló döntéshozóként" jelenjen meg a jogrendben. Továbbá biztosítja, hogy a döntések jogszerűségéért végső soron emberi döntéshozó felel, tehát a döntések nem válhatnak véglegessé emberi kontroll nélkül. Az UNESCO ajánlásában szintén úgy fogalmaz, hogy az etikai és jogi felelősséget az MI-rendszerek életciklusának minden szakaszában, valamint az MI-rendszerekkel kapcsolatos jogorvoslati ügyekben mindig fizikai személyekhez vagy meglévő jogi személyekhez kell rendelni. Abban az esetben, ha hatékonysági megfontolásból használnak MI-rendszereket a döntéshozatalhoz, vagy - korlátozott körülmények között - át is adják az irányítást azoknak, fontos, hogy továbbra is az emberek hozzák meg a végső döntést, mivel egy MI-rendszer soha nem helyettesítheti a végső emberi felelősséget és elszámoltathatóságot.
Az Európai Unió joga ugyancsak kiemelt hangsúlyt helyez arra, hogy az MI-rendszereknek támogatniuk kell az emberi autonómiát és döntéshozatalt. Ehhez az szükséges, hogy az MI-rendszerek az emberi cselekvőképesség támogatása és az emberi jogok érvényesülésének elősegítése révén biztosítsák az emberi felügyeletet. Illetve, ha az MI-rendszerek méltánytalan vagy az alapjogok érvényesítésére negatív hatást fejtenének ki, gondoskodni kell olyan mechanizmusokról, amelyek lehetőséget biztosítanak a megfelelő jogorvoslatra. Ez ugyanis lehetőséget biztosít arra, hogy egy adott helyzetben ne használjanak MI-alapú technológiát, vagy bizonyos döntési szintek esetében megállapíthassák, hogy az kifejezett emberi döntést igényel, és az MI által már meghozott döntés felülbírálható lehessen.[48] A Fehér könyv szintén úgy fogalmaz, hogy az emberi felügyelet hozzájárul annak biztosításához, hogy az MI-rendszerek ne ássák alá az emberi autonómiát. Az emberi felügyelet típusa és mértéke természetesen esetről esetre változhat, például szociális ellátások iránti kérelem vonatkozásában mielőtt az MI általi döntés kifejthetné hatásait és jogkövetkezményeit, azt minden esetben meg kell hogy előzze egy ember előzetes felülvizsgálata. Vagy például az önvezető autók működtetése esetében folyamatosnak kell lennie a felügyeletnek, lehetőséget adva ezáltal a valós idejű beavatkozásra és a rendszer kikapcsolására. Az MI-rendelet pedig már kifejezetten rögzíti az emberi felügyelet követelményét, különösen a magas kockázatú MI-rendszerek esetében, amelynek arányosnak kell lennie az adott MI-rendszer kockázataival és használatával. Az MI-rendszert tehát úgy kell megtervezni, hogy az emberi felügyelő megértse a rendszer képességeit és korlátait, képes legyen értelmezni a kimeneteket, és az abból eredő esetleges problémákat észlelni és kezelni tudja, illetve adott esetben meg tudja tagadni a rendszer használatát, vagy le tudja állítani a működését.
Az Ákr. 5. § (2) bekezdése kifejezetten rögzíti, hogy a hatóság biztosítja az ügyfelek és más eljárási résztvevők számára, hogy jogaikat és kötelezettségeiket megismerhessék, és előmozdítja az ügyféli jogok gyakorlását az eljárás minden szakaszában. Ez az eljárás résztvevői számára biztosított olyan eljárási garancia, amely lehetővé teszi, hogy az érintettek - ideértve implicite azokat is, akik MI-támogatású döntéssel szembesülnek - megértsék a hatósági aktusokat, így tudatosan élhessenek jogorvoslati jogaikkal. Bár, ahogyan arról korábban is volt szó, az Ákr. technológiasemleges jellege okán nem tartalmaz kifejezett rendelkezéseket a technológia és
- 113/114 -
ezáltal az MI és annak emberi felügyelete vonatkozásában sem. Ugyanakkor egyértelműen kiolvasható a rendelkezésekből, hogy minden hatósági döntés mögött emberi szereplőnek kell állnia, aki értékeli az eljárás vonatkozásában felmerült bizonyítékokat, megállapítja a tényállást, és meghozza vagy adott esetben jóváhagyja a jogvita végső eldöntését. Tehát egyes technológiai megoldások és eszközök nem helyettesíthetik teljes egészében az emberi döntéshozatalt, hanem csak kiegészíthetik azt, ugyanis a végső döntési kompetencia továbbra is a hatósági döntéshozót kell hogy megillesse, terhelhesse. Az Ákr. továbbá a másodfokú hatósági jogorvoslat biztosítása mellett a közigazgatási perrendtartásról szóló 2017. évi I. törvény (Kp.) révén a bírói felülvizsgálatot is lehetővé teszi, kifejezetten a hatósági döntések jogszerűségének vizsgálatára.
Az Ákr. szabályrendszere tekintetében szükségét látom röviden kitérni az automatikus döntéshozatal jogintézményére is. Az automatikus döntéshozatal lényege, hogy a döntési folyamatban - konkrét feltételek megléte esetén - az emberi mérlegelés szerepe minimálisra csökken, vagy adott esetben teljesen hiányzik, és a döntés meghozatala algoritmikus szabályok, statisztikai modellek vagy tanuló rendszerek alapján történik.[49] Ez az eljárási struktúra viszont némi feszültségben áll az Ákr.-nek azon említett követelményével, amely szerint a hatósági döntés emberi mérlegelés eredménye. A jogorvoslathoz való jog tartalmi értelemben feltételezi, hogy az érintett megismerje a döntés alapjául szolgáló indokokat, megértse és átlássa, hogy milyen tények és mérlegelési szempontok vezettek az adott eredményre, és képes legyen azonosítani az esetleges jogsértéseket vagy hibás következtetéseket. Ha a döntés kizárólag algoritmikus logika alapján születik, akkor ezek a feltételek gyakran nem tudnak teljeskörűen teljesülni. Természetesen vannak tipikusan olyan kérdések, amelyek nem igényelnek emberi mérlegelést, mivel olyan vitathatatlan tények alapján dönthetők el, mint például egy adott életkor betöltése vagy egy meghatározott végzettség, képesítés megléte.[50] Összességében az emberi felügyelet célja nem az automatizáció teljes kizárására irányul, hanem annak biztosítására, hogy az automatizált döntések ne váljanak véglegessé emberi kontroll nélkül, a döntéssel érintettek számára legyen lehetőség emberi döntéshozóhoz fordulni, és a döntések szükség esetén érdemben felülvizsgálhatók és korrigálhatók legyenek.
A mesterséges intelligencia szabályozásának áttekintése alapján megállapítható, hogy globális és regionális szinten jelenleg egy többszintű, fragmentált, ugyanakkor értékalapú konvergenciát mutató szabályozási tevékenység zajlik. A fentebb vizsgált jogi és stratégiai dokumentumok közös vonása, hogy az MI fejlesztését és alkalmazását kifejezetten emberi jogi és jogállami keretbe helyezik. Ez arra utal, hogy az MI nemzetközi és uniós szabályozása - bár formálisan gyakran soft law jellegű eszközökben ölt testet - egyre inkább olyan
- 114/115 -
normatív minimumot és standardokat rögzít, amelyek meghatározó módon befolyásolják a nemzeti és regionális szabályozások irányát, tartalmát és módszertanát egyaránt.[51]
Az emberi jogokra összpontosító megközelítés egyik kulcsfontosságú előnye ezen normák univerzális, széles körű elismertsége és legitimációja. A 21. századra az emberi jogok a nemzetközi közösség sarokkövévé váltak, amit a területen megkötött több száz többoldalú nemzetközi szerződés, a regionális szervezetek (többek között például az Európa Tanács vagy az Európai Unió), valamint az univerzális szintű intézmények (többek között például az ENSZ vagy az Emberi Jogi Tanács) is jeleznek. Továbbá, az emberijogi-alapú megközelítés olyan jogállami környezetet teremt, amelyben a kormányzati döntéseknek összhangban kell lenniük a vállalt nemzetközi kötelezettségekkel és azok hazai leképződésével, ezáltal gátolva és büntetve a jogsértéseket. Röviden összefoglalva tehát megállapítható, hogy az emberi jogi alapú megközelítés többféle célt szolgálhat, mint például a szabályozás emberközpontúvá tételét a döntéshozatal során, de lefedi azokat az anyagi és eljárási kérdéseket is, amelyekkel a megjelenő MI-technológiák szembesülnek, de további előnye, hogy a nemzetközi közösség többsége által elfogadott struktúrára épít.[52]
A fenti elemzés alapján megállapítható, hogy az Ákr. által biztosított átláthatósági és indokolási garanciák tartalmilag összhangban állnak a nemzetközi és uniós szinten megfogalmazott elvárásokkal, különösen a tisztességes eljáráshoz és a hatékony jogorvoslathoz való jog érvényesülése tekintetében. Az Ákr. szabályozása ugyanakkor kifejezetten technológiasemleges, amely bár rugalmas keretet biztosít az innováció számára, önmagában nem alkalmas az algoritmikus döntéshozatalból fakadó sajátos kockázatok kezelésére. Ebből fakadóan úgy gondolom, nyitva maradhat több alapvető jelentőségű probléma, így különösen az, hogy egy MI-rendszer miként képes a tényállás feltárására, a bizonyítékok értékelésére, valamint az MI-alapú döntési folyamat miként tehető az érintett számára ténylegesen megismerhetővé, értelmezhetővé és ellenőrizhetővé. Kérdéses továbbá az is, hogy a döntéssel érintett személy milyen módon és milyen terjedelemben férhet hozzá az algoritmus által felhasznált adatokhoz, a döntést befolyásoló tényezőkhöz és logikai összefüggésekhez. Különösen súlyos kockázatot jelent az algoritmikus döntéshozatal vonatkozásában, hogy a megkülönböztetés sok esetben rejtetten valósul meg, mivel az érintettek gyakran nem is szereznek tudomást arról, hogy döntésük automatizált rendszer eredménye, illetve - amennyiben erről tudnak is - az algoritmus működésének átláthatatlansága miatt rendkívül nehéz a hátrányos megkülönböztetés okainak feltárása és bizonyítása. Ebből fakadóan a jogsérelem tényleges érvényesítése sok esetben ellehetetlenül. Mindezek fényében megállapítható, hogy az MI-alapú döntéshozatal integrációjának egyik legkritikusabb kérdése a hatékony és teljes körű jogorvoslat biztosítása. Ezáltal olyan szabályozási keret kialakítása válik szükségessé, amelyben az algoritmikus döntésekkel szemben ténylegesen biztosított a jogsérelem orvoslása és az elszámoltathatóság. Ennek hiányában ugyanis fennáll annak a veszélye, hogy az MI alkalmazása a közigazgatási döntéshozatalban éppen azon alapvető jogi garanciák megkerüléséhez vezet, amelyek a modern jogállamok működésének sarokkövét képezik, és amelyeknek az algoritmusok korában is változatlan érvényessége és jelentősége van.
- 115/116 -
A hagyományos közigazgatási döntéshozatal modelljében a felelősségi viszonyok viszonylag egyértelműek: a hatósági döntést emberi döntéshozó hozza meg, amely döntés a hatóság szervezeti keretei között születik, így annak jogszerűségéért és következményeiért a hatóság viseli a felelősséget. Az algoritmikus döntéshozatal ezzel szemben fragmentált felelősségi struktúrát eredményez, ugyanis a döntés meghozatalában közvetett módon részt vehet - többek között - a szoftver fejlesztője, az algoritmus üzemeltetője, az adatot szolgáltató szervezet is. Az ilyen többszereplős modell azonban súlyos jogbizonytalanságot eredményezhet, hiszen a jogrendszer nem jelöli ki egyértelműen, hogy az érintett személy jogsérelme esetén pontosan ki is viseli a felelősséget, kivel szemben lehet jogorvoslati igényt érvényesíteni. Ilyen helyzetben fennáll annak veszélye, hogy a felelősség "szétterül", és a jogorvoslathoz való jog tényleges érvényesítése ellehetetlenül.
A fentiek alapján de lege ferenda indokolt lenne olyan szabályozás kialakítása, amely egyértelműen rögzíti, hogy az automatizációs megoldások igénybevételével hozott döntésekért mindig a hatóság viseli a felelősséget, függetlenül attól, hogy a digitalizációs megoldásra milyen mértékben támaszkodtak a döntéshozatal során, illetve a döntést támogató vagy előkészítő rendszer fejlesztésében külső szereplők vettek-e részt. Ez biztosítaná, hogy az érintett személy ne kerüljön bizonytalan helyzetbe a jogsérelem orvoslása során. Ugyanakkor nem zárja ki a hatóság és a fejlesztők vagy az üzemeltetők, vagy akár az adatszolgáltatók közötti polgári jogi elszámolást. A felelősség egyértelmű normatív rögzítésének emellett úgy gondolom, hogy preventív funkciója is van. Ugyanis, amennyiben a hatóság tudatában van annak, hogy az MI által hozott vagy előkészített döntésekért teljes körű felelősséggel tartozik, úgy fokozott gondossággal fog eljárni az algoritmus kiválasztása, tanítása és felügyelete során. Ezáltal elősegíti a diszkriminatív, torz vagy jogsértő döntések kockázatának csökkentését is, és hozzájárul a közigazgatási döntéshozatal minőségének javításához.
Balogh-Békesi Nóra (2021): Gondolatok a jogorvoslathoz való jogról. In Peres Zsuzsanna -Pál Gábor (szerk.): Ünnepi tanulmányok a 80 éves Tamás András tiszteletére: semper ad perfectum. Budapest: Ludovika Egyetemi Kiadó, 43-53.
Balogh György Zsolt (2023): Az Mi-rendszerek ellenőrzése, felügyelete és monitorozása. In Kovács Zoltán (szerk.): A mesterséges intelligencia és egyéb felforgató technológiák hatásainak átfogó vizsgálata. Budapest: Katonai Nemzetbiztonsági Szolgálat, 328-354. Online: https://unipub.lib.uni-corvinus.hu/8690/1/MI_2023_konyv.pdf
Bottyán Sándor (2025a): A nagy nyelvi modellek működése és képzése, valamint alkalmazásának stratégiai elemzése 1. rész. Nemzetbiztonsági Szemle, 13(1), 77-95. Online: https://doi.org/10.32561/nsz.2025.1.6
Council of Europe (2024): Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law [Az Európa Tanács keretegyezménye a mesterséges intelligenciáról, az emberi jogokról, a demokráciáról és a jog uralmáról]. Online: https://rm.coe.int/1680afae3c
- 116/117 -
Dobó Judit - Gyaraki Réka (2021): A mestersége intelligencia egyes felhasználási lehetőségei a rendvédelmi területeken. Magyar Rendészet, 21(4), 67-81. Online: https://doi.org/10.32577/mr.2021.4.3
Dymitruk, Maria (2019): The Right to a Fair Trial in Automated Civil Proceedings. Masaryk University Journal of Law and Technology, (13)1, 27-44. Online: https://doi.org/10.5817/MUJLT2019-1-2
Egyesült Nemzetek Nevelésügyi, Tudományos és Kulturális Szervezete (UNESCO) (2021): Ajánlás a mesterséges intelligencia etikájáról. Online: https://unesco.hu/data/UNESCO_Ajanlas_mesterseges_intelligencia.pdf
Európai Bizottság (2019): Az Európai Bizottság által 2018 júniusában létrehozott, mesterséges intelligenciával foglalkozó magas szintű független szakértői csoport megbízható mesterséges intelligenciára vonatkozó etikai iránymutatása. Brüsszel: Európai Bizottság. Online: https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Európai Bizottság (2020): Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése. COM(2020) final. Online: https://eur-lex.europa.eu/legal-content/HU/TXT/?uri=CELEX:52020DC0065
Fejes Erzsébet - Futó Iván (2021): Mesterséges intelligencia a közigazgatásban - az érdemi ügyintézés támogatása. Pénzügyi Szemle, 21(1. ksz.), 24-51. Online: https://doi.org/10.35551/PSZ_2021_k_1_2
Hárs András (2023): A mesterséges intelligencia nemzetközi szervezetek általi szabályozásának összehasonlítása az emberi jogok szemüvegén át. Pro Publico Bono - Magyar Közigazgatás, 11(2), 125-143. Online: https://doi.org/10.32575/ppb.2023.2.7
Kálmán Kinga (2021): Nyomokban kódokat tartalmazhat? A mesterséges intelligencia igazságszolgáltatásban történő alkalmazásának alkotmányjogi vonatkozásai a tisztességes eljáráshoz való jog tükrében. MTA Law Working Papers, 21/2. Online: https://jog.tk.elte.hu/mtalwp/nyomokban-kodokat-tartalmazhat-a-mesterseges-intelligencia-igazsagszolgaltatasban-torteno-alkalmazasanak-alkotmanyjogi-vonatkozasai-a-tisztesseges-eljarashoz-valo-jog-tukreben
Kecskés Gábor (2020): Az önvezető járművek lehetséges szerepe a fenntartható fejlődési célok elérésében. In Lévayné Fazekas Judit - Kecskés Gábor (szerk.): Az autonóm járművek és intelligens rendszerek jogi vonatkozásai. Győr: Universitas-Győr Nonprofit Kft., 155-175.
Mezei Kitti (2023): A mesterséges intelligencia jogi szabályozásának aktuális kérdései az Európai Unióban. In Medias Res, 23(1), 53-70. Online: https://doi.org/10.59851/imr.12.1.4
Necz Dániel (2025): Új fajta tudás, új fajta hatalom. A mesterséges intelligencia és a személyes adatok védelme. PhD-disszertáció. Pázmány Péter Katolikus Egyetem Jog- és Államtudományi Doktori Iskola.
Németh Zoltán (2025): A mesterséges intelligencia és az algoritmikus diszkrimináció jogi kihívásai. Fontes Iuris, 11(1-2), 72-79. Online: https://doi.org/10.51784/FI.2025.1-2.7
- 117/118 -
OECD (2020): What are the OECD Principles on AI? OECD Observer, 2020. március 2. Online: https://www.oecd.org/content/dam/oecd/en/publications/reports/2019/06/what-are-the-oecd-principles-on-ai_f5a9a903/6ff2a1c4-en.pdf
Patyi András - Pollák Kitti - Fekete Orsolya (2025a): A mesterséges intelligencia alkalmazásának egyes adatvédelmi kihívásai a közigazgatási hatósági eljárásokban. Jog-Állam-Politika, 17(2), 7-20. Online: https://doi.org/10.58528/JAP.2025.17-27
Patyi András - Pollák Kitti - Fekete Orsolya (2025b): A mesterséges intelligencia alkalmazásának néhány alapkérdése a közigazgatási eljárásjog szemszögéből. Jog-ÁllamPolitika, 17(1), 3-18. Online: https://doi.org/10.58528/JAP.2025.17-L3
Patyi András - Váczi Péter (2025): A jó közigazgatási eljárás alapjogi és alapelvi szintű kihívásai a mesterséges intelligencia vonatkozásában. Jog-Állam-Politika, 25(1), 35-60. Online: https://doi.org/10.58528/JAP.2025.17-1.35
Petrik Ferenc szerk. (2020): A közigazgatási eljárás szabályai. Kommentár a gyakorlat számára I. Budapest: ORAC.
Priya, G. Jaculine - Saradha, S. (2021): Fraud Detection and Prevention Using Machine Learning Algorithms: A Review. 7[th] International Conference on Electrical Energy Systems (ICEES), Chennai, India 564-568. Online: https://doi.org/10.1109/ICEES51510.2021.9383631
Re, Richard M. - Solow-Niederman, Alicia (2019): Developing Artificially Intelligent Justice. Stanford Technology Law Review, 2(22), 242-289. Online: https://law.stanford.edu/wp-content/uploads/2019/08/Re-Solow-Niederman_20190808.pdf
Ritó Evelin (2021): Mesterséges intelligencia az Európai Unió stratégiai és szabályozási dokumentumainak tükrében. Közigazgatási és Infokommunikációs Jogi PhD Tanulmányok 2(1), 33-47. Online: https://doi.org/10.47272/KIKPhD.2021.1.3
United Nations (2023): Interim Report. Governing AI for Humanity. Online: https://www.un.org/sites/un2.un.org/files/un_ai_advisory_body_governing_ai_for_humanity_interim_report.pdf
Yoshua, Bengio - Goodfellow, Ian - Courville, Aaron (2017): Deep Learning. Cambridge: MIT Press.
Zorkóczy Miklós (2021): A mesterséges intelligencia egészségügyi jogi és etikai dimenziói. MTA Law Working Papers, 2021/25. Online: https://jog.tk.elte.hu/mtalwp/a-mesterseges-intelligencia-egeszsegugyi-jogi-es-etikai-dimenzioi
Ződi Zsolt (2020): A jog és a kód. In Polyák Gábor (szerk.): Algoritmusok, keresők, közösségi oldalak és a jog. A forgalomirányító szolgálatások szabályozása. Budapest: HVG-ORAC, 15-35.
- 118/119 -
Magyarország Alaptörvénye (2011. április 25.)
2003. évi CXXV. törvény az egyenlő bánásmódról és az esélyegyenlőség előmozdításáról
2016. évi CL. törvény az általános közigazgatási rendtartásról
2017. évi I. törvény a közigazgatási perrendtartásról
2023. évi CIII. törvény a digitális államról és a digitális szolgáltatások nyújtásának egyes szabályairól
Az Európai Parlament és a Tanács (EU) 2024/1689 rendelete (2024. június 13.) a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról, valamint a 300/2008/ EK, a 167/2013/EU, a 168/2013/EU, az (EU) 2018/858, az (EU) 2018/1139 és az (EU) 2019/2144 rendelet, továbbá a 2014/90/EU, az (EU) 2016/797 és az (EU) 2020/1828 irányelv módosításáról (a mesterséges intelligenciáról szóló rendelet) (EGT-vonatkozású szöveg). Online: https://eur-lex.europa.eu/legal-content/HU/ALL/?uri=CELEX%3A32024R1689
Az Európai Unió Alapjogi Chartája. Online: https://eur-lex.europa.eu/eli/treaty/char_2016/oj/hun
Emberi Jogok Egyetemes Nyilatkozata (1948). Online: https://www.coe.int/hu/web/compass/the-universal-declaration-of-human-rights-full-version-
Emberi Jogok Európai Egyezménye (1950). Online: https://www.echr.coe.int/documents/d/echr/convention_hun
19/2015. (VI. 15.) AB határozat
3357/2017. (XII. 22.) AB határozat
3223/2018. (VII. 2.) AB határozat
3069/2022. (II. 25.) AB határozat
3248/2023. (VI. 9.) AB határozat
3360/2023. (VI. 19.) AB határozat
Kúria K.IV.40.001/2021/6.
Dr. Podonyi Katalin PhD-hallgató a Nemzeti Közszolgálati Egyetem Közigazgatástudományi Doktori Iskolájában, közjogi ügyintéző az Igazságügyi Minisztérium Közigazgatási Kodifikációs Főosztályán. Kutatási területe a közigazgatási jog, azon belül is kifejezetten a közigazgatási eljárásjog. ■
JEGYZETEK
[1] Ződi 2020: 20.
[2] Tóth 2020: 413.
[3] Patyi-Pollák-Fekete 2025b: 12.
[4] Balogh 2023: 341-342.
[5] Balogh 2023: 330-331.
[6] Yoshua-Goodfellow-Courville 2017: 5-8.
[8] Fejes-Futó 2021: 29-31.
[9] Bottyán 2025a: 80-83.
[10] Bottyán 2025a: 87.
[11] Eszteri 2019: 671.
[12] Bottyán 2025a: 88-89.
[13] Re - Solow-Niederman 2019: 255-256.
[14] Zorkóczy 2021.
[15] Dobó-Gyaraki 2021.
[16] Kecskés 2020.
[17] Priya-Saradha 2021.
[18] Mezei 2023.
[19] Necz 2025: 24-25.
[20] Ritó 2021: 35.
[21] Hárs 2023: 126-129.
[22] Dymitruk 2019: 40
[23] Patyi-Pollák-Fekete 2025a: 46.
[25] OECD 2020.
[26] Egyesült Nemzetek Nevelésügyi, Tudományos és Kulturális Szervezete (UNESCO) 2021.
[27] United Nations 2023.
[28] Council of Europe 2024.
[29] Európai Bizottság 2020.
[30] 3357/2017. (XII. 22.) AB határozat, Indokolás [47].
[31] Petrik 2020: 170-176.
[32] 3360/2023. (VI. 19.) AB határozat, Indokolás [29].
[33] 3248/2023. (VI. 9.) AB határozat, Indokolás [29].
[34] 3223/2018. (VII. 2.) AB határozat, Indokolás [36].
[35] 3069/2022. (II. 25.) AB határozat, Indokolás [23].
[36] Kúria K.IV.40.001/2021/6., Indokolás [29].
[37] Németh 2025: 73.
[38] Re - Solow-Niederman 2019: 245-256.
[39] Lásd az Emberi Jogok Egyetemes Nyilatkozatának 2. cikkét, az Emberi Jogok Európai Egyezményének 14. cikkét, valamint az Európai Unió Alapjogi Chartájának 20. és 21. cikkét.
[40] Vö. Ebktv. 4. § c) pont.
[41] 3/2014. (I. 21.) AB határozat, Indokolás [56].
[42] Németh 2025: 76.
[43] Kálmán 2021: 15-16.
[44] Balogh-Békesi 2021: 45.
[45] 19/2015. (VI. 15.) AB határozat, Indokolás [35].
[47] Lásd az Emberi Jogok Egyetemes Nyilatkozatának 8. cikkét, az Emberi Jogok Európai Egyezményének 12. cikkét, valamint az Európai Unió Alapjogi Chartájának 47. cikkét.
[48] Európai Bizottság 2019: 19-20., 25.
[49] Lásd Ákr. 40. §
[50] Lásd 2023. évi CIII. törvény a digitális államról és a digitális szolgáltatások nyújtásának egyes szabályairól (Dáptv.) 21. § (1) bekezdés b) pont.
[51] Hárs 2023: 129.
[52] Hárs 2023: 130.
Lábjegyzetek:
[1] A szerző PhD-hallgató, Nemzeti Közszolgálati Egyetem Közigazgatástudományi Doktori Iskola; közjogi ügyintéző, Közigazgatási Kodifikációs Főosztály, Igazságügyi Minisztérium, podonyikata@gmail.com.
Visszaugrás
