https://doi.org/10.59851/mj.73.04.3
A mesterséges intelligencia szabályozása napjaink egyik égető és sürgős kérdése. A nemzetközi szabályrendszerben tapasztalható kezdeti, etikai jellegű megközelítés után az Európai Unió az EU AI Acttel továbblépett a hatósági, engedélyezési eszközök alkalmazásának szintjére, amelyhez kapcsolódva az első magyar implementációs lépések is megtörténtek. Arra kívánok rámutatni, hogy számos nyitott kérdés maradt, amelyeket mielőbb meg kell válaszolni ahhoz, hogy az MI alkalmazásának hazai és nemzetközi szabályai lehetővé tegyék ennek a nagy sebességgel terjedő technológiának a biztonságos alkalmazását és ellenőrzését.
Kulcsszavak: mesterséges intelligencia (MI); EU AI Act; Mesterséges Intelligencia Stratégia; MI-rendszer; ChatGPT; MI-szankcionálás
The regulation of artificial intelligence is one of the most pressing and urgent issues of our time. Following an ethical approach, the international regulatory system has moved on to the level of applying regulatory and licensing tools with the EU AI Act, for which the first Hungarian implementation steps have already been taken. I would like to point out that there are still a number of open questions that need to be resolved as soon as possible so that domestic and international rules on the use of AI can enable the safe application and control of this rapidly spreading technology.
Keywords: Artificial intelligence (AI); EU AI Act; Artificial Intelligence Strategy; AI system; ChatGPT; AI sanctions
XIV. Leó pápa szerint a katolikus tanítások most, egy újabb ipari forradalom időszakában is relevánsak: a mesterséges intelligencia kihívást jelent az emberi méltóság megvédelmezésében, valamint az igazságosság és a munkahelyek tekintetében.[1] XIV. Leó előtt Ferenc pápa is beszélt a mesterséges intelligencia lehetséges veszélyeiről, többek között arról, hogy az új technológia "egyszerű algoritmusokká" változtathatja az embereket. Ferenc pápa a G7-ek tavalyi tanácskozásának is üzent, és azt hangsúlyozta: a mesterséges intelligenciának mindig emberközpontúnak kell maradnia, és például a fegyverhasználat során a végső döntést nem a gépnek, hanem az embernek kell meghoznia.[2]
A nagy adatok (Big Data) és az intelligens technológiák számos területen kombinálódnak annak érdekében, hogy csökkentsék az emberi beavatkozás szükségességét, így a jövőkutatók egyetértenek abban, hogy néhány év múlva minden szakma alapja a digitalizáció és a mesterséges intelligencia alkalmazása lesz. A munkavégzés nagy része automatizálttá, digitalizálttá alakul, és egyre kevesebb emberi beavatkozást igényel. Mi a valószínűsége annak, hogy a bölcsődében, az óvodában, az iskolában és az egyetemen hamarosan robotoktatók tanítanak majd? Egyelőre talán kevés, bár egyre több területen kell alkalmazni az új technikai lehetőségeket. Miért? Mert ez a technológia robbanásszerűen terjed az egész világon és lemarad, aki kimarad belőle, hiszen mindennapjainkat egyre szélesebb körben befolyásolja.
Érdekes példaként idézem fel, hogy 2023 júniusában a németországi Fuerth városban található Szent Pál templom padsorai zsúfolásig megteltek. A ChatGPT chatbotját megszemélyesítő fekete férfi avatárja az oltár feletti hatalmas képernyőn először arra utasította a különleges istentiszteleten részt vevő közel 300 embert, hogy álljanak fel, és dicsőítsék az Urat. A 40 perces istentiszteletet a ChatGPT és Jonas Simmerlein, a Bécsi Egyetem teológusa és filozófusa készítette - elmondásuk szerint - 98 százalékban a mesterséges intelligencia segítségével. Az egész istentiszteletet négy különböző avatár vezette a képernyőn, két fiatal nő és két fiatal férfi. A templomban ülők figyelmesen hallgatták, ahogy az MI arról prédikált, hogy hagyjuk magunk mögött a múltat, koncentráljunk a jelen kihívásaira, győzzük le a haláltól való félelmet, és soha ne veszítsük el a Jézus Krisztusba vetett bizalmat. Az egyik hívő úgy emlékezett erre a prédikációra, hogy "nem volt benne szív és lélek. A prédikáció egy személy lelkének átadott üzenet. Nem tudod átadni azt, amid nincs. Egy mesterséges intelligencia által generált prédikáció a szó szoros értelmében a lehető leglélektelenebb."[3] A legtöbb jövőkutató a mai ismereteink szerint azzal is egyetért, hogy az alapvető emberi értékek felértékelődnek majd, hiszen olyan tulajdonságokat, mint a kreativitás, empátia, együttműködés, érzelmek, hit, egyelőre nem lehet digitalizálni.
A mesterséges intelligencia hatása azonban messze felülmúlja majd az ipari forradalomét - jósolják tanulmányukban a világszinten elismert kockázatelemzők. Forgatókönyvük szerint kevés idő van hátra addig, míg a mesterséges intelligencia új generációi feljavítják magukat, és olyan fejletté válnak, hogy ezt követően már saját érdekeiket követhetik: vagyis felülkerekednek az emberen. "Azt jósoljuk, hogy az emberfeletti mesterséges intelligencia (MI) hatása a következő évtizedben óriási lesz, meghaladva az ipari forradalomét" - írják a forgatókönyvszerű tanulmányukban Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland és Romeo Dean, a téma elismert szakértői.[4]
- 220/221 -
A mesterséges intelligencia fejlődése robbanásszerű, és jóllehet, hogy még bizonyos emberi tulajdonságokat nem tud pótolni, de hamarosan eléri majd az emberi képességekkel azonos szintet, sőt szinte azonnal meg is haladja azt, és szuperintelligenciává alakul. Ennek pedig beláthatatlan következményei lehetnek, ha az emberiség elveszti az ellenőrzését, és az MI teljesen autonómmá válik. Az ellenőrzés egyik fontos eleme pedig a szabályozások meghatározása, tehát a jogalkotás és az intézményrendszer kialakítása, amely felügyeletet gyakorol a fejlődőképes technológia felett. Ez a cikk arról szól, hogy a mesterséges intelligenciához kapcsolódó szabályozás területén hol tartunk, és véleményem szerint milyen veszélyek leselkednek ránk, illetve milyen hiányosságok vannak a jogalkotás területén.
A "mesterséges intelligencia" gondolata évezredekre nyúlik vissza, egészen az ókori filozófusokig, akik az élet és halál kérdéseit vizsgálták. Az ókorban a feltalálók "automatáknak" nevezett dolgokat készítettek, amelyek mechanikusak voltak, és az emberi beavatkozástól függetlenül mozogtak. Az "automata" szó ókori görög eredetű, és azt jelenti, hogy "saját akaratból cselekszik". Az automatáról szóló egyik legkorábbi feljegyzés i. e. 400-ból származik, és egy mecha-nikus galambra utal, amelyet a filozófus Platón barátja alkotott. Sok évvel később, az egyik leghíresebb automatát Leonardo da Vinci alkotta meg 1495 körül.[5] Ezek természetesen még messze álltak a mesterséges intelligencia ma ismert formájától, mert meg kellett várni a számítástechnika olyan szintű kibontakozását, amely lehetővé tette a digitális MI létrejöttét, valamint az ezzel párhuzamosan fejlődő robotika megerősödését.
A modern értelemben vett MI kezdetét a hagyományok szerint a múlt század közepére vezetik vissza. 1950-ben Alan Turing kiadta "Számítógépek és intelligencia" című művét, amelyből végül a Turing-teszt lett, és amelyet a szakértők a számítógépes intelligencia mérésére használtak. Ez a teszt viszonylag egyszerűnek tűnik. Alan Turing 1950-es cikkében teszi fel a kérdést, hogy "tudnak-e a gépek gondolkodni". A gondolkodó gépek vizsgálatára olyan tesztet javasol, ahol egy emberi alany két másik partnerrel vált - kizárólagosan írásban - üzeneteket. A két partner közül az egyik ember, a másik gép. A teszt akkor tekinthető sikeresnek, ha a párbeszéd után a kérdező ember nem tudja megmondani, hogy partnerei közül melyikük az ember, és melyik a gép.[6]
A jogi szabályozásban ahhoz, hogy tudjuk, milyen körben kell a normákat meghatározni, elengedhetetlen a fogalmak pontos definíciója. A mesterséges intelligencia (MI) fogalmát először John McCarthy határozta meg 1956-ban, a Dartmouth College-ban tartott konferencián. Ez a konferencia számít a mesterséges intelligencia tudományága születésnapi eseményének, ahol a tudósok és mérnökök egyesítették erőfeszítéseiket a gépi tanulás, a logika és a kognitív tudományok terén.[7]
Azóta sokféle definíció és megközelítés jött létre, de többnyire a következő elemekből építkeznek: A mesterséges intelligencia
- célorientált gépi ügynök (agent), amely lehet szoftver vagy pedig testtel is rendelkező gép;
- képes cselekvő tevékenységet kifejteni, amelyhez emberi beavatkozás nem szükséges (autonómia);
- tevékenysége során a rendelkezésre álló információk alapján racionálisan cselekszik;
- képes a környezetéből valamilyen módon információkat nyerni és azt feldolgozni;
- képes kommunikálni a környezettel;
- képes saját működését önállóan szabályozni és irányítani, azt szükség esetén emberi beavatkozás nélkül megváltoztatni.[8]
Az első igazán széles körű és jogi kötelező erővel is bíró definíciót 2024-ben az Európai Parlament és a Tanács (EU) 2024/1698 rendelete, az ún. EU AI Act adta: "MI-rendszer: gépi alapú rendszer, amelyet különböző autonómiaszinteken történő működésre terveztek, és amely a bevezetését követően alkalmazkodóképességet tanúsíthat, és amely a kapott bemenetből - explicit vagy implicit célok érdekében - kikövetkezteti, miként generáljon olyan kimeneteket, mint például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket, amelyek befolyásolhatják a fizikai vagy a virtuális környezetet."[9]
Addig azonban, amíg egy használható és széles körben elfogadott meghatározásig eljutott a közmegegyezés, még hosszú idő telt el. Az 1960-as években először különböző algoritmusok és programok jelentek meg, amelyek az intelligens viselkedést szimulálták. Az 1970-es évektől kezdve a mesterséges intelligenciára vonatkozó etikai és jogi kérdések kezdtek egyre inkább a figyelem középpontjába kerülni, ahogy a technológia fejlődése felgyorsult. Azóta folyamatosan dolgoznak a különböző országokban
- 221/222 -
a mesterséges intelligencia használatának szabályozásán és az etikai keretek kidolgozásán.
A mesterséges intelligenciára vonatkozó nemzetközi szabályozás jellemzője, hogy a jelentősebb nemzetközi szervezetek - először ajánlás jelleggel - különböző etikai, szervezési, informatikai szabályokat dolgoztak ki azokra a programokra, amelyeket a mesterséges intelligencia körébe tartozónak tekintettek. Ezt követte az EU területén a rendeletalkotás, amely a tagországokra nézve már kötelező rendelkezéseket tartalmaz.
Jóllehet a mesterséges intelligencia modern kutatása már csaknem hetven esztendőre vezethető vissza, de a szabályozás zöme lényegében csak az utóbbi évtizedben jött létre. Nagyon sok nemzetközi instrumentum, így ajánlás, egyezmény, határozat stb. foglalkozik a témakörrel. Vázlatosan áttekintem a nagyobb nemzetközi szervezetek fontosabb dokumentumait, amelyeket a témakörben megalkottak, mielőtt megfogalmaznám következtetéseimet.
Az Egyesült Nemzetek Szervezete (ENSZ) és különböző szakosított szervezetei már a 2010-es évek eleje óta foglalkoznak a mesterséges intelligencia etikai és szabályozási kérdéseivel.
Az ENSZ-kezdeményezések közül ki kell emelni, hogy 2018 áprilisában az UNESCO elindította a mesterséges intelligenciával foglalkozó munkálatokat, amelyek célja a technológia etikus használatának elősegítése volt. 2021 novemberében az UNESCO elfogadta a "Mesterséges intelligencia etikai ajánlásait", amely az egyik első globális keretet jelenti az MI fejlesztésére és alkalmazására vonatkozóan. Ezek az ajánlások hangsúlyozzák az emberi jogok védelmét, valamint a nemzeti és nemzetközi együttműködést a mesterséges intelligencia területén. Az ENSZ közgyűlése pedig 2024 márciusában fogadott el határozatot arról, hogy a fenntartható fejlődési célok elérése érdekében hogyan lehet kiaknázni a biztonságos és megbízható MI-ben rejlő lehetőségeket.[10]
Az ENSZ magasszintű MI tanácsadói testülete által készített dokumentum "Az AI az emberiség szolgálatában: zárójelentés" címmel az ENSZ ajánlásait tartalmazza az MI globális szabályozására vonatkozóan. A jelentés hét fő ajánlást fogalmaz meg: (1) Független nemzetközi tudományos testületet kell létrehozni, és (2) politikai párbeszédet kell folytatni az MI irányításáról, valamint (3) az MI-szabványok harmonizálását kell elérni. (4) Az ENSZ-hez kapcsolódó központok globális hálózatának kiépítésére van szükség, amely szakértelmet, számítási kapacitást és képzési adatokat biztosít a mesterséges intelligencia fejlesztéséhez, különösen az ellátatlan régiókban. (5) Globális Alapot kell létrehozni az MI-szakadék kezelésére, és (6) globális MI-adatkörnyezetet kell kialakítani és (7) MI-irodát kell alapítani az ENSZ Titkárságán a koordináció szervezésére.[11] Ezek az elvek jól hangzanak, és valóban nélkülözhetetlen lenne a globális ellenőrzés, de a hatékony gyakorlati megvalósítás még várat magára.
Eközben az ENSZ ügynökségközi munkacsoportja 2024 májusában összefoglaló jelleggel elfogadott egy ún. fehér könyvet az MI nemzetközi irányításának rendszeréről. A dokumentum elemzi az intézményi modelleket, funkciókat és a hatékony MI-irányítás meglévő nemzetközi kereteit.[12] A dokumentum világos képet ad az ENSZ elvárásairól és álláspontjáról.
Mint látható, az ENSZ dokumentumok a globális és a regionális egységesítés irányába egyaránt tesznek lépéseket, ami nem is csoda, hiszen a különböző mesterséges intelligencia szabványok, programok, szabályozások egy olyan sűrű dzsungelt képeznek, amelyben elvesznek a jogalkalmazók, ha nem kapnak világos útmutatást.
A globális nemzetközi együttműködés egy másik szervezete, az OECD 2019-ben fogadta el a mesterséges intelligenciáról szóló ajánlását.[13] Az MI nemzetközi irányításában ennek a dokumentumnak ugyancsak fontos szerepe van, hiszen mind az uniós rendelet, mind az Európa Tanács mesterséges intelligencia keretegyezménye az OECD által meghatározott definíciót használja, amikor az MI-rendszer fogalmát rögzíti.
Az OECD esetében még két dokumentumot szükséges említeni: az egyik az MI-rendszerek osztályozásának keretrendszeréről szóló 2022-es szakértői tanulmány,[14] a másik pedig a MI nyelvi modellek technológiai, társadalmi-gazdasági és szakpolitikai vonatkozásairól szóló 2023-as tanulmány.[15] Ezek jogi kötőerővel ugyan nem bírnak, ám iránymutatásul szolgálnak az OECD-tagok számára a szabályozási munka során.
A G20 már 2019-ben foglalkozott a gazdasági folyamatokra nagy hatást gyakorló mesterséges intelligenciával. Ebben az évben a csoport miniszteri szintű deklarációban fogalmazott meg az MI-vel kapcsolatos alapelveket.[16] 2023-ban az Újdelhiben tartott csúcs alkalmával elfogadott vezetői szintű deklaráció szintén kitér a mesterséges
- 222/223 -
intelligenciára, előirányozva, hogy a technológiát felelősségteljesen, jó célból az emberiség javára kell használni.[17]
A G7 csoport japán elnöksége alatt tartott hirosimai csúcstalálkozón megkezdték a munkát a nemzetközi szabályok kidolgozására. 2023 decemberében megállapodás született a Hirosima-folyamat átfogó politikai keretrendszeréről.[18] A dokumentum felvázolja a fejlett mesterséges intelligencia rendszereket fejlesztő szervezetek számára kidolgozott Hirosima-folyamat nemzetközi irányelveit (például átláthatóság, információcsere, tartalomhitelesítés, adatvédelem). Célja a biztonságos, megbízható mesterséges intelligencia globális előmozdítása, útmutatást nyújtva az akadémiai, civil társadalmi, magán- és közszféra szereplőinek. Az irányelvek az OECD mesterséges intelligencia alapelvein alapulnak, és a fejlett mesterséges intelligencia rendszerek - beleértve az alapmodelleket és a generatív mesterséges intelligenciát - előnyeivel, kockázataival és kihívásaival foglalkoznak.[19] A G7 és G20 csoport együttműködése rámutatott, hogy a gazdasági szereplők bevonása és szempontjaiknak integrálása nélkülözhetetlen a szabályozás egységesítése érdekében.
Az Európa Tanács alapfeladata az emberi tényező védelme, az emberi jogok érvényesítése és védelme, hiszen ezért hozták létre a második világháború után a szervezetet. Ennek következtében nem gazdasági szempontú MI-felhasználással foglalkozik, mint az előzőekben említett nemzetközi tömörülések, hanem kifejezetten a humán jellegű változások szabályozásával.
Az Európa Tanács Parlamenti Közgyűlése több állásfoglalást és ajánlást fogadott el, amelyekben megvizsgálta a mesterséges intelligenciának a demokráciával kapcsolatos kockázatait, és jóváhagyott egy sor alapvető etikai elvet, amelyeket a mesterséges intelligencia alkalmazásai fejlesztésekor és végrehajtásakor tiszteletben kell tartani, így például az átláthatóságot, az igazságosságot és a méltányosságot, az emberi döntéshozatali felelősséget, a biztonságot, a magánélet védelmét és az adatvédelmet. Megállapította, hogy szükség van egy átfogó szabályozási keretrendszer létrehozására a mesterséges intelligencia számára, amely az emberi jogok, a demokrácia és a jogállamiság védelmén alapuló konkrét elveket tartalmaz, és felszólította a Miniszteri Bizottságot, hogy dolgozzon ki egy jogilag kötelező érvényű eszközt a mesterséges intelligencia szabályozására. Az Európa Tanács 2021 áprilisában fogadta el a mesterséges intelligenciáról szóló keretegyezményt, amely jelentős lépést jelent a technológia etikai használatának szabályozása terén. A Keretegyezményt az Európa Tanács 46 tagállama tárgyalta meg, és az ipar 68 nemzetközi képviselője, valamint számos nemzetközi szervezet is aktívan részt vett a Keretegyezmény kidolgozásában.
Az Európa Tanács mesterséges intelligenciáról és az emberi jogokról, a demokráciáról és a jogállamiságról szóló keretegyezménye az első nemzetközi jogilag kötelező érvényű okmány ezen a területen. A Keretegyezmény létrehozott egy nyomon követési mechanizmust, a Részes Felek Konferenciáját, amely az Egyezmény Feleinek hivatalos képviselőiből áll, hogy meghatározza az Egyezmény rendelkezéseinek végrehajtásának mértékét. A Részes Felek Konferenciája elősegíti az együttműködést az érdekelt felekkel is. A tagállamoknak folyamatosan figyelemmel kell kísérniük az MI fejlődését, és el kell végezniük a szükséges módosításokat a jogi keretekben az új kihívásokra reagálva.[20] Egyelőre azonban viszonylag szegényes az aláíró országok száma, nem beszélve a ratifikációról. A jövő zenéje, hogy ez az egyezmény nem jut-e azon ET egyezmények, illetve jegyzőkönyvek sorsára, amelyek végrehajtására nincs meg a megfelelő politikai akarat a tagországok részéről.
2021 áprilisában az Európai Bizottság javaslatot tett az első uniós mesterséges intelligenciáról szóló jogszabályra, amely egy kockázatalapú MI-osztályozási rendszert hozott létre. A mesterséges intelligenciáról szóló "törvényt" 2024. július 12-én tették közzé az Európai Unió Hivatalos Lapjában, és 2024 augusztusában lépett hatályba. A 2024/1689 számú EU parlamenti és tanácsi rendeletként jelent meg, és más néven EU AI Actként, vagyis a mesterséges intelligencia szabályozásáról szóló uniós "törvényként" is emlegetik.
Az MI-törvény az első valóban kötelező érvényű, horizontális szabályozás a MI-ről, amely közös keretet határoz meg a MI-rendszerek használatára és szállítására az EU-ban. A jogszabály a MI-rendszerek osztályozását kínálja, különböző követelményekkel és kötelezettségekkel, amelyek a "kockázatalapú megközelítéshez" igazodnak. A kockázat tekintetében pedig úgy fogalmaz a rendelet, hogy a kár bekövetkezésének valószínűségét és súlyosságának a kombinációját mérlegelve kategorizálja ezeket a rendszereket.[21]
A mesterséges intelligenciáról szóló uniós rendelet lényege tehát, hogy "kockázatalapú megközelítést" alkalmaz, azaz lényegében tevékenységi körök, szolgáltatások besorolását végzi el ezen elv alapján. Így került sor a magas kockázatú, korlátozott kockázatú és a minimális vagy kockázat nélküli MI-technológiák meghatározására is,
- 223/224 -
amelyek esetében az alkalmazhatóságot illetően differenciált elvárásokat támaszt a jogalkotó.
A rendelet rendelkezései két főbb csoportra oszthatók. A rendelet egyrészt szabályokat állapít meg a nagy nyelvi modellek fejlesztésére vonatkozóan, e tekintetben közvetlenül a Bizottság jár el hatóságként, és ellenőrzi e követelmények végrehajtását.
Másrészről a rendelet a felhasználóra jelentett kockázat alapján eltérő követelményszinteket megállapítva részletesen szabályozza a mesterséges intelligencia alapú megoldások alkalmazását is. Az alkalmazás szempontjából legmagasabb kockázatot jelentő MI-rendszereknek részben műszaki előírásoknak kell megfelelniük, részben pedig az alkalmazási terület függvényében további feltételeket kell teljesíteniük működésük során (mint például az emberi felügyelet biztosítása stb.).[22]
A rendelet tervezete négy fő pillér köré épül, figyelembe véve a MI-alkalmazások különböző szintű kockázatait.
Az alacsony kockázatú MI-alkalmazások megvalósítása viszonylag szabadon történhet. Ezek között szerepelnek például a chatbotok és egyéb olyan eszközök, amelyek nem terhelik meg jelentősen a felhasználók biztonságát vagy jogait. A szabályozás szerint minimális kockázatú mesterséges intelligencia-alkalmazásoknak minősülnek például az AI-kompatibilis videojátékok vagy a spamszűrők; ezek használatára ingyenesen is lehetőség van. Az EU-ban jelenleg használt MI-rendszerek jelentős hányada ebbe a kategóriába tartozik.
A korlátozott kockázatú MI-alkalmazások, mint például az úgynevezett "okos" városi rendszerek vagy a munkahelyi teljesítményértékelő programok, magasabb szintű megfelelőséget követelnek meg. Ezen alkalmazások esetén kötelező a kockázatértékelés elvégzése, és a fejlesztőknek be kell mutatniuk rendszereik átláthatóságát és megbízhatóságát. A korlátozott kockázatúnak minősített MI-rendszereknél a mesterséges intelligenciáról szóló szabály konkrét átláthatósági kötelezettségeket vezet be. Rendkívüli jelentőséget kap a használat előtti tájékoztatás annak érdekében, hogy a felhasználó előre el tudja dönteni, kapcsolatba lép-e egy géppel, és megalapozott döntést tudjon hozni a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy a mesterséges intelligencián alapuló tartalom azonosítható legyen. Emellett a nyilvánosságnak címzett közérdekű tájékoztatásoknál a mesterséges intelligencián alapuló szöveget mesterségesen létrehozottként kell megjelölni.
A magas kockázatú MI-alkalmazások, mint például az arcfelismerő rendszerek és a bűnüldözésben használt analitikai eszközök, szigorúbb eljárásoknak vannak alávetve. Magas kockázatúnak tekintik elsősorban azon tevékenységeket, infrastruktúrákat, szolgáltatásokat, amelyek nagy tömegeket érintenek, ezáltal az ezekben bekövetkező hibák rendkívül széles körben okozhatnak kedvezőtlen hatást. A potenciális kedvezőtlen hatás nem csak mentális, de fizikai hátrány (élet, testi épség sérelme) okozásában is megjelenhet. Ilyennek tekinti többek között a távoli biometrikus azonosító rendszereket, érzelemfelismerő rendszereket, bűnüldözési célú MI-rendszereket (profilozó, bizonyítékok megbízhatóságát értékelő), a választási és népszavazási rendszereket stb.
A magas kockázatú MI-rendszerekre nagyon szigorú kötelezettségek vonatkoznak a forgalmazás és a felhasználás során: a forgalmazást megelőzően alapos vizsgálatoknak vetik alá ezeket, majd ezt követően a felhasználás folyamatos monitorozása is elengedhetetlen lesz. Ezeknél az alkalmazásoknál kötelező a megfelelőségi értékelés, amelynek során biztosítani kell a technológia biztonságát, valamint a felhasználók jogainak védelmét. A felhasználóknak nyújtott jogorvoslati lehetőségeket is tisztázni kell.
A rendelet külön hangsúlyt fektet a tiltott alkalmazásokra, amelyekre teljes mértékben tilalmat rendelnek el. Ilyenek például azok a rendszerek, amelyek az emberi viselkedés manipulálására, valamint a személyek életének és szabadságának indokolatlan korlátozására irányulnak.
A Bizottságon belül 2024 februárjában létrehozták az Európai Mesterséges Intelligenciával Foglalkozó Hivatalt, amely a tagállamokkal együtt felügyeli a mesterséges intelligenciáról szóló jogszabály érvényesítését és végrehajtását.[23]
Uniós tagországként Magyarország élen jár az EU AI Act implementációjában, illetve stratégiájában a világszínvonalú eredmények hasznosítása tekintetében. Ennek következtében, bár vannak más jogszabályok is, amelyeknek MI vonatkozásaik lehetnek (például az adatvédelmi törvény), de a magyar szabályozásban két alapvető dokumentumról szeretnék szót ejteni.
Az egyik Magyarország Mesterséges Intelligencia Stratégiája (2025-2030), amelyet nemrégiben felülvizsgáltak, valamint az Európai Unió mesterséges intelligenciáról
- 224/225 -
szóló rendeletének magyarországi végrehajtásáról szóló 2025. évi LXXV. törvény (a továbbiakban: MI törvény), amely 2025. december 2-én lépett hatályba.
Az MI Stratégiát és a végrehajtásához 2025-ig szükséges intézkedéseket a Kormány az 1573/2020. (IX. 9.) Korm. határozattal fogadta el (a továbbiakban: Stratégia). Ezért vált időszerűvé a Stratégia aktualizálása. A jövőben azonban a felgyorsult technikai fejlődésre tekintettel a Stratégia évente megújul. A Stratégia keretében létrejöttek olyan szervezeti fejlesztések, mint a Mesterséges Intelligencia Nemzeti Labor és a Nemzeti Adatvagyon Ügynökség, amelyek aktívan hozzájárulnak a stratégiai célok eléréséhez. Ugyanakkor számos kihívással is szembe kellett nézni, például az MI által generált videók, hanganyagok és képek, valamint az ilyen tartalmak közösségi hálózatokon való megjelenése, amely nemzetbiztonsági kockázatot is jelenthet. A stratégia felülvizsgálatában részt vettek a tudományos és üzleti szféra képviselői és a Mesterséges Intelligencia Koalíció.[24]
Az MI Stratégia a jogi szabályozással kapcsolatban a következőket rögzíti: "A mesterséges intelligencia szabályozásának biztosítása kulcsfontosságú Magyarország technológiai fejlődése szempontjából. A cél egy olyan átfogó, EU-konform szabályozási és etikai keret kialakítása, amely hatékonyan támogatja az innovációt, védi az emberi jogokat, és biztosítja az átláthatóságot, továbbá figyelembe veszi a mesterséges intelligenciával összefüggő nemzetközi gyakorlatokat, megállapodásokat is (különös tekintettel az OECD ajánlásaira, az UNESCO MI-etikai ajánlásaira és a G7 országok által kezdeményezett »Hiroshima AI Process« szakpolitikai keretekre)."
A Stratégia azokat a nemzetközi szabályozáson alapuló elveket és dokumentumokat vette figyelembe, amelyeket vázlatosan ismertettem. Az Európai Unió szabályozásával történő harmonizálást ezen a területen a nem sokkal később megjelent MI törvény alapozza meg, ezért témánk szempontjából erről kicsit részletesebben szólnék.
Az uniós rendeletben foglalt követelmények ellenőrzése a tagállamok feladata, e funkció ellátása érdekében minden tagállamnak ki kell jelölnie legalább egy piacfelügyeleti és legalább egy, a műszaki megfelelőség vizsgálatához kapcsolódó bejelentő hatóságot. Az uniós intézményekkel (EU Bizottság/Uniós MI Hivatal, Uniós MI Testület) való kapcsolattartás érdekében a tagállamoknak ún. egyedüli kapcsolattartó pontot is kell kijelölnie. Emellett 2026. augusztus 1-jéig minden tagállamnak létre kell hoznia legalább egy, hatóság által felügyelt szabályozói tesztkörnyezetet (Regulatory Sandbox) is annak érdekében, hogy az egyes MI-alapú alkalmazások jogszerű működése előzetesen ellenőrzött körülmények között vizsgálható legyen.[25]
Az MI törvény implementálja illetékes nemzeti hatóságként a bejelentő hatóságot, amely a megfelelőség értékelésére, és a piacfelügyeleti hatóságot, amely az országban alkalmazott, fejlesztett, forgalmazott MI-rendszerek ellenőrzésére és szankcionálására hivatott (3. §). A hatóságokat a Kormány jelöli ki.
Az MI törvény szintén létrehozta a Magyar Mesterséges Intelligencia Tanácsot, amely testületként működő, de ügydöntő jogkörrel nem rendelkező szerv (5. §). Tanácsadó, tudományos elemző, koordinációs, véleményező, javaslattevő szervként működik a MI-vel kapcsolatos ügyekben [8. § (1) bekezdés]. A Tanács elnökét a vállalkozásfejlesztésért, illetve az informatikáért felelős miniszter javaslatára a miniszterelnök nevezi ki 5 éves időtartamra [9. § (2) bekezdés]. A Tanács negyedévenként ülésezik [9. § (6) bekezdés].
Mint látható, létrejöttek azok az alapvető kapaszkodók, amelyek lehetővé teszik az EU AI Actben foglalt követelmények érvényesítését.
Áttekintve a szabályozási környezet legfontosabb sarokpontjait, szeretném megfogalmazni aggályaimat, illetve következtetéseimet a jogalkotásra váró kihívásokról, a hiányosságokról és veszélyekről.
Jelenleg nem létezik egy kötelező erejű, egységes, globális szabályozási keretrendszer, amely koordinálná a mesterséges intelligencia fejlesztését és alkalmazását. Az országokra jellemző eltérő szabályozások zavaró helyzeteket teremthetnek a nemzetközi együttműködésben. Ebből a vázlatos áttekintésből is látható, hogy a mesterséges intelligencia kezdetleges formái már nyolcvan éve velünk vannak, de annak szabályozására csupán az utóbbi évtizedben történtek komolyabb erőfeszítések. Az információs technológia globálissá válásával, az internet megjelenésével egyértelmű lett, hogy amennyiben az emberiség ellenőrzése alatt akarja tartani ezt a technológiát, azt csak kötelező erejű, globális megállapodások révén teheti meg. Ebben a vonatkozásban ma még komoly deficittel küzd a szabályozás. A nemzetközi jogi eszközök egyébként sem olyan erősek, mint a nemzeti szuverenitás alatt álló hatóságok intézkedései. Az igazán hatékony megoldás egy világméretű hatáskörrel és döntési jogkörrel, valamint intézkedési jogosultsággal rendelkező központi hatóság
- 225/226 -
létrehozása lenne, amelyhez minden államnak csatlakoznia kellene.
Ez az elképzelés természetesen illúzió a mai ismereteink szerint, de törekedni kellene erre. Az MI ugyanis veszélyesebb, mint az atomenergia, ha rossz kezekbe kerül, legalább olyan pusztításra képes az emberiséggel szemben. Az egyes országok természetesen a saját nemzeti érdekeik védelmére fókuszálnak, ami gátolja a közös, globális megközelítések kialakítását. A versengés a technológiai előnyért gyakran eltérő szabályozási stratégiákhoz vezet. Ne felejtsük el, hogy az MI a jövő technológiája, amelynek fejlesztése során öldöklő verseny folyik a nem csekély mértékű profitért. Az Európa Tanács keretegyezménye megpróbál kényszert gyakorolni a jelentéstételi mechanizmus bevezetésével, de ezt csak regionálisan tudja biztosítani, ha majd a megfelelő számú aláírás és megerősítés következtében nemzetközi jogilag hatályba léphet. Az EU rendelete már sokkal komolyabb beavatkozást biztosít a nemzeti, valamint az uniós piacfelügyeleti és más hatóságoknak, és a hazai szabályozást is alapvetően befolyásolja. A globális érvényesülés azonban mindkét jogi eszköz tekintetében hiányzik, vagyis a nem tagország államok joghatósága alatt ellenőrizetlenül lehet az MI autonómiáját növelve azt előbb emberi képességekkel felruházni, majd tovább lépni az ún. szuperintelligencia felé, amely minden tekintetben messze túlszárnyalja majd az emberi képességeket.
Az MI alkalmazása során felmerülő etikai kérdések, mint például a diszkrimináció, az adatvédelem és a felelősségvállalás, nem kaptak még megfelelő globális keretet. Az MI alkalmazása során gyakran sérül az adatvédelem, hiszen sok esetben hiányoznak a világos és átlátható irányelvek az adatok kezelésére és a felhasználók magánéletének védelmére.
Az irányelvek hiánya megnehezíti a technológiai fejlődés etikus irányba terelését. A nemzetközi szabályozás eddig erre, a jórészt etikai - és nem piaci ellenőrzési - elvekre koncentrált, és próbált ezáltal valamilyen közös nevezőre jutni. Az EU AI Act az egyetlen, amely az EU helyzeténél fogva tovább tudott lépni, és nemcsak etikai kívánalmakat tartalmaz, hanem a piac szabályozását végzi, a nyilvántartástól kezdve a szankcionálásig, vagyis egy komplett felelősségi és intézkedési rendszer alapjait rakta le.
Ez a cikk a szabályozási környezetről szól, de ha mélyebben vizsgáljuk a jogi intézményrendszert, akkor a jogalkotóknak olyan kérdésekre is választ kell majd adni, mint az MI önálló jogalanyisága, felelősségre vonhatósága és szankcionálása vagy büntetése.
A véleményem az, hogy az MI az eddigi jogalanyiság fogalmának nem felel meg, és nem rendelkezik jogokkal és kötelességekkel. Hogyan is lehetne szankcionálni, ha megszegi a feladatainak a teljesítését? Kihúzom a zsinórját a konnektorból? Nos, a szankció is technikai lehet, így például a rendszer leállítása, a hozzáférés korlátozása, az újratanítás vagy az audit kötelezővé tétele.
Az MI-vel kapcsolatos felelősségi rendszert tehát át kell gondolni, mert a jelenlegi, kizárólag az emberre kialakított felelősségi szabályok nem adnak választ minden kérdésre. Például ki vonható felelősségre az MI hibázása és károkozása vagy sérelemokozása esetén? A fejlesztő, az üzemeltető vagy a felhasználó? Vagy teljesen más úton kell a megoldást keresnünk? Esetleg új biztosítási rendszereket kell kialakítani?
Az MI-rendszerek által hozott döntések következményeivel kapcsolatban már napjainkban gyakran felmerül a felelősség kérdése. Egyelőre a meglévő jogintézmények használatával próbálnak a nemzeti szabályozásban választ adni erre, és a háttérben nyilvánvalóan kizárólag az ember áll. Nem mindig egyértelmű azonban a meglévő jogi eszközeink és intézményeink alapján, hogy ki vonható felelősségre a technológiai hibákért vagy az MI-adatok jogtalan felhasználásáért, ami jogi vitákhoz vezethet. Jelen pillanatban még a kissé "önállótlan" mesterséges intelligencia időszakát éljük, amikor ez a technológia jórészt attól függ, hogy milyen információkkal tanítják fel a programokat és az algoritmusokat. A hibákat tehát még az ember követi el az adatbázisok összeállításával és betáplálásával, az ellenőrzés elmulasztásával, a beavatkozás hiányával stb. A szabályozás ezért elsősorban a rendszerek fejlesztőit, forgalmazóit és felhasználóit célozza, és alanya nem maga a mesterséges intelligencia, holott az MI-autonómia megszerzése felelősséggel jár együtt, csak ennek mértékét és jogi lehetőségeit most még nem tudjuk megítélni.
A jogi szabályozás lényege, hogy elsősorban követő jellegű. Hiszen amíg az adott technológia részletei és életviszonyai nem ismertek, addig csak a képzeletünkre támaszkodhatunk. Ugyancsak időbe telik a közmegegyezés létrehozása, amely szintén lassítja a szabályozási folyamatot. Az MI technológiai fejlődése ezzel szemben rendkívül gyors, és a jogi és szabályozási keretek lassabban reagálnak. Ez a disszonancia okozza, hogy a meglévő törvények gyakran nem lesznek képesek kezelni a legújabb kihívásokat. Az MI pedig azon a ponton, amikor eléri az emberfeletti képességeket és azok teljességét, és bekövetkezik annak robbanásszerű hatása, akkor már a jövőbeli szabályozás ereje is majd azon múlik, hogy milyen alapelveket sikerült korábban beépíteni a technológiába.
A döntéshozók és a szabályozók körében sokszor hiányzik a szükséges szakmai tudás az MI-technológiák és azok potenciális hatásainak megértéséhez, ami hátráltatja a hatékony jogi keretek kidolgozását. Ezért jelentősek az olyan társadalmi egyesületek és kooperációk, mint a mesterséges intelligencia koalíciók, vagyis a vállalkozások,
- 226/227 -
az egyetemek és a kormányok, valamint a kutatók együttműködése a mesterséges intelligencia fejlesztésén, gyakran nemzeti stratégiák kidolgozásával, a felelős fejlesztés előmozdításával. Példa erre Magyarország nemzeti stratégiai koalíciója. Ezek a koalíciók elősegítik az innovációt, megosztják a legjobb gyakorlatokat, és céljuk, hogy régióikat vezetővé tegyék a globális mesterséges intelligencia világában.
Magyarország mesterséges intelligencia stratégiája fontos lépéseket tett az MI fejlesztése és alkalmazása terén, ám a folytatás érdekében szükséges a kihívások kezelésére és a versenyképesség növelésére összpontosítani. Az eddigi eredmények biztatók, de a jövőbeli siker érdekében a folyamatos fejlesztések és a szakmai közeg, valamint az ipar közötti együttműködés elengedhetetlen. Az MI-technológiák bevezetése hozzájárulhat a termelékenység és a gazdasági növekedés fokozásához, különösen az automatizálás és a hatékonyság javítása révén. Az MI alkalmazása a közszolgáltatásokban és az egészségügyben segíti a hatékonyabb működést és a szolgáltatások minőségének javítását.
A stratégia hozzájárulhat Magyarország nemzetközi versenyképességének növeléséhez az MI terén, lehetőséget biztosítva a nemzetközi együttműködésekre és lehetőségek kiaknázására. A stratégia végrehajtása érdekében a megfelelő források biztosítása és a pénzügyi támogatások elnyerése továbbra is kulcsfontosságú. Az MI-technológiák fejlődése új etikai és jogi kérdéseket vet fel, amelyeket kezelni szükséges. Az automatizáció és az MI elterjedése munkahelyek megszűnéséhez vezethet, így fontos a munkaerőpiac átképzési programjainak fejlesztése.
A mesterséges intelligenciára vonatkozó magyar jogszabályi rendelkezések folyamatosan fejlődnek, reagálva a technológiai kihívásokra és az etikai elvárásokra. A jogi keretek megfelelő alakítása elengedhetetlen az MI biztonságos és felelős alkalmazásához, amely hozzájárul a gazdasági fejlődéshez és a társadalmi jóléthez. A jövőbeni jogalkotásnak viszont figyelembe kell vennie a gyorsan változó technológiai környezetet, valamint az MI-vel kapcsolatban felmerülő új kihívásokat és az alapjogi, etikai kérdéseket is. ■
JEGYZETEK
[4] AI 2027: készen állunk a szuperintelligenciára? David Orban, 2025.04.07., https://davidorban.com/hu/2025/04/ai-2027-keszen-allunk-a-szuperintelligenciara/
[5] https://www.tableau.com/data-insights/ai/history
[6] Alan M. Turing: Computing Machinery and Intelligence. Mind, 1950. (236), 433-460. DOI: https://doi.org/10.1093/mind/LIX.236.433
[7] https://www.eimt.edu.eu/who-is-the-father-of-ai-and-machine-learning
[8] G. Karácsony Gergely: Okoseszközök - Okos jog? A mesterséges intelligencia szabályozási kérdései. Budapest, Dialóg Campus Kiadó, 2020. 20.
[9] Az Európai Parlament és a Tanács (EU) 2024/1698 rendelete (2024. június 13.) a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról, valamint a 300/2008/EK, a 167/2013/EU, a 168/2013/EU, az (EU) 2018/858, az (EU) 2018/1139 és az (EU) 2019/2144 rendelet, továbbá a 2014/90/EU, az (EU) 2016/797 és az (EU) 2020/1828 irányelv módosításáról (a mesterséges intelligenciáról szóló rendelet), https://eur-lex.europa.eu/legal-content/HU/TXT/?uri=CELEX:32024R1689, 3. cikk 1. pont.
[10] Resolution A/78/L.49.
[11] https://www.un.org/en/ai-advisory-body
[13] https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449
[15] https://www.oecd.org/en/publications/ai-language-models_13d38f92-en.html
[16] https://www.mofa.go.jp/policy/economy/g20_summit/osaka19/pdf/documents/en/annex_08.pdf
[17] https://www.mea.gov.in/Images/CPV/G20-New-Delhi-Leaders-Declaration.pdf
[18] G7 Hiroshima Process.
[19] Sorbán Kinga: Az EU helye a nemzetközi MI irányítás rendszerében. ludovika.hu, 2024.09.02., https://www.ludovika.hu/blogok/itkiblog/2024/09/02/az-eu-helye-a-nemzetkozi-mi-iranyitas-rendszereben/
[20] https://www.coe.int/en/web/digital-governance/artificial-intelligence
[21] EU AI Act 3. cím 2. pont.
[22] Az Európai Unió mesterséges intelligenciáról szóló rendeletének magyarországi végrehajtásáról szóló 2025. évi LXXV. törvény indokolásából, Általános indokolás, 4-6. bekezdés.
[23] Lásd: Az Európai Parlament és a Tanács 2024/1689 rendelete, továbbá Mezei Kitti: A mesterséges intelligencia szabályozásának aktuális kérdései az Európai Unióban. In Medias Res, 2023. 153-170., DOI: https://doi.org/10.59851/imr.12.1.4
[24] Magyarország Mesterséges Intelligencia Stratégiájának megújításáról, valamint a végrehajtásához szükséges egyes intézkedésekről (2025-2030) szóló 1324/2025. (IX. 3.) Korm. határozattal jóváhagyott Stratégia, 7. A Mesterséges Intelligencia Koalíció 2018-ban alakult, célja a hazai MI-fejlesztés és alkalmazás elterjedésének széles körű ösztönzése. A Koalíció több mint 400 szervezetet számláló tagságát az üzleti, tudományos és államigazgatási szereplők és szervezetek adják. A Koalíció működését a Neumann János Nonprofit Közhasznú Kft. Biztosítja.
Lábjegyzetek:
[1] A szerző alkotmánybíró; tanszékvezető egyetemi tanár, Károli Gáspár Református Egyetem Állam- és Jogtudományi Kar. https://orcid.org/0000-0001-5155-0377
Visszaugrás
