https://doi.org/10.59851/mj.73.04.5
A tanulmány a deepfake-technológia büntetőeljárásra gyakorolt legfontosabb kihívásait vizsgálja. A tanulmány elemzi a deepfake jogi definiálásának kérdését, a digitális bizonyítékok hitelességének megőrzésével kapcsolatos problémákat, valamint a klasszikus bizonyítékértékelési elméletek alkalmazhatóságát a mesterséges intelligencia korában. Kitér továbbá a szakértői bizonyítás különös szerepére, továbbá a hitelesítő szoftverek, hash-kódok, kötelező MI-jelölések büntetőeljárásban betöltött funkciójára.
Kulcsszavak: deepfake-technológia; mesterséges intelligencia; digitális bizonyíték; szakértői bizonyítás; hash-kódok; hitelesítő szoftverek; bűnjelkezelés; fegyverek egyenlőségének elve; különleges szakértelem mércéje
The study examines the most significant challenges that deepfake technology poses to criminal proceedings. It analyses the issues surrounding the legal definition of deepfakes, the problems related to preserving the authenticity of digital evidence, and the applicability of traditional theories of evidence evaluation in the age of artificial intelligence. The study also addresses the special role of forensic expert testimony, as well as the function of authentication software, hash codes, and mandatory AI labels within criminal proceedings.
Keywords: deepfake technology; artificial intelligence; digital evidence; expert testimony; hash codes; verification software; crime scene management; principle of the equality of weapons; standard of specialized expertise
Képzeljük el a következő szituációt: a rendőrségen gyanúsítottként hallgatnak ki minket, és éppen egy videófelvételt mutatnak be nekünk. A felvétel szereplőjének az arca zavarba ejtően ismerős - hiszen ez a mi arcunk. Tudjuk, hogy valójában nem mi vagyunk ezen a felvételen, amelyen valaki éppen egy bűncselekményt követ el, azonban ezt nem tudjuk bizonyítani. A nyomozó hatóság informatikus szakértőt rendel ki a felvétel hitelességének megállapítása érdekében, azonban a szakértő nem tud megbízhatóan állást foglalni a hitelesség kérdésében, mindössze annyit állapít meg, hogy az elvégzett szakértői módszerek alapján nem találhatók manipulációra utaló jelek.
Ez nem a távoli jövő disztópiája, hanem korunk egyik legnagyobb fenyegetése a büntetőeljárásra nézve: a deepfake-technológia, amely képes hamis, de rendkívül valósághű képek, videók és hangfelvételek létrehozására vagy manipulálására.
A deepfake-technológia már képes olyan tartalmakat létrehozni, hogy a szakértők sem képesek minden esetben a hamis és a valódi bizonyítékok megkülönböztetésére, melynek jelentőségét fokozza, hogy a deepfake mára olyan széles körű hozzáféréssel rendelkezik, hogy különleges informatikai, grafikus vagy hangszerkesztői szaktudás nélkül is szinte bárki rövid idő alatt valósághű tartalmakat tud létrehozni.[1]
E tanulmány azt a célt hivatott szolgálni, hogy feltárja a deepfake-technológia büntetőeljárásra gyakorolt veszélyeit, valamint javaslatokat fogalmazzon meg a felmerülő kihívások hatékony kezelésére. A kutatási téma feldolgozásához több módszertani megközelítést alkalmazok, melynek során elengedhetetlen a kép-, hang- és videófelvételek bizonyítékként történő értékelésére vonatkozó releváns elméletek, jogforrások, jogi és egyéb tudományterületről érkező szakmai anyagok értelmezése és összevetése, valamint a téma specifikusságából adódóan egy igazságügyi informatikus szakértővel történő interjú elkészítése[2]. Az igazságügyi szakértői megállapítások az egyik fontos kiindulópontját adják e tanulmánynak, ugyanis a szakmai tények meghatározó szerepet játszhatnak abban, hogy milyen szabályozási megoldások válhatnak indokolttá.
Már kutatásom elején azzal a jelenséggel szembesültem, hogy még a szakirodalomban is eltérő definíciók keringenek a deepfake-technológiával kapcsolatban. Meggyőződésem, ha nem tudjuk kristálytisztán meghatározni azt, hogy mivel állunk szemben, akkor nem láthatjuk tisztán a kihívások természetét sem, és nehezen képzelhető el a megfelelő jogi fogalmak és eljárásjogi szabályok kialakítása. Ennek fényében a tanulmány első részében arra vállalkozom, hogy jogi és technológiai szempontból meghatározzam a deepfake mibenlétét.
A deepfake-hamisítás okozta kihívásoknak való megfelelés elképzelhetetlen az igazságügyi szakértők munkája nélkül, azonban a hitelesség vizsgálata során gyakran már az sem egyértelmű, hogy hol kezdődik a különleges szakértelem mércéje. Ennek fényében fontos olyan szempontrendszereket kidolgozni, amelyek iránymutatást adnak a legfontosabb kérdésekben:
- A kép-, hang- és videófelvételek kapcsán mi a különleges szakértelem mércéje, mikor indokolt a szakértő alkalmazása?
- A bizonyosság milyen szintjén tudnak a szakértők megállapításokat tenni a bizonyítékok hitelességének te-
- 237/238 -
kintetében? Hogyan értékelhető a büntetőeljárásban az a kép-, hang- vagy videófelvételre vonatkozó szakértői vélemény, amely sem kategorikusan, sem a valószínűség magas szintjén nem tud megállapításokat tenni?
- A bizonyítékok beszerzése, rögzítése kapcsán milyen kritériumokat kell követni, hogy azok hitelességét az eljárás során kétséget kizáróan meg lehessen állapítani?
Megítélésem szerint a deepfake-technológia fejlődésének egyik el nem hanyagolható veszélye, hogy az egyébként valódi kép-, hang- és videófelvételek hitelessége könnyen és tömegesen vitathatóvá válhat. Annak érdekében, hogy a büntetőeljárásban megbízhatóan fel lehessen használni az ilyen bizonyítékokat, nélkülözhetetlen, hogy azok megszerzésére és rögzítésére vonatkozó előírások az eddigi feltételekhez képest magasabb szinten biztosítani tudják a hitelességet. Ezzel összefüggésben tanulmányomban vizsgálom a hitelesítő szoftverek alkalmazásának, valamint a mesterséges intelligencia által létrehozott tartalmak kötelező megjelölésének lehetőségét is.
Kétségtelen, hogy a mesterséges intelligencia kedvező hatást is gyakorolhat mind az életünkre, mind pedig a büntetőeljárásra nézve. Kutatásom azonban - a célkitűzésével összhangban - kizárólag a deepfake-technológia által jelentett kihívások vizsgálatára korlátozódik.
A deepfake kifejezés a deep learning (mély tanulás) és a fake (hamis) szavakból ered. Az elnevezés arra utal, hogy valamilyen hamis tartalom jön létre a deep learning gépi tanulási technikával.[3] A deep learning a mesterséges intelligencia (AI) egyik ága, melynek egyik legfontosabb jellemzője, hogy a rendelkezésre álló adatok alapján képes tanulni, fejlődni. Minél több adatot kap a mesterséges intelligencia, annál pontosabb eredményt tud produkálni,[4] hiszen a deepfake-technológia ez alapján képes tökéletesíteni eredményeit.[5]
Fontos kiemelni, hogy nem minden mesterséges intelligencia által készített tartalom deepfake. A deepfake az AI-generated materialnak (AIM), azaz a mesterséges intelligencia által generált tartalomnak csak egy részét teszi ki, ugyanis a mesterséges intelligencia kép- és hangalkotási képességei nem minden esetben realisztikus tartalom elkészítésére használatosak,[6] például készíthetünk vele rajzfilmfigurát vagy névjegykártya-dizájnt is. Tehát az AIM és a deepfake relációjában az AIM a tágabb kategória.
A deepfake-technológia legelterjedtebb változata a GAN (Generative Adversarial Network), amely két versengő modellt tartalmaz. Leegyszerűsítve, a generátor modell elkészíti a kívánt tartalmat - képet, hangfelvételt vagy videót -, majd azt a diszkriminátor modell leellenőrzi. Amennyiben a diszkriminátor algoritmusa szerint a tartalom hamisítvány, akkor azt visszaküldi a generátornak, majd ez a folyamat addig ismétlődik, amíg a generátor modell tökéletesíti az eredményt.[7]
Természetesen vannak olyan változatok is, amelyek a manipulációt valós időben (megelőző "mintavételt" követően) hajtják végre, például a hangalapú deepfake már évekkel ezelőtt is olyan jól működött, hogy tudósítások szerint 2019-ben egy energetikai cég vezérigazgatója több mint 70 millió forintnak megfelelő eurót utalt át egy számlára, ugyanis egy deepfake által manipulált hang elhitette vele, hogy az anyavállalatának vezetőjével beszél telefonon.[8]
A jelenleg hatályos jogrendszerünk nem rendelkezik a deepfake pontos meghatározásával. A definiálás hiánya természetesen nem jelenti azt, hogy a deepfake használata nem járhat jogkövetkezményekkel, például a Büntető Törvénykönyvről szóló 2012. évi C. törvényben (a továbbiakban: Btk.) meghatározott törvényi tényállások egy része kimeríthető a deepfake használatával is, mint például a becsület csorbítására alkalmas hamis hang- vagy képfelvétel készítése vagy a zsarolás. Ugyanakkor Herke Csongor szerint elképzelhető lenne olyan tényállások megalkotása is, amelyek a deepfake-hez kapcsolódnak, vagy éppen a meglévő tényállások minősített eseteit bővítenék.[9] Nyilvánvalóan a deepfake használata rendkívül sok jogkövetkezménnyel bírhat különböző jogterülete-
- 238/239 -
ken, azonban a tanulmány célkitűzéseivel összhangban kizárólag a büntetőeljárás oldaláról vizsgálom azt.
Ami a deepfake fogalmi meghatározását illeti, Lendvai Gergely Ferenc a következőképpen fogalmazza meg: "a deepfake mesterséges intelligencián alapuló technológia, amely segítségével a felhasználó célzatosan és szándékosan hamisított, leginkább emberekről készített kép- és hangfelvétel-tartalmakat tud készíteni, oly módon, hogy a létrehozott tartalom meggyőző módon képes a hamisított tartalmat valóságosnak érzékeltetni".[10] Más értelmezésben Sorbán Kinga hozzáfűzi azt, hogy "algoritmusok által manipulált felvételek".[11]
Az Európai Parlament és a Tanács 2024/1689. rendelete (a továbbiakban: AI Act) 3. cikkében úgy fogalmaz, hogy a deepfake "az MI által generált vagy manipulált kép, audio- vagy videótartalom, amely hasonlít létező személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre, és amely egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnne".
Egy amerikai törvénytervezet, a Deepfakes Accountability Act[12] a deepfake-et a következő módon írja le: "A deepfake olyan videofelvétel, mozgóképes film, hangfelvétel, elektronikus kép vagy fénykép, illetve a beszéd vagy magatartás bármely olyan technológiai ábrázolása, amely A) úgy tűnik, hogy hitelesen ábrázolja egy olyan személy beszédét (hangját) vagy magatartását, aki valójában nem vett részt ilyen beszédben vagy magatartásban; és B) amelynek előállítása valójában technikai eszközökön múlik, és nem pedig egy másik személy azon képességén, hogy fizikailag vagy szóban megszemélyesítse az ilyen személyt".
Minden ismertetett megközelítés tartalmazza, vagy utal arra, hogy a deepfake egy mesterséges intelligencián alapuló technológia, azonban a Deepfakes Accountability Act ködösen fogalmaz ebben a vonatkozásban, miszerint: [az] "előállítás valójában technikai eszközökön múlik, és nem pedig egy másik személy (...) képességén". Az ismertetett technológiai háttér tükrében a deepfake jogi meghatározásakor indokoltnak tartom egyértelműen rögzíteni, hogy a deepfake egy mesterséges intelligencián alapuló technológia.
Lendvai meghatározása kihangsúlyozza a deepfake fogalmi elemeként a hamisított tartalmak célzatos és szándékos készítését. A célzatos elkövetés büntetőjogi fogalom, amely arra utal, hogy a célzat a törvényi tényállásban megfogalmazott cél, amelynek elérésére törekszik az elkövető.[13] Lendvai természetesen nem a deepfake készítésének törvényi tényállását kívánta megfogalmazni, ezért elmondható, hogy a célzatosság azt jelenti, hogy a tartalom létrehozása mögött egy konkrét, előre meghatározott cél vagy célkitűzés áll. Például, ha azért hoz létre deepfake-et valaki, hogy befolyásolja a nyomozás eredményét, akkor a tartalom elkészítése e fogalom szerint célzatos. A célzatosság azonban álláspontom szerint nem tekinthető a deepfake meghatározásánál releváns szempontnak, inkább az esetleges büntetőjogi törvényi tényállások meghatározásánál bírhat jelentőséggel. A manipulátor és a tartalmat felhasználó személy elkülönülhet egymástól. Ha a manipulátor tudatát nem fogja át az a tény, hogy a másik személy mire szeretné felhasználni az általa hamisított tartalmat, akkor semmiképpen nem beszélhetünk célzatosságról, azonban a deepfake célzat nélkül is képes olyan tartalmat létrehozni, amely valódinak tűnik. Maga a megtévesztés pedig még inkább nem rendelhető a célzat fogalma alá, hiszen a megtévesztő képesség a deepfake-technológia velejárója, ezért a célzatosság a megtévesztésen túli eredményt feltételez.
Ahogy a technológiai alapvetéseknél rámutattam a mesterséges intelligencia által generált tartalom és a deepfake közötti relációra, így e meghatározásoknál is hangsúlyos szerepet kap az a felismerés, hogy a deepfake tartalomnak alkalmasnak kell lennie arra, hogy a hamisított tartalom eredetinek hasson. Lendvai megfogalmazásában "meggyőző módon képes (...) valóságosnak érzékeltetni", az AI Act által rögzített meghatározásnál "megtévesztő módon autentikusnak vagy valóságosnak tűnne" kifejezés szerepel, míg a Deepfakes Accountability Act "úgy tűnik, hogy hitelesen ábrázolja" megfogalmazást használja. Mindhárom értelmezésből kitűnik, hogy a tartalom nem kell, hogy tökéletes legyen, vagy teljesen valósághűként mutatkozzon minden részletében, pusztán elegendő, ha meggyőző módon, az érzékek útján képes ezt a látszatot kelteni.
Az értelmezési nehézségek elkerülése miatt fontosnak tartom rögzíteni, hogy a deepfake kifejezés használatos egyszerre a deepfake-technológia termékének megjelölésére, tehát a manipulált vagy mesterségesen kreált tartalomra, valamint magát a deepfake-technológiát is gyakran egyszerűen "deepfake" jelzővel illeti a szakirodalom. Bár az AI Act által meghatározott deepfake-fogalom irányadónak tekinthető, azonban az ismertetett fogalmi elemek és technológiai háttér figyelembevételével álláspontom szerint a deepfake-technológia az alábbiak szerint definiálható a legpontosabban: A deepfake olyan mesterséges intelligencia alapú technológia, amely alkalmas kép-, hang- és videófelvételek létrehozására vagy manipulálására oly módon, hogy azok megtévesztően hitelesnek és valóságosnak tűnjenek.
Egyes tudósítások szerint Párizsban már 1841-ben lefényképeztek minden őrizetbe vett személyt, Magyarországon pedig 1887-ben kezdték meg a fényképnyilvántartás fel-
- 239/240 -
állítását. A 20. században széles körben útnak indult a bűnügyi fényképezés, az elmúlt néhány évtizedre pedig egyre fontosabb szerepet játszott a büntetőeljárásban. Ezen bizonyítékok általában gyorsan és költséghatékonyan hozzáférhetők, objektivitásuk igen kevés kétséget hagy maga után. A megbízhatóság ellenére már a 20. századi szakirodalom felismerte annak veszélyét, hogy a fénykép objektivitása és pártatlansága ki van téve a fényképész szándékának.[14] Mindamellett a mesterséges képalkotás elterjedése kapcsán Kertész Imre 1992-ben felvetette annak lehetőségét, hogy "megcsappanhat" a fénykép bizonyítási jelentősége,[15] sőt egyes szerzők azt jósolták az 1990-es években, hogy a Photoshop elterjedése az "igazság krízisét" fogja okozni.[16]
A képfelvételek értékelésére számos elmélet alakult ki az igazságszolgáltatásban való elterjedése óta. Klasszikusan két elmélet állítható szembe egymással, a képi tanú elmélet (pictorial testimony theory vagy pictorial communication theory) és a néma tanú elmélet (silent witness theory).[17]
A képi tanú elmélet szerint a képfelvétel bizonyítékként történő értékeléséhez nem elegendő a képi tartalom rendelkezésre állása, hanem szükséges a hitelességének a megerősítése is egy tanú által. A tanúval szemben nem követelmény az, hogy ő készítse a fényképet, vagy hogy a fényképezés pillanatában jelen legyen a helyszínen, pusztán az is elegendő, ha igazolni tudja, hogy a felvétel a valóságot tükrözi.[18] Kertész Imre rámutat arra, hogy az elmúlt században az Egyesült Államokban az volt a gyakorlat, hogy nem a fényképész tett tanúvallomást, hanem a helyszínre elsőként kiérkező rendőr, ugyanis ő hitelesebben tudott tanúskodni a fényképen látható dolgok valódiságáról.[19]
A szakértői bizonyítás kérdését részletesen a későbbiekben kívánom kifejteni, azonban azt leszögezhetjük, hogy a szakértők nem minden esetben tudják kétséget kizáróan megállapítani egy felvétel hitelességét. Nem szabad azonban megfeledkeznünk a személyi bizonyítékok szerepéről sem, hiszen egy tanú igazolni tudja a felvételen lévő tartalom valódiságát vagy a felvétel eljutását a hatóságokhoz, esetlegesen a bűnjelként lefoglalt felvétel hitelességi láncolatának a meglétét. Ebben az esetben a bíróság bizonyítást vehet fel, és a felvétel bűnjelként való kezeléséről, vagy a lefoglalást megelőző állapotáról tanúként kihallgathatja akár a hatóság tagjait is, hiszen a Be. 168. § (1) bekezdésében meghatározott bizonyítandó tény éppen a hitelesség kérdése lehet.
A néma tanú elmélet esetén ezen bizonyítékok elfogadhatóságának küszöbe alacsony, ugyanis itt nincs szükség külső hitelesítésre, az elmélet a képfelvételeket azok objektivitásából kiindulva tekinti megbízhatónak. A néma tanú elmélet nem kívánja meg, hogy egy tanú hitelesítse a vizuális tartalmat, hiszen maga a tartalom mint "néma tanú" fogadható el bizonyítékként. Egyes vélemények szerint ma különösen akkor lehet jelentősége ezen elméletnek, amikor a felvételek a biztonsági kamerák zárt rendszeréből származnak.[20]
Nyilvánvalóan ezen elméleteknek a vegyes alkalmazása jellemző, önmagában mindkettő feltételrendszer mára már meghaladottá vált. Egyes szakirodalmi álláspontok szerint a néma tanú elmélet a deepfake korában nem alkalmazható megbízhatóan, hiszen a deepfake-technológia túlságosan meggyőző tud lenni ahhoz, hogy hitelesítő tanú nélkül kellő legyen a felvétel valódiságába vetett bizalom.[21] Mások megítélése szerint sem a képi tanú elmélet, sem a néma tanú elmélet nem alkalmazható a deepfake korában, hiszen sem a felvétel nem lehet önmagában néma tanú, sem pedig egy tanú nem fogja tudni tanúsítani a felvétel valódiságát, hiszen ez önmagában nem feltétlenül elég ahhoz, hogy elfogadjuk a bizonyíték hitelességét.[22]
A néma tanú elmélet alkalmazása álláspontom szerint is nehezen tűnik eredményesen alkalmazhatónak a deepfake-hamisításokkal szemben, hiszen az elmélet éppen abból indul ki, hogy a felvételek objektív információkkal szolgálnak. Azonban a hitelesség megőrzése érdekében a bizonyítékokat elláthatjuk olyan adatokkal, amelyek segítségével biztosítható a hitelességük, így - bár némiképp "külső" hitelesítő forrásból származóan - a digitális korban is "néma tanúk" maradhatnak. Ilyen hitelesítő módszereknek tekinthető a hitelesítő szoftverek, hash-kódok használata (lásd később).
- 240/241 -
Az eddigi büntetőeljárásról szóló törvényeink szabályrendszerében a szakértő alkalmazásának oka töretlenül érvényesült, a Be. 188. § (1) bekezdése, valamint a büntetőeljárásról szóló 1998. évi XIX. törvény (a továbbiakban: 1998-as Be.) 99. § (1) bekezdése azonos tartalommal előírja, hogy ha a bizonyítandó tény megállapításához vagy megítéléséhez különleges szakértelem szükséges, szakértőt kell alkalmazni. Már az 1973. évi I. törvény is hasonlóképpen fogalmazott, mindössze az "alkalmazni" szó helyett az "igénybe venni" kifejezést használta. A Be. miniszteri indokolásában olvashatjuk, "ha valamely tény megállapítása vagy megítélése különleges szakértelmet igényel, akkor a bizonyítás alanyainak kötelezettsége a szakértő alkalmazása". A miniszteri indokolás szerint ez olyan átfogó szempontnak tekinthető, ami miatt a Be. szakít az eddigi tendenciával, és nem ad taxatív felsorolást, hogy mely esetekben kötelező szakértőt igénybe venni. Ezzel szemben az 1998-as Be. indokolásában azt olvashatjuk, hogy "a bizonyítandó tény vagy az eldöntendő kérdés természete a különleges szakértelem szükségességét egyes esetekben vitathatatlanná teszi". Tehát a régi jogalkotói álláspont szerint egyes kérdések eldöntése mindenképp szakértő igénybevételét tette szükségessé. A Be. szabályozásában a szakértő igénybevételének kötelezettségeként mindössze a "különleges szakértelem" meghatározás maradt.
A különleges szakértelem mércéjének pontos meghatározására azonban sem a törvényi megfogalmazás, sem a miniszteri indokolás nem vállalkozik, mindössze az 1998-as Be. indokolásában került megfogalmazásra, hogy "a különleges szakértelem alsó határának megvonásakor a mindennapi, általános ismeretek szintjét meghaladó ismeretek szükségességéből kell kiindulni". Ezzel ellentétben Erdei Árpád szerint a gyakorlat azt mutatja, hogy a különleges szakértelem alsó határának a büntetőeljárásban részt vevő bírónak, ügyésznek, nyomozó hatóság tagjainak általános szakmai ismerete tekinthető.[23] A Kúria egyik összefoglaló véleményében[24] Csere Katalin fejti ki, hogy "Amennyiben a büntetőeljárásban jelentős tények és körülmények bizonyításához különleges szakértelem kell, mert a mindennapos élettapasztalat, a közönséges tudás, az általános ismeretanyag, valamint a speciális jogi szakismeret a bizonyításhoz nem elegendő, továbbá ha hiányoznak a bizonyított tényekből a nem bizonyított tényekre logikai úton való következtetés feltételei, szakértőt kell igénybe venni". Csere Katalin megfogalmazásából tehát kitűnik, hogy a szakértő kirendelésének egyik lehetséges feltétele, hogy a rendelkezésre álló, bizonyított tények alapján logikailag ne lehessen következtetést levonni a nem bizonyított tényekre, amellyel természetesen nem a különleges szakértelem mércéjének meghatározására utal, hanem a bizonyítandó tény meglétére.
Egy gondolat erejéig megállva a logikai következtetés módszerével kapcsolatban fontosnak tartom rögzíteni, hogy természetesen a büntetőeljárásban mindvégig figyelemmel kell lennünk az in dubio pro reo elvére, amely a Be. 7. § (4) bekezdésében ölt testet, miszerint a kétséget kizáróan nem bizonyított tény nem értékelhető a terhelt terhére. Ennek az elvnek az alkalmazása alapjaiban határozza meg a büntetőeljárásban a bizonyítékok értékelése során a bizonyosság fokát, így tehát a logikai következtetés módszere is ilyen tekintetben értelmezhető akkor is, ha szakértő kirendelése a kérdés.
A különleges szakértelem alsó mércéjéről megítélésem szerint elmondható, hogy az általános élettapasztalatban, evidens tényekben, speciális jogi ismeretekben, valamint köztudomású tényekben határozható meg, figyelembe véve azt a tényt, hogy az utóbbinak a szintje sem határozható meg általánosságban. Herke Csongor kifejti, hogy mindig az adott ügyben kell vizsgálni, hogy az adott kérdés köztudomásúnak tekinthető-e.[25] Az eljáró hatóság vagy bíróság tagjainak adott szakterületen való személyes képzettsége, szakértelme ugyancsak nem játszhat releváns szerepet a szakértő alkalmazásának kérdésében, ugyanis, ha a kérdés eldöntése különleges szakértelmet igényel, akkor a szakértő igénybevétele nemcsak lehetőség, hanem kötelezettség is.[26]
A deepfake-technológia által manipulált vagy létrehozott bizonyítékok kapcsán annak meghatározásához, hogy mikor szükséges szakértő alkalmazása, a Be. ismertetett szabályozásából levezetve először azt kell megvizsgálnunk, hogy a tényállás tisztázásához szükséges-e különleges szakértelem igénybevétele. A bizonyítékok hitelességének vizsgálata során a különleges szakértelem mércéjének pontos meghatározására való törekvést rendkívül kockázatosnak tartom, éppen a deepfake-technológia kiemelkedő megtévesztő képessége miatt. Ehelyett álláspontom szerint olyan esetkörök határozhatók meg, amikor a jogalkalmazó megnyugtatóan foglalhat állást szakértő igénybevétele nélkül a hitelesség kérdésében.
Az egyik ilyen esetkör, amikor a deepfake-technológia által manipulált felvételen észlelhető tartalom megkérdőjelezhetetlenül és súlyosan ellentétben áll az általános élettapasztalattal. A deepfake technológiának nem minden változata tud kiváló tartalmakat létrehozni, így ilyen szituáció lehet, ha a felvételen súlyos grafikai hibák láthatók, például a felvételen a vádlott több végtaggal, jelen-
- 241/242 -
tősen eltorzult testalkattal és fejformával vagy nem létező helyszínen látható, tehát olyan kategóriába esik, amely ténylegesen nem is vonható be a deepfake fogalma alá, csupán a technológiai háttér résznél kifejtett AIM (tehát mesterséges intelligencia által alkotott tartalom) tágabb kategóriájába esik.
Egy másik esetkör a korábban ismertetett néma tanú elmélettel és a hash-kódok használatával hozható szoros összefüggésbe. A hash-kód leegyszerűsítve azt jelenti, hogy egy adott információból - esetünkben kép-, hang- vagy videófelvételekből - a hash-függvény készít egy meghatározott hosszúságú kódsort, amivel később azonosítható az eredeti fájl. Amennyiben az eredeti fájlban egy bitnyi adat (tehát az információ legkisebb egysége) is megváltozik, akkor annak a képzett hash kódja is.[27] Ezáltal ha rendelkezésre áll az eredeti hash-kód, akkor annak összehasonlításával szakértő igénybevétele nélkül is könnyedén ellenőrizhető, hogy történt-e módosítás az elektronikus adatban. Ehhez természetesen az szükséges, hogy a hatóság a bizonyítékok rögzítése vagy beszerzése során hash-kódokat generáljon az adott fájlhoz.
Herke Csongor rámutat arra, hogy egyesek szerint a megfelelő metaadatokkal ellátott bizonyítékok önhitelesnek tekinthetőek, tehát nem igényelnek külső hitelesítést, valamint álláspontjában kifejti, hogy a metaadatok annyira hétköznapi információnak tekinthetőek, hogy azok vizsgálata önmagában nem szakkérdés, kivéve, ha felmerült azoknak a manipulációja.[28]
A felvételek készítésekor a rögzítő eszköz automatikusan hozzárendel különböző információkat a felvételhez (ezek a metaadatok), mint például az eszköz típusát, sorozatszámát, a felvétel létrehozásának pontos idejét, az eredeti fájlnevet, az esetleges módosítás tényét és idejét, sőt egyes esetekben a felvétel készítésének helyét is GPS-koordináták megadásával.[29] Vannak olyan adatkinyerő módszerek, amelyek esetében a metaadatok teljesen hiányoznak, például a külső megfigyelésen alapuló vizuális adatkinyerésnél, amikor technikai okokból egy készülék kijelzőjén látható adatok (például képek) csak egy külső eszköz kamerájával rögzíthetők, így csak a rögzítést végző eszköz metaadatai lesznek elérhetőek, az eredeti felvételé nem,[30] illetve más fájlformátumba való mentés vagy szakszerűtlen másolás miatt is bekövetkezhet adatvesztés.
Meggyőződésem, hogy óvatosnak kell lennünk, ha a metaadatok hitelességéről szeretnénk állást foglalni, ugyanis Kiss Attila László rámutatott arra az interjú során, hogy még a metaadatokkal is bizonytalanná válhat egy felvétel hitelessége, hiszen a megfelelő szoftverekkel azok módosíthatók, törölhetők. Elmondta továbbá, hogy a metaadatok is utalhatnak manipulációra, ugyanis a metaadat mélysége, mennyisége eltérő különböző rögzítő eszközöknél. Ennek okán azt gondolom, hogy ha felmerül egy bizonyíték manipulálása egy eljárásban, akkor a metaadatok megléte és hatóság általi ellenőrzése nem eredményezheti automatikusan az informatikus szakértő jelenlétének mellőzését, azonban a hash-kódok összehasonlítása már adott esetben igen. Azonban, ha a bizonyítékokat nem a rögzítésekor hitelesítették, akkor a hash-kód az azt megelőző módosítások észlelésében nem segíthet.
A mesterséges intelligencia által létrehozott tartalmak kötelező megjelöléséről a tanulmány későbbi részében részletesen foglalkozom, azonban már itt is utalnék arra, hogy a mesterséges intelligencia alapú kép, hang és videó létrehozására vagy manipulálására alkalmas szoftverekkel szemben előírható, hogy a létrehozott felvételen kerüljön megjelölésre - például vízjelekkel, naplózási vagy kriptográfiai módszerekkel -, hogy a tartalom mesterséges intelligencia terméke. Úgy vélem, ha a felvételen olyan jelölés található, amely tanúsítja, hogy azt mesterséges intelligencia hozta létre - és kizárólag ez a kérdés merül fel -, akkor mellőzhető a szakértő kirendelése. Előfordulhatnak azonban olyan esetek is, amikor a mesterséges intelligenciát mindössze arra használták, hogy az adott felvétel élesebb képminőséggel vagy tisztább hangzással rendelkezzen. Ilyen esetben értelemszerűen indokolt lehet a szakértő bevonása, hiszen fontos lehet, hogy pontosan milyen módosításokat végeztek, esetleg történt-e egyéb, nem közölt manipuláció a felvételen.
Kiss Attila László az interjú alatt kiemelte, hogy a problémák egyre inkább multidiszciplinárissá válnak, tehát több különböző szakterületről érkező szakértő munkája lehet szükséges egy adott kérdés megválaszolásához, valamint olyan szakterületek is előtérbe kerülnek, amelyekre az eddigi gyakorlat során ritkán volt szükség. Ilyennek tekinthető például a nyelvész szakértő, aki egy hangfelvétel értékelése kapcsán egy személy beszédstílusát, hanglejtését, szóhasználatát értékeli, és az alapján tesz megállapításokat.
Előfordulhat, hogy egy manipulált hangfelvételen a vádlott hangja hallható, és egy hangszakértő nagy valószínűséggel megállapítja, hogy a vádlott hangja hallatszik, de egyáltalán nem biztos, hogy a felvétel hitelességének kérdésében is ilyen kijelentést tud tenni, hiszen már az is kérdés, hogy valóban a vádlott mondta-e a szavakat, vagy az csak manipuláció eredménye.
A szakvélemények megállapításait tekintve megkülönböztethetjük egymástól a kategorikus (vagy teljes bi-
- 242/243 -
zonyossággal határos valószínűség szintjén álló) szakvéleményeket és a lehetőség szintű bizonyítottságot meghatározó szakvéleményeket.[31] Az egyik legnagyobb kihívást az jelenti, hogy egy felvétel hitelességét nem mindig tudja egy szakértő teljes bizonyossággal vagy a valószínűség magas fokán megállapítani, ami komoly bizonyítási problémákat jelenthet. Herke Csongor kifejti, hogy a deepfake miatt a szakértők sokszor lehetetlen helyzetbe kerülnek, és a büntetőbírónak gondosan mérlegelni kell, hogy elrendeljen-e egy költséges és időigényes szakértői bizonyítást, ami nem biztos, hogy eredményre vezet.[32] Természetesen nem ismeretlen az a jelenség, hogy bizonyos szakkérdésekben a szakértők csak a valószínűség adott szintjén tudnak megállapításokat tenni, például a DNS-vizsgálatoknál is százalékos valószínűség-számítás a vizsgálati módszer eredménye,[33] de elképzelhetőek olyan esetek is, amikor az informatikus szakértő az adott bizonyítékról azt ki tudja jelenteni, hogy a felvétel és a metaadatok alapján a vizsgálati módszerei szerint nem volt kimutatható manipulációra utaló jel, azonban ez korántsem jelenti azt, hogy bizonyosan hiteles a bizonyíték, hiszen - ahogy már említettem - a metaadatok is manipulálhatók.
A Magyar Igazságügyi Szakértői Kamara 3/2020. módszertani levele beszélőazonosítási vizsgálatok esetén is egy 9 szintű skálát határoz meg, melynek legmagasabb valószínűségi szintje a "+4"-es skála, ami azt jelenti, hogy a két beszédhang nagyon nagy valószínűséggel azonos személytől származik, míg a "-4"-es skála jelentése, hogy a két beszédhang nagyon nagy valószínűséggel különböző személytől származik.[34] A Kúria joggyakorlat-elemző csoportjának egyik összefoglaló véleményében is azt olvashatjuk, hogy "a speciális szakértelmet igénylő kérdések jelentős részében - a szakkérdés jellege miatt - ténylegesen nem is lehet kategorikus, vagy a teljes bizonyossággal határos valószínűség szintjén álló szakvéleményt adni".[35]
Felvetődik tehát a kérdés, hogy miként lehet összeegyeztetni a szakértő által megállapított valószínűségi mércéket az in dubio pro reo elvével és az ítéleti bizonyosság szigorú követelményével. Különösen a büntetőeljárásban történő bizonyítást tekintve lehet aggályos a valószínűség alacsony szintje, ugyanis a bizonyosság mércéjének követelménye itt a legmagasabb.[36] Márpedig, ha a kétséget kizáróan nem bizonyított tény nem értékelhető a terhelt terhére, akkor a valószínűségi szinten történő szakértői meghatározások önmagukban nem nyújthatnak elegendő alapot a tényállás tisztázásához. Bányai István kifejti, hogy ha a szakértői megállapítás önállóan nem alkalmas a feltett szakkérdés aggálytalan eldöntésére, akkor egyéb bizonyítékokkal való összevetése adhat megoldást,[37] valamint kiemeli, hogy "a szakmai tények jellemzője, hogy a kirendelő hatóság az adott tényt csak a szakértői értelmezés, átminősítés alapján tudja jogi sémába illeszteni".[38]
Úgy vélem, hogy a szakértői megállapítások bizonyossága az adott szakterület szabályai szerint kerülnek megállapításra, ezért az adaptálni kell a büntetőeljárás fogalmi rendszerébe, amely egy elméleti síkon történő értékelési folyamat, nem pedig automatizmus. Kuhl Andrea is rámutat arra, hogy a szakvélemény valószínűsége nem esik mindig egybe a bírói bizonyosság fokával, ezért a hibalehetőségek elkerülése miatt mindig a többi bizonyítéknak és az eset egyéb körülményeinek körültekintő vizsgálatával kell a szakvélemény bizonyító erejét megítélni.[39] Természetesen a szakértői véleményt mint bizonyítékot a bíróságnak vagy a kirendelő szervnek az összes bizonyítékkal egybevetve is szükséges értékelnie, amelybe beletartoznak a személyi és egyéb tárgyi bizonyítékok, valamint idesorolhatók a gyanújelek is.[40]
Az egyik legnagyobb probléma viszont az, hogy a deepfake-technológia fejlődésével tömegessé válhat az a jelenség, hogy a szakértők lehetetlen helyzetbe kerülnek, és nem tudnak a bizonyosság magas fokán sem állást foglalni a bizonyítékok hitelességét illetően. Ezáltal azonban jelentősen csökkenhet a kép-, hang- és videófelvételek azon legnagyobb előnye, hogy nagyon pontos, objektív és megbízható adatokat szolgáltatnak, ami eddig kiemelkedő bizonyító erőt jelentett számukra. A deepfake-technológia ezen hatásával kapcsolatban Herke Csongor kifejti, hogy a deepfake-technológia megjelenésével a gyakran túlértékelt tárgyi bizonyítékok súlya csökkenni látszik, valamint azt is elmondja, hogy "még nem jelenthetjük ki, hogy ez a személyi jellegű bizonyítékok újbóli felértékelődéséhez és elsődlegességéhez vezet, azonban a tárgyi bizonyítékok értékét messzemenően meg fogja határozni, hogy mennyire lehet azok valódiságát igazolni és meghamisítottságát cáfolni".[41]
- 243/244 -
Természetesen a szakértők számtalan esetben megnyugtató választ tudnak adni a bizonyítékok hitelessége kapcsán, ezért a deepfake-technológia fejlődésével érkező kihívások leküzdésében is jelentős szerepet tölthetnek be, azonban mint láthattuk, gyakran ők sem fognak tudni állást foglalni a hitelesség kérdésében, ezért messzemenőleg nem tekinthető megoldottnak a bizonyítékok megbízhatóságának problémája. Elengedhetetlen, hogy a szakértői vélemények mellett egyéb bizonyítási eszközök is előtérbe kerüljenek, valamint olyan jogi és technológiai megoldások alkalmazása szükséges, amelyek a bizonyítékok hitelességének megőrzését és ellenőrizhetőségét elősegítik.
Megítélésem szerint a bizonyítékok hitelességének megőrzése a büntetőeljárásban egyfajta "új irányvonalként" kiemelkedő jelentőséget kell, hogy kapjon. Indokolt lenne a technológia fejlődése által érkező kihívások kezelésére olyan jogi és technológiai megoldások alkalmazása, amelyek a bizonyítékok hitelességének megőrzését és ellenőrizhetőségét aggálytalanul biztosítják. Elengedhetetlen annak vizsgálata, hogy a jog milyen követelményeket fogalmazhat meg a digitális bizonyítékok kezelésére vonatkozóan.
A kutatásom során felmerült bennem az a kérdés, hogy hasznos lenne-e a bíróságoknak, hatóságoknak az automatikus deepfake-detektáló szoftverek alkalmazása. A deepfake-detektáló algoritmusok olyan mesterséges intelligencia alapú szoftverek, amelyek képesek meghatározni bizonyos tartalmakról, hogy azok mesterséges intelligencia által generált tartalmak-e, vagy valódiak, akár olyan apró jelekből is, amelyet az emberi érzékelés nem képes azonosítani. Ez a technológia korántsem nevezhető megbízhatónak, ugyanis számtalan esetben hamis pozitív és hamis negatív eredményeket mutat,[42] valamint miután a felismerő algoritmus nyilvánossá válik, könnyen előfordulhat, hogy egy deepfaketartalom-készítő megkerüli az algoritmust, tehát a megbízhatósága folyamatosan változik.[43] Mindezekre figyelemmel a felismerő szoftver alkalmazását kizárólag a szakértők eszköztárában tudom elképzelni, méghozzá olyan formában, hogy az algoritmus által megjelölt potenciális hamisításokra utaló jeleket a szakértő további vizsgálatoknak rendeli alá.[44]
A deepfake-technológia által létrehozott tartalom megjelölésére már nemcsak szakirodalmi adatokat, hanem európai uniós jogalkotási eredményeket is láthatunk. Az AI Act 50. cikk (2) bekezdése előírja, hogy "a szintetikus hang-, kép-, video- vagy szöveges tartalmat létrehozó MI-rendszerek (...) szolgáltatóinak biztosítaniuk kell, hogy az MI-rendszer kimeneteit géppel olvasható formátumban jelöljék meg, és azok mesterségesen létrehozottként vagy manipuláltként észlelhetők legyenek (...)", valamint a (4) bekezdés első felében rögzíti, hogy "az olyan MI-rendszerek alkalmazóinak, amelyek eredetinek vagy valóságosnak tűnő (»deepfake«) kép-, hang- vagy videótartalmat hoznak létre vagy manipulálnak, közölniük kell, hogy a tartalmat mesterségesen hozták létre vagy manipulálták (...)". Továbbá fontos kiemelni, hogy az AI Act (133) preambulumbekezdésében megfogalmazza, hogy a kötelező jelölés történhet vízjelekkel, metaadat-azonosításokkal, a tartalom eredetének és hitelességének bizonyítására szolgáló kriptográfiai módszerekkel, naplózási módszerekkel, ujjnyomatokkal és egyéb technikákkal is.
Egy gondolat erejéig megállva különösen hangsúlyozni kívánom, hogy az AI Act vonatkozó rendelkezéseit kizárólag a kötelező jelölések előírása és a hitelesség ellenőrzésének összefüggéseiben vizsgálom, még elméleti síkon sem kívánok elrugaszkodni a tanulmány célkitűzésétől, ezért a mesterséges intelligencia szabályozásának egyéb aspektusait és bőséges jogalkotási eredményeit tartalmi és célszerűségi okokból nem mutatom be. Mindössze utalni szeretnék arra, hogy az AI Act rendelkezései tesznek kivételt a kötelező mesterséges intelligencia jelölés alól, például ha a tartalom nyilvánvalóan művészeti, fiktív stb.
Az AI Act rendelkezéseit - kivételekkel - 2026. augusztus 2. napjától kell alkalmazni, beleértve ebbe az ismertetett 50. cikket is. Ahogy a (133) preambulumbekezdésben olvasható, a mesterséges intelligencia által létrehozott vagy manipulált tartalom nem csak vízjelekkel jelölhető. Ennek azért is van jelentősége, mert nemcsak a képeken vagy videókon lehetséges vízjelek feltüntetése, hanem hanganyagok tekintetében is elő lehet írni egyéb kötelező jelölést, illetve fokozottabb védelmet jelenthet ezek együttes alkalmazása. Az 50. cikk vonatkozó rendelkezéseiben meghatározott jelölés azt a célt szolgálja, hogy egyértelműen meg lehessen állapítani egy tartalomról, hogy mesterséges intelligencia hozta létre, illetve ha az már deepfake-tartalomnak minősül (tehát ha valósághű tartalom jön létre) akkor a kvázi felhasználókra (mesterséges intelligencia rendszert alkalmazókra) is közlési kötelezettséget ír elő a rendelet.
A vízjelek és egyéb mesterséges intelligencia jelölések azonban nem jelenthetnek teljes körű megoldást a hamis
- 244/245 -
bizonyítékok tekintetében. Egyrészt, még ha az online mesterséges intelligencia szolgáltatások teljesen megfelelnének egy jelölési kötelezettségnek, akkor is lehetséges lenne vízjelek nélkül létrehozni deepfake-tartalmakat némi informatikai ismeretek birtokában, ugyanis az internet különböző oldalain elérhető szoftverek és nyilvános forráskódok segítségével könnyedén produkálható jelölés nélküli deepfake-tartalom.[45] Másrészt elmondható, hogy a vízjelek és egyéb jelölések eltávolítása viszonylag könnyen megoldható, így akinek kifejezetten az a célja, hogy a deepfake-technológia felhasználásával bizonyítékot hamisítson, vagy hamis tartalmakat hozzon létre, az gondoskodni fog a jelölés eltávolításáról, vagy eleve nem tesz eleget a jelölési kötelezettségének.[46]
Azonban nem szabad alábecsülnünk a vízjelek és egyéb jelölések kötelező alkalmazásában rejlő potenciált. A deepfake-technológia egyik alapvető veszélye éppen abban rejlik, hogy bárki, speciális szaktudás nélkül képes professzionálisan bizonyítékot hamisítani, egy ilyen szabály alkalmazása pedig a laikus tömegek által előállított deepfake-tartalmak könnyű ellenőrizhetőségét tenné lehetővé.
A deepfake-technológia rendkívüli megtévesztő képességét felismerve az elmúlt időszakban számtalan technológiai megoldás született a felvételek hitelességének megőrzése és későbbi bizonyítása érdekében. Ilyennek tekinthető például az "eyewitness to Atrocities" szoftver, amely több forrásból származó adat alapján hitelesen rögzíti a felvétel készítésének időpontját és helyszínét, valamint egy digitális ujjlenyomatot hoz létre, amely biztosítja a felvétel hitelességét. A rendszer felhőalapú, tehát a felvételek a felvevő eszköztől elkülönülten is rendelkezésre állnak, amely további védelmet biztosít. A szoftver biztosítja a felügyeleti lánc követhetőségét, illetőleg a tárolt elektronikus adatok magas szintű kibervédelemmel vannak ellátva, megakadályozva ezzel, hogy az adatok hackertámadások áldozatául essenek.[47] Ezeknek a szoftvereknek az egyik legfontosabb hitelességet biztosító eleme a hash-kódok használata. A hitelességet biztosító szoftverek a hash-kódot már a felvétel rögzítésekor - amikor a fájl "lezárul" - hozzárendelik az adott fájlhoz, így annak is kizárják a lehetőségét, hogy a felvétel készítése és a hash-kód generálása között történjen a manipuláció.[48] Kiss Attila László is megerősítette az interjú alatt, hogy ha nem a rögzítéskor történik a hitelesítés, akkor a bizonyítékok hitelessége bizonytalanná válik, ezért elengedhetetlen, hogy ez a folyamat azonnal, már a rögzítéskor megtörténjen. Hozzáteszem, hogy a hitelesítő szoftverek széles körben hozzáférhetők, például az eyewitness to Atrocities alkalmazás könnyedén letölthető okostelefonokra is, akár a Google Play áruházból.[49]
A felvételek hitelesítő szoftver segítségével történő rögzítése kétségkívül hatékony védelmet nyújt a deepfake-technológia általi hamisítás ellen, valamint könnyedén cáfolhatóvá teheti egy eljárásban azt az állítást, hogy a bemutatott felvétel manipulált. Felmerül azonban annak a kérdése, hogy a bizonyítékok elfogadhatóságának szempontjából megfogalmazható-e olyan kritérium, amely kötelezővé tenné, hogy a bizonyítékok hitelesítő szoftverrel kerüljenek rögzítésre. Úgy gondolom, hogy e kérdés kapcsán azt érdemes vizsgálni, hogy a hitelesítő szoftver kötelező előírása konfliktusba kerülhet-e a fegyverek egyenlőségének elvével, valamint a tisztességes eljáráshoz való joggal.
A tisztességes eljárás követelménye az Alaptörvény XXVIII. cikkének (1) bekezdésében is megjelenik, miszerint "mindenkinek joga van ahhoz, hogy az ellene emelt bármely vádat vagy valamely perben a jogait és kötelezettségeit törvény által felállított, független és pártatlan bíróság tisztességes és nyilvános tárgyaláson, ésszerű határidőn belül bírálja el". Az alkotmánybíróság kifejti a 22/2014. (VII. 15.) AB határozatának [49] bekezdésében, hogy "(...) nevesíthetők a tisztességes eljáráshoz való jog tartalmát kitöltő ún. részjogosítványok. (...) A szabály de facto nem rögzíti, de az Alkotmánybíróság értelmezése szerint része a tisztességes eljárásnak az is, hogy az eljárásban biztosítva legyen a fegyverek egyenlősége." A fegyverek egyenlőségének elvéről Elek Balázs fejti ki, hogy az elv azt biztosítja, hogy vádnak és a védelemnek egyenlő esélye és alkalma legyen a büntetőper menetét alakítani.[50] Elmondja továbbá, hogy a védelem nyilvánvalóan hátránnyal indul, emiatt szükséges az, hogy az államhatalom túlsúlyával szemben a felelősségre vont személy megfelelő eszközökkel rendelkezhessen a vád vitatására.
A kötelező hitelesítő szoftverek alkalmazása körében elmondható, hogy a hatóságok jelentős anyagi, technikai és személyi erőforrásokkal rendelkeznek, mely könnyedén lehetővé teheti a szükséges szoftverek telepítését, működtetését, valamint a hatóság tagjai nyilvánvalóan tudják, hogy a felvételeket bizonyítékként rögzítik. Ez a helyzet azonban ritkán mondható el a terheltről, illetve egy ilyen előírás alkalmazása sok esetben ellehetetleníthetné a védekezését, ha bizonyítékait nem az elvárt módon rögzítette, tehát nem lehetne biztosítani azt, hogy megfelelő eszközökkel rendelkezzen a vád vitatására. Egy kötelező hitelesítési előírás álláspontom szerint nem összeegyeztethető a fegyverek egyenlőségének elvével és a tisztességes eljárás követelményével, hiszen ez olyan helyzetet teremtene, mintha a bíróságnak egy olyan előfeltevése lenne a terhelt vagy a védelem által benyújtott bizonyítékokról, hogy azok nem hitelesek, és a védelemnek kelle-
- 245/246 -
ne bizonyítania annak ellenkezőjét, - emiatt a bizonyítási teher is megfordulna - holott a nyomozó hatóság már a nyomozás vagy az előkészítő eljárás alatt olyan bizonyítékokat szerzett, amelyek kétségtelenül hitelesnek és elfogadhatónak tekinthetők.
Álláspontom szerint a szélsőséges megközelítések helyett olyan jogi normák kialakítására van szükség, amelyek hatékony védelmet biztosítanak a deepfake-technológia okozta veszélyekkel szemben, ugyanakkor ezek a szabályok nem vezethetnek más garanciális szabályok sérelméhez vagy korlátozásához. Éppen ezért, a hitelesítő szoftverek kötelező alkalmazását nem a bizonyítékok elfogadhatóságának körében indokolt előírni, hanem a nyomozó hatóság bizonyítékok rögzítésére, beszerzésére vonatkozó tevékenysége kapcsán. Amennyiben a nyomozó hatóság az általa rögzített vagy beszerzett felvételeket hitelesítő szoftver segítségével kezelné, akkor az egyrészt jelenthetne egy garanciális szabályt arra vonatkozóan, hogy a terhelt ellen felhozott bizonyítékok a nyomozó hatóság által biztosan nem kerültek hamisításra, másrészt a későbbi esetleges bizonyítási eljárás során is könnyebben cáfolhatóvá tenné a terhelt azon állítását, hogy a bemutatott bizonyítékok hamisak.
Természetesen nem minden elektronikus adatot a nyomozó hatóság rögzít. Az elektronikus adatok beszerezhetők kényszerintézkedés során, egyszerűen adatkéréssel vagy a hatóság önálló rögzítésével egyaránt.[51] Így például a térfigyelő kamerarendszerek videói vagy a tanúk által benyújtott fényképek tekintetében ez a garanciális szabály csak attól az időponttól nyújthatna bizonyosságot a hitelesség kérdésében, amikor a nyomozó hatóság a beszerzett bizonyítékokat ellátja a szükséges hitelesítő információkkal.[52] Az előzetes módosítás kiszűrésére ez a technikai megoldás nem alkalmas, viszont nem is erre hivatott.
Az elektronikus adatok lefoglalására, beszerzésére és kezelésére vonatkozó előírások és szakmai anyagok bőséges ismeretanyagot jelentenek, azonban e tanulmány keretei között kizárólag a hitelesség megőrzésének kérdésében kívánok kiemelni néhány kritikus pontot.
Az elektronikus adatok változatlanságának biztosításával kapcsolatban több jogi normával is találkozhatunk, például a 11/2003. (V. 8.) IM-BM-PM együttes rendelet (a továbbiakban: IM-BM-PM együttes rendelet) az elektronikus adatok lefoglalása kapcsán a 67/A. § (3) bekezdésében rögzíti, hogy ha az átmásolás utólag megváltoztatható adathordozóra történik, biztosítani kell az adatok változatlanságát vagy azt, hogy a megváltoztatás nyomon követhető legyen. A 100/2018. (VI. 8.) Korm. rendelet (a továbbiakban: Korm. rendelet) pedig 86. § (1) bekezdésében leírja, hogy az információs rendszer átvizsgálása során biztosítani kell az információs rendszer útján (...) hozzáférhető adatok megismerését és rögzítését is, illetve e bekezdés második fordulatában előírja, hogy az információs rendszer útján hozzáférhető adatok megismerése és rögzítése során biztosítani kell a megismert adatok változatlanságát. Fontosnak tartom még kiemelni az IM-BM-PM együttes rendelet 67/A. § (2) bekezdését, amely arról rendelkezik, hogy az elektronikus adat lefoglalásakor az átmásolás lehetőleg utólag meg nem változtatható adathordozóra történhet, és az átmásolás során biztosítani kell azt, hogy az eredeti adatok ne változzanak meg.
Az elektronikus adatokkal összefüggésben Kiss Attila László is kiemelte az interjú alatt, hogy ha azok hitelességéről szeretnénk megbízhatóan állást foglalni, akkor mindvégig biztosítani kell azok "bitazonos" (tehát tökéletesen megegyező, a metaadatokat tekintve is) rendelkezésre állását. Erre megfelelő megoldást nyújt a korábban ismertetett hash-kódok és hitelesítő szoftverek használata, mellyel kapcsolatban a szakértő elmondta, hogy a szakmai ajánlások szerint legalább két különböző hash-kóddal való biztosítás nevezhető megfelelőnek. Amikor a hatóság az elektronikus adatokat átmásolja egy tárolóeszközre, már akkor nagyon fontos, hogy a másolás[53] bitazonosan történjen.
Herédi István is kiemeli, hogy alapvető követelmény, hogy a másolt adatállomány ne legyen megváltoztatható, biztosítani kell az eredetivel való megegyezést, így a másolás nem szabad, hogy az operációs rendszerbe beépített másolási algoritmusok használatával történjen.[54] Mezei Kitti álláspontja szerint, ha hagyományos módon történik az adathordozóra történő másolás, az problémás lehet a hitelesség megőrzésének szempontjából. Úgy véli, hogy a digitális bizonyíték hitelességéhez hozzátartozik, hogy a későbbiekben pontosan meghatározható legyen, hogy az adat milyen rendszerből származik, valamint fontos, hogy biztosak lehessünk abban, hogy az elektronikus adat pontos és teljes másolatának lefoglalására került sor, amely változatlan maradt. Ezentúl biztosítani kell az átmásolás során, hogy az eredeti adatok ne változzanak meg, amihez írásvédő eszközök vagy szoftverek alkalmazása szükséges.[55]
- 246/247 -
Természetesen technikailag - főként az informatikus szakértők részére - nagyon kívánatos helyzet lenne, ha a hatóságok minden bizonyítékot hitelesítenének, de be kell látnunk, hogy jelenleg ezt az elképzelést a mostani adatkezelési gyakorlathoz képest szinte utópiának lehetne nevezni. Ennek ellenére fontos megfogalmaznunk az elérni kívánt célt, hogy legalább a hash-kódokkal történő hitelesítés megtörténjen a bűnjelkezelés során, hiszen ez a megoldás inkább jelentene terhet a hatóságok emberi erőforrásának, mintsem anyagi áldozatot a különböző szervek költségvetésének - és e tanulmány keretei között nem tennék kísérletet arra, hogy az igazság és annak költségeit mérlegelő álláspontok közötti vitát feloldjam, de mindenesetre, ha a hitelesség megőrzéséről van szó, akkor az "igazságnak ára van". Természetesen egy ilyen volumenű változás előkészítéséhez némi időre és edukációra is szükség van, azonban vannak a hitelesség megőrzését segítő olyan intézkedések, amelyek a jelenlegi gyakorlatban is könnyedén megvalósíthatók.
Még ha a fent ismertetett jogforrások meg is fogalmazzák az adatok változatlanságának kötelezettségét, a gyakorlatban ez aligha jelenti a bitazonos rendelkezésre állást és a metaadatok megőrzését, jóllehet ezek megléte a hitelesség ellenőrzésének sine qua non-ja. A szakértő elmondta, hogy gyakran előfordul, hogy már az elektronikus adatok másolása sem bitazonosan történik, például a hatóságok tárhelykapacitási okokból átkonvertálják az adott felvételt, azonban ez adatvesztéssel, köztük a metaadatok vesztésével járhat. A szakértő szerint nagyon fontos, hogy amennyiben lehetséges, az eredeti rögzítő eszköz is rendelkezésre álljon, de ha ez nem biztosítható, akkor fontos lenne legalább annak a rögzítése, hogy pontosan milyen eszközzel és mikor történt az adott kép-, hang- vagy videófelvétel rögzítése.
Utóbbi azért rendkívül fontos, mert ha tudjuk, hogy milyen eszközzel történt a rögzítés, akkor az is meghatározható, hogy milyen mélységű és mennyire részletes metaadatoknak kell (vagy kellene) rendelkezésre állnia, például az iPhone telefonok több metaadatot rögzítenek egy felvétel készítésekor, mint az Android rendszerrel rendelkező készülékek. Ez a későbbiek során azért is fontos lehet, mert ha egy adott felvételhez tartozó metaadatok nem olyanok, mint amilyet a rögzítő eszköz generál, akkor az utólagos manipulációra utalhat. A szakértő olyan esettel is találkozott, amikor a bíróság az ügykezelő rendszeren keresztül kapott felvételt CD-re másolva küldte meg a szakértőnek, így a fájl metaadataiban már csak a bírósági rendszeren keletkezett adatok szerepeltek, az eredetiek pedig elvesztek.
A deepfake-technológia által támasztott bizonyítási és eljárásjogi dilemmák végső soron mind visszavezetnek egy alapvető kérdéshez: mit is értünk e fogalom alatt? Bár a tanulmány elején meghatároztam a deepfake mibenlétét, a záró gondolataim részeként szükséges ismét rögzíteni, hiszen a pontos meghatározás nem pusztán a kutatásom kiindulópontja, hanem arra is emlékeztet, hogy a technológia kihívásai csak akkor kezelhetők, ha előbb tisztán látjuk, mivel is állunk szemben. Kijelenthetjük, hogy a deepfake olyan mesterséges intelligencia alapú technológia, amely alkalmas kép-, hang- és videófelvételek létrehozására vagy manipulálására oly módon, hogy azok megtévesztően hitelesnek és valóságosnak tűnjenek.
A tanulmány készítésekor megfogalmazódott bennem annak a kérdése, hogy a deepfake-technológia elterjedése indokolttá teheti-e bizonyos büntető eljárásjogi jogintézményeink szabályainak átgondolását - például a hamis, hamisított bizonyítékokra vonatkozó perújítási rendelkezéseket -, azonban ennek az elemzését a bevezető részben megfogalmazott hipotéziseket és a tartalmi korlátokat szem előtt tartva nem e tanulmány keretei között tartottam indokoltnak kifejteni.
A kutatásom során az egyik legnagyobb nehézséget az okozta, hogy a deepfake-technológiával hamisított bizonyítékokkal összefüggésben nem találtam olyan szakirodalmat, amely részletesebben foglalkozott volna az igazságügyi szakértők alkalmazásának kérdésével. A jogi szabályozást, a jogelméleti megközelítéseket, valamint a deepfake-technológiára vonatkozó szakmai ismereteket - Kiss Attila László informatikus szakértő szakértelmével kiegészítve - egybevetve meghatároztam azon esetköröket, amikor szakértő igénybevétele nélkül is megbízhatóan állást lehet foglalni egy bizonyíték hitelességének kérdésében. Ugyanakkor ezen megállapítások leginkább a gyakorlati implementáció lehetőségére hívják fel a figyelmet, hiszen a deepfake-technológia fejlődése új határokat szab a szakértői bizonyítás terén is.
Álláspontom szerint különös figyelmet kell fordítanunk a szakértők vizsgálati módszereinek korlátozottságára is. Szükség van arra, hogy a büntetőeljárásban nagyobb hangsúlyt fektessünk a bizonyítékok hitelességének biztosítására, hiszen enélkül sem a jogalkalmazó, sem a szakértő nem fog tudni mindig állást foglalni a modern hamisítási módszerekkel szemben. A technológiai fejlődés üteme messze meghaladja a jogalkotásét, ugyanakkor elengedhetetlen, hogy a büntetőeljárás - amennyire lehet - kövesse a mesterséges intelligencia visszaélésszerű alkalmazásait, hiszen a jövő igazságszolgáltatása csak akkor maradhat eredményes, ha képes különbséget tenni a valódi és a hamis bizonyítékok között. ■
JEGYZETEK
* A tanulmány alapjául szolgáló dolgozat a 37. Országos Tudományos Diákköri Konferencia, Állam- és Jogtudományi Szekció, Büntetőeljárási jog I. és kriminalisztika tagozatán II. helyezést ért el.
[1] Catherine Bernaciak - Dominic A. Ross: How Easy Is It to Make and Detect a Deepfake? SEI Blog, 2022.03.14., https://insights.sei.cmu.edu/blog/how-easy-is-it-to-make-and-detect-a-deepfake/
[2] Ezúton is szeretném köszönetemet kifejezni Kiss Attila László igazságügyi informatikus szakértőnek, aki szakmai tudásával hozzájárult egy interjú keretein belül e tanulmány elkészítéséhez.
[3] Md Shohel Rana - Mohammad Nur Nobi - Beddhu Murali - Andrew H. Sung: Deepfake Detection: A Systematic Literature Review. https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9721302
[4] SAP Company: What is deep learning? https://www.sap.com/resources/what-is-deep-learning
[5] Rebecca A. Delfino: Deepfakes on Trial: A Call To Expand the Trial Judge's Gatekeeping Role To Protect Legal Proceedings from Technological Fakery. Hastings Law Journal, 2023. (2), 299. DOI: https://doi.org/10.2139/ssrn.4032094
[6] Riana Pfefferkorn: ‚Deepfakes' in the Courtroom. Boston University Public Interest Law Journal, 2020. (2), 248., https://www.bu.edu/pilj/files/2020/10/Pfefferkorn.pdf
[7] Europol Innovation Lab: Facing reality? Law enforcement and the challenge of deepfakes, an observatory report from the Europol Innovation Lab. Luxembourg, Publications Office of the European Union, 2022. 8., https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes.pdf
[8] Molnár Csaba: Először csaltak ki pénzt deepfake hanggal, és rögtön van magyar szál. index.hu, 2019.09.05., https://index.hu/techtud/2019/09/05/eloszor_csaltak_ki_penzt_deepfake_hanggal_es_rogton_van_magyar_szal/
[9] Herke Csongor: Deepfake: áldás vagy átok? Jogi szabályozási szempontok. Pro Futuro, 2023. (1), 174. DOI: https://doi.org/10.26521/profuturo/2023/1/13334
[10] Gosztonyi Gergely - Lendvai Gergely: Deepfake és dezinformáció. Médiakutató, 2024. (1), 42.
[11] Sorbán Kinga: A bosszúpornó és deepfake pornográfia büntetőjogi fenyegetettségének szükségességéről. Belügyi Szemle, 2020. (10), 84. DOI: https://doi.org/10.38146/BSZ.2020.10.4
[12] Deepfakes Accountability Act H.R.5586., https://www.congress.gov/bill/118th-congress/house-bill/5586/text
[13] Csemáné Váradi Erika - Görgényi Ilona - Gula József - Horváth Tibor - Jacsó Judit - Lévay Miklós - Sántha Ferenc: Magyar büntetőjog - általános rész. Budapest, Wolters Kluwer Kft., 2017. DOI: https://doi.org/10.55413/9789632956282
[14] Kertész Imre: Kép- és hangtechnikai eszközök a büntető eljárásban. Acta Universitatis Szegediensis: acta juridica et politica, 1992. (41), 315-317., https://acta.bibl.u-szeged.hu/6726/
[15] Kertész: Kép- és hangtechnikai eszközök a büntető eljárásban. 324.
[16] Pfefferkorn: ‚Deepfakes' in the Courtroom. 248.
[18] Herke: A bizonyítékok újraértékelése... 325.
[19] Kertész: Kép- és hangtechnikai eszközök a büntető eljárásban. 318.
[20] Daniel W. Linna Jr. - Abhishek Dalal - Chongyang Gao - Paul W. Grimm - Maura R. Grossman - Chiara Pulice - Hon. John Tunheim: Deepfakes in Court: How Judges Can Proactively Manage Alleged AI-Generated Material in National Security Cases. Northwestern Law & Econ Research Paper, 2024. (24-18), Northwestern Public Law Research Paper, 2024. (24-26), 25. DOI: https://doi.org/10.2139/ssrn.4943841
[21] Delfino: Deepfakes on Trial... 341.
[22] Herke: A bizonyítékok újraértékelése... 326.
[24] Kúria Joggyakorlat-Elemző Csoport összefoglaló véleménye: A szakértői bizonyítás a bírósági eljárásban. Budapest, 2014. 254.
[25] Bartkó Róbert - Elek Balázs - Fantoly Zsanett - Herke Csongor: A büntető eljárásjog tankönyve. Budapest, ORAC, 2024. 129.
[26] Németh: Szakértői bizonyítás indítványozása és elbírálása a büntetőeljárásban... 72.
[27] Máté István Zsolt: Az igazságügyi informatikai szakértő a büntetőeljárásban. Doktori értekezés. Pécs, 2017. 61., https://pea.lib.pte.hu/bitstream/handle/pea/16947/mate-istvan-zsolt-phd-2017.pdf
[28] Herke: A bizonyítékok újraértékelése... 328.
[29] Agnes E. Venema - Geradts J. Zeno: Digital Forensics, Deepfakes, and the Legal Process. https://www.essentialresearch.eu/wp-content/uploads/2020/07/Digital-Forensics-Deepfakes-and-the-Legal-Process-Venema-Geradts2020.pdf
[30] Máté István Zsolt - Sándor Gábor: A mobilkommunikációs eszközök vizsgálatának általános eljárásaira vonatkozó módszertani leírás. Budapest, NSZKK, 2019. 13.; 5/2019. (XII. 17.) NSZKK főigazgatói körlevél) 14., https://miszk.hu/index.php/tudastar/kamarai-modszertani-levelek
[32] Herke: A bizonyítékok újraértékelése... 328.
[33] Országos Igazságügyi Orvostani Intézet 22. számú módszertani levele polgári perekben és büntetőügyekben végzett DNS-vizsgálatokhoz és szakvéleményadáshoz, https://semmelweis.hu/igazsagugy/files/2012/06/22_mszlev.pdf 5.
[34] Magyar Igazságügyi Szakértői Kamara 3/2020 módszertani levele a beszélőazonosító vizsgálatokról (2020), https://miszk.hu/index.php/tudastar/kamarai-modszertani-levelek 11.
[35] Kúria Joggyakorlat-Elemző Csoport összefoglaló véleménye: Az ítéleti bizonyosság elméleti és gyakorlati kérdései. Budapest, 2017. 101.
[36] Kúria Joggyakorlat-Elemző Csoport összefoglaló véleménye: Az ítéleti bizonyosság elméleti és gyakorlati kérdései. 36.
[37] Bányai: Az igazságügyi szakértő helye, szerepe a döntéshozatalban. 121-122.
[39] Kuhl Andrea: Az ítéleti bizonyosság és a szakvélemények értéke. Miskolci Jogi Szemle, 2023. (1), 99. DOI: https://doi.org/10.32980/MJSz.2023.1.90
[40] Gyanújelnek nevezhetőek azok az adatok, amelyek önmagukban bizonyítékoknak nem tekinthetők, de olyan tényeket igazolhatnak, amelyek a bizonyítékok megerősítésére vagy cáfolatára szolgálhatnak. Forrás: Bartkó - Elek - Fantoly - Herke: A büntető eljárásjog tankönyve. 131-132.
[41] Herke: A bizonyítékok újraértékelése... 325.
[42] Francesca Palmiotto: Detecting Deep Fake Evidence with Artificial Intelligence: A Critical Look from a Criminal Law Perspective. 2023. 7-8., https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4384122
[43] Venema - Zeno: Digital Forensics, Deepfakes, and the Legal Process.
[44] Itt visszautalnék a tanulmánynak a deepfake-technológia meghatározásával foglalkozó részéhez, ahol a diszkriminátor és a generátor modell versengését mutattam be, mint a deepfake egyik mozgatórugóját. A felismerő szoftver eredményessége elsősorban azon múlik, hogy az adott deepfake-technológia diszkriminátor modelljétől fejlettebb-e, ezt nevezhetjük az "algoritmusok harcának" is.
[45] Linna Jr. et al.: Deepfakes in Court... 8.
[46] Herke: A bizonyítékok újraértékelése... 331.
[47] https://www.eyewitness.global/
[48] https://www.eyewitness.global/Using-metadata
[49] https://play.google.com/store/apps/details?id=com.camera.easy&pli=1
[51] Herédi István: Az elektronikus adatokat érintő eljárási cselekmények végrehajtása. In: Nagy Zoltán András (szerk.): Kibernyomozói kézikönyv. Budapest, Ludovika Egyetemi Kiadó, 2022. 155.
[52] A jelenleg még a hash-kódok használata sem vált gyakorlattá, viszont a hatóság vagy bíróság által elektronikusan kezelt adatok vonatkozásában most is van lehetőség biztosítani az adatok megváltoztathatatlanságát - például fokozott biztonságú elektronikus aláírás által -, azonban ez a művelet sem automatikus, szükséges hozzá az ügykezelő rendszerbe történő feltöltés.
[53] Ebbe a körbe sorolható az áthelyezés is, ami technikailag egy másolási és az eredeti eszközről való törlési folyamatban tevődik össze.
[54] Herédi: Az elektronikus adatokat érintő eljárási cselekmények végrehajtása. 160.
[55] Mezei Kitti: A kiberbűnözés aktuális kihívásai a büntetőjogban. Budapest, Társadalomtudományi Kutatóközpont Jogtudományi Intézet - L'Harmattan, 2020. 222-223.
Lábjegyzetek:
[1] A szerző joghallgató, Debreceni Egyetem Állam- és Jogtudományi Kar; bírósági tisztségviselő, Debreceni Járásbíróság büntető ügyszak. https://orcid.org/0009-0006-4535-1906
Visszaugrás
