A mesterséges intelligencia etikai szabályozásának igénye az elmúlt években egyre gyorsuló ütemben merült fel különböző nemzetközi, állami és szakmai önszerveződések kezdeményezésében. Ezek közös jellemzője, hogy a mesterséges intelligencia rendszerekre nehezen érthető és ellenőrizhető fekete dobozként tekintenek. Cikkünk az informatikai biztonsági szakma szemszögéből vizsgálja az eddig megfogalmazott vezető ajánlás-csomagokat. Egy két részből álló cikksorozat részeként az első részben igyekszünk rámutatni azokra a gyengeségekre, amelyek az ajánlásokat átfogóan jellemzik. A második rész az információbiztonsági szakma szemszögéből ismert megoldásokkal szándékozik iránymutatást adni, hogy miként ültethetők konzekvensen gyakorlatba az elvként megfogalmazott etikai elvárások.
The need for ethical regulation of artificial intelligence has been raised at an accelerating pace in recent years by various international, public and professional self-regulatory initiatives. A common feature is that AI systems are seen as a black box that is difficult to understand and control. This article examines the leading sets of recommendations that have been formulated so far from the perspective of the IT security profession. As part of a two-part series of articles, the first part seeks to highlight the weaknesses that characterise the recommendations overall. The second part seeks to provide guidance on how to consistently put into practice the ethical requirements set out as principles, with solutions known from the perspective of the information security profession.
A World Economic Forum 2022-es Global Risk Report jelentése szerint a szervezet által vizsgált globális kockázatok közül a legnagyobb arányú romlást a társadalmi kohézió szenvedte el a COVID-19 járvány óta. A negyedik helyen a lelki egészség világszintű romlását említi. Az információs társadalom elleni biztonsági fenyegetések növekedése hetedik a sorban. Ezek valamennyien az emberiség következő 10 évének legnagyobb kockázatai között is szerepelnek. A társadalmi kohézió erodálódása az előrejelzés szerint további súlyosító hatással lesz - többek között - a fiatalok kiábrándultságára, a megélhetési válságra, a lelki egészség romlására[1]. Megoldást azonban a Forum nem kínál.
Ha elfogadjuk e nagy hatású fórum megállapításait, azt kell mondanunk, hogy nagyon rossz állapotban vannak a világ társadalmai és nagyon kiszolgáltatott helyzetben van az ember. Nehezen vitatható, hogy a digitalizáció - a látható előnyei mellett - ne járult volna hozzá ezen állapot kialakulásához. A mesterséges intelligenciával - továbbiakban: MI - kapcsolatban pedig artikulálódnak azok a félelmek, hogy a fent vázolt negatív tendenciákat erősíti tovább. "A jelenleg zajló átalakulások nem csupán mennyiségi jellegűek. Mindenekelőtt minőségiek, mivel befolyásolják a feladatok végrehajtásának módját, valamint azt, ahogyan a valóságot és magát az emberi természetet érzékeljük, olyannyira, hogy hatást gyakorolnak a mentális és interperszonális szokásainkra.[2]" A Vatikán "Rome call for AI ethics" című írásában leszögezi, hogy a MI fejlesztése kapcsán olyan szemléletre van szükség, amely nem a technológiára, hanem az emberiség és a világ javára irányul. Eszerint Isten megengedi az embernek, hogy létrehozzon olyan eszközöket, amellyel az életét megkönnyítheti, de ennek során is tiszteletben kell tartania az ember Istentől kapott méltóságát és szabadságát, továbbá azt, hogy az ember az isteni teremtésben való részvételre kapott meghívást[3].
Meg kell értenünk, hogy a MI alapvetően számítástechnikai kérdés. Mint ilyen, nem vonatkoztatható el a programozástól, az informatika tudománytól és annak kapcsolódó tudományaitól, például információtudomány, adatbázis-kezelés stb., amelyek alapvetően matematikára, statisztikára, logikára épülnek. Végső soron a szoftver által nyújtott minden eredmény, kimeneti érték a szoftver dizájntól és a programkódtól függ a bemeneti értékek függvényében, akkor is, ha már sokszor a szakember számára is fekete dobozként működik a rendszer.
Az ember nem csupán racionális, hanem lelki, emocionális, etikai lény is. Mivel az algoritmus tisztán racionális működésű, ezért nem tudja leírni az emberi létezés teljességét. A MI-t legtökéletesebb formájában úgy tud-
- 44/45 -
juk elképzelni, hogy emberi módon gondolkodik - sőt, az emberi gondolkodás torzító hatásai nélkül - de azt még nem tudjuk, hogyan képezzük le a nem algoritmikus percepciókat és döntéseket. Emellett a legkifinomultabb rendszer is eltérülhet, meghibásodhat, károkat okozhat. Ezek a kockázatok is arra mutatnak, hogy szükség van az MI szabályozására, ami kiterjed létrehozatalára, működésére, alkalmazására, teljes életútjára.
Sokan keresik a választ arra a kérdésre, hogy hogyan lesz ez a szabályozás jó? Tartalmában jó úgy, hogy ne legyen se túlszabályozott, se alulszabályozott. Ki alkossa meg a szabályokat és milyen formában? Pontosan kik legyenek a kötelezettjei?
Mivel a programkód, algoritmus lényegileg befolyásolja az eredményt, ezért a szabályozásnak ki kell terjednie az ezeket író szakemberek képzésére is. Ezen túl fontos, hogy a MI belső működését és algoritmusainak eredményeit is folyamatos felügyelet alatt tartsuk annak érdekében, hogy a felmerülő kockázatokat időben felismerhessük és a veszélyeket vagy károkat elkerüljük vagy elhárítsuk.
Tanulmányunkban e két legfontosabbnak tartott kérdésre keressük a választ.
A MI nem új jelenség, fejlődésének története az 1950-es években kezdődött. A MI fejlesztésére különösen alkalmas egyik programnyelv, a ProLog például 1972 óta létezik. A MI története a gépi tanulással kezdődött, ami ma már mindennapos használatban van[4]. Ezen alapulnak a fordítóprogramok, a testre szabott marketing, a csalásmegelőző rendszerek.
A MI meghatározására kölcsönvesszük Eszteri Dániel tanulmányából az Oxford számítástechnikai értelmező szótár szerinti meghatározást: a "mesterséges intelligencia a számítástudománynak az a területe, amely emberi intelligenciát igénylő feladatokat megoldó számítógépes programok készítésével foglalkozik."[5] Az ilyen szoftvereket csoportosíthatjuk: 1) emberi módon gondolkodó, 2) emberi módon cselekvő 3) racionálisan gondolkodó, 4) racionálisan cselekvő rendszerekként[6].
Az UNESCO meghatározása szerint a MI rendszerek képesek az adatokat és információkat az intelligens viselkedéshez hasonló módon feldolgozni; ez jellemzően magában foglalja az érvelés, a tanulás, az észlelés, az előrejelzés, a tervezés és az irányítás aspektusait[7].
A szakirodalom megkülönbözteti még az erős és gyenge MI-t[8]. A gyenge vagy más néven szűk MI csak valamilyen speciális feladat elvégzésére képes, egy szűk cselekvési és döntési tartománya van. Az erős vagy általános MI szélesebb problémahalmazt képes megoldani, alkalmazkodik a változó körülményekhez és a célokat ilyen közegben is el tudja érni. Az MI-nek ez a szintje az, amiről úgy gondolkodnak sokan, mint amely egzisztenciális fenyegetést jelenthet az emberiségre, mert a döntési autonómiája olyan nagyfokú, hogy irányíthatatlannak tűnik. A technikai fejlődés még nem áll azon a fokon, hogy erről valóságként beszélhessünk.
A Jogkódex-előfizetéséhez tartozó felhasználónévvel és jelszóval is be tud jelentkezni.
Az ORAC Kiadó előfizetéses folyóiratainak „valós idejű” (a nyomtatott lapszámok megjelenésével egyidejű) eléréséhez kérjen ajánlatot a Szakcikk Adatbázis Plusz-ra!
Visszaugrás
