Magyarországon az életek közötti döntés alkotmányos dilemmája a Magyar Alkotmánybíróságnak a halálbüntetés eltörléséről szóló mélyreható döntése óta a jogi gondolkodás középpontjában áll; ezt követően az intézmény az önvédelem Büntető Törvénykönyvben való újraszabályozásával került reflektorfénybe. A XXI. század műszaki eredményei azonban teljesen más szemszögből világítják meg ezt a klasszikus kérdést, a robotika és az önjáró járművek fejlesztése új kihívást jelent a jogalkotó számára. Mit tehet, és mit nem tehet egy autó a vezető védelme érdekében? Hogyan lehet egyensúlyba hozni a köz- és a magánérdeket ilyen esetekben?
"Azt mondták nekem, hogy szálljak fel a Vágy nevű villamosra, majd szálljak át a Temetők nevűre, utazzak hat megállót, majd szálljak le az Elíziumi Mezőknél!"
Tennessee Williams híres drámáját (A Vágy Villamosa) Elia Kazan filmesítette meg Vivien Leigh és Marlon Brando lebilincselő szereplésével. A filmben Blanche (Vivien Leigh) ezeket a szavakat mondja, amikor az első jelenet elején megérkezik a Kowalski-lakásba. Nemrég érkezett New Orleans-be, és így írja le, hogyan jutott el a nővére lakásába. A helynevek, amelyeket Williams a drámában használ, nyilvánvalóan metaforikus jelentéssel bírnak. A Kowalski család utcája, az Elíziumi Mezők, a görög mitológiában a holtak földjének elnevezése.
"És a temetések nagyon hasonlítanak a halálhoz." - mondja Blanche a drámában, utalva a halál nyilvánvaló súlyosságára. De mi van azokkal a helyzetekkel, amikor a halál elkerülhetetlen és mások túléléséhez szükséges?
Az elmúlt ötven évben többen is megoldást kerestek egy másik "villamosra", a villamosproblémának nevezett morális kérdésre.
A villamosprobléma egy erkölcsi paradoxon, amelyet Philippa Foot vetett fel először 1967-ben, az "Abortusz és a kettős hatás doktrínája" című tanulmányában. A cikk további kutatási hullámot indított az általa felvetett filozófiai kérdések miatt, és a vita mindmáig tart. Nézzünk egy rövid áttekintést a hipotetikus esetekről!
- 227/228 -
1. eset: Egy A nevű nő egy villamoson utazott, amelynek a sofőrje elájult. A asszony hagyhatta volna, hogy a villamos a fő útvonalon folytassa az útját, megölve ezzel öt embert, akik a sínen álltak, vagy mellékvágányra terelhette a villamost, megölve egy embert, aki azon a sínen állt.
2. eset: Egy elszabadult villamos öt munkás felé halad a sínen, akik mind meghalnak, ha a villamos azon a pályán halad tovább. B úr egy hatalmas kapcsoló mellett áll, amellyel másik sínre terelheti a villamost. Az egyetlen módja, hogy megmentse az öt ember életét, az, ha a másik sínre tereli a villamost, amelyen egyetlen munkás áll. Ha B úr a másik sínre tereli a villamost, akkor az az egy munkás meghal, de a másik öt munkás megmenekül.
3. eset: Egy C nevű ember a villamossínek feletti gyalogos felüljárón állt, amikor egy irányíthatatlan villamos éppen a felüljáró alatti síneken álló öt ember felé száguldott. Nem volt más sín, amelyre a villamost át lehetett volna terelni. C úr gyorsan felmérte, hogy az egyetlen esély, hogy megállítsa a villamost, az az, ha egy nehéz súlyt dob a sínre. Sajnos a felüljárón nem volt semmiféle nagyobb tárgy, viszont volt ott egy pocakos ember, aki C úr mellett állt. Látta, hogy vagy lelöki a felüljáróról a férfit a villamos útjába, ezzel megölve őt, de megmentve öt embert, vagy hagyja, hogy a másik öt ember meghaljon. Úgy döntött, hogy lelöki a férfit.
4. eset: D doktort, egy traumasebészt a sürgősségire hívattak egy nagy oktatókórházban. Egy borzalmas tömegbaleset történt a közeli autópályán, és hat sérültet szállítottak D doktor kórházába. Felmérve a hat ember állapotát, D doktor gyorsan megállapította, hogy két betegnek veseátültetésre, a harmadiknak szívátültetésre, a negyediknek májátültetésre, az ötödiknek pedig tüdőátültetésre van szüksége. Dr. D aggódott, hogy honnan tud megfelelő donorokat szerezni a betegeknek, amikor felfedezte, hogy a hatodik páciensnek, egy harmincöt éves férfinek, akit megfigyelésre küldtek be a kórházba, látszólag egyáltalán nem volt sérülése. D ezután a műtőbe küldette a fiatalembert, eltávolította a szerveit, és átültette őket a másik öt betegbe, ezzel megmentve az életüket.[1]
Mindenki eldöntheti ezt a kérdést a saját érzései szerint, de pontosan mi alapján?
Hivatkozhatunk a "józan észre" ennek a problémának a megoldásánál?
Ha közelebbről megnézzük, érvelhetünk azzal, hogy a józan ész egyszerű badarság. A föld körbehajózása előtt a józan ész szerint a világ lapos volt. Kopernikusz gondos megfigyelései és összetett matematikája előtt a józan ész szerint a Nap forgott a Föld körül.[2] A józan ész tehát nem más, mint egy ideiglenes paradigma, amelyet később egy másik eltörölhet.
A problémát az utilitarizmusra alapítják - röviden, a lehető legnagyobb számú ember megmentésére. Viszont vannak más erkölcsi keretek is, amit figyelembe kell venni. Ennek a lényege, hogy a cselekvés és a következmény etikai fogalma versenyez. Az adott személy úgy dönt, hogy beavatkozik és megöl egy
- 228/229 -
embert, vagy hátradől és végignézi, hogy öt ember meghal, viselve saját döntésének erkölcsi súlyát.[3]
Ha az első nekifutásra nem sikerült megoldanunk az esetet, akkor el kell gondolkodnunk: milyen erkölcsi alapon igazolhatjuk az egyes döntéseket?
Jeremy Bentham szerint az, hogy egy cselekedet helyes-e vagy helytelen, teljes mértékben a következményeitől függ, és cselekedeteinket azon elvnek kell vezérelnie, hogy a legtöbb ember számára a legnagyobb boldogságot teremtsük meg. Jó tehát az, ami a leghasznosabb a boldogság maximalizálásában.[4] Ebből a szempontból D doktor öt életet megmentett egyetlen személy élete árán.
Másrészről, Kant szerint mindig helytelen az embereket csupán eszközként kezelni. Ez alapján D doktor a hatodik férfit kizárólag a többiek megmentésének eszközéül használta, pedig ez a férfi szintén egy emberi lény volt. Volt neve, élete, valószínűleg családja és hobbija. Joga volt ahhoz, hogy ne áldozzák fel szándékosan.[5]
Figyelmünket az erkölcsről a jog területére fordítva láthatjuk, hogy a legtöbb demokratikus országban létezik egy egyetemes törvény, amelyet éppen a következetes utilitarizmus megakadályozására hoztak létre: az alkotmány. Az állam alapítói vagy a törvényhozók alkotmányt hoznak létre, hogy elejét vegyék a többség zsarnokságának. Mi, emberek, egyetemes jogokkal kell, hogy rendelkezzünk, amelyeket mások nem írhatnak felül a hasznosság érdekében.[6]
- 229/230 -
A fent említett példák megközelíthetők a kettős hatás nézőpontjából is, amely szerint megengedhető közvetett módon ártani valakinek (mint egyfajta mellék vagy kettős hatás), ha a cselekedet egy nagyobb jó érdekében történik. Ennek az elvnek a története a tizenharmadik században kezdődött, amikor Aquinói Szent Tamás a Summa Theologiae-ben rámutatott arra, hogy egy cselekedetnek gyakran két következménye van: egy jó és egy rossz, és bizonyos feltételek mellett megengedhető egy olyan jó cselekedet végrehajtása, amelynek rossz következményei vannak, még ha az olyan is, amelyet általában kötelesek vagyunk elkerülni. Így tehát, míg egy másik ember életének kioltása általánosan tilos, addig az önvédelemből elkövetett emberölés megengedhető lehet.[7] Különleges körülmények között tehát megengedett lehet a jó mellett rossz következményt okozni, melynek négy feltétele van:
1. Magának a cselekedetnek erkölcsileg jónak vagy legalábbis közömbösnek kell lennie.
2. A cselekedet végrehajtója nem kívánja kifejezetten a rossz következményt, de megengedheti. Ha elérhető a jó következmény a rossz nélkül, akkor arra kell törekednie.
3. A jó hatásnak legalább annyira közvetlenül a cselekedetből kell erednie, mint a rossz következménynek. Más szavakkal, a jó következményt közvetlenül a cselekedetnek kell előidéznie, nem pedig a rossz következménynek. Másként a cselekvő rossz eszközöket használna a jó elérése érdekében, ami semmiképpen sem megengedhető.
4. A jó következménynek kellőképpen kívánatosnak kell lennie ahhoz, hogy kompenzálja a rossz következmény megengedhetőségét.[8]
Ha ezt az elvet a fenti 2. esetünkre alkalmazzuk, a következőket állapíthatjuk meg:
1. Ha elválasztjuk a cselekedetet annak minden következményétől, akkor a villamos elterelése erkölcsileg semleges (az 1. feltétel megvalósul).
2. B úr, amennyire tudjuk, nem kívánta a mellékvágányon lévő ember halálát. Ő csak előre látta és megengedte a férfi halálát, mint az öt ember megmentésének mellékhatását. Mindannyian egyetérthetünk abban, hogy ha B úr meg tudta volna menteni az öt másik embert anélkül, hogy a hatodik ember halálát okozta volna, akkor meg is tette volna (a 2. feltétel megvalósul).
3. B úr azzal, hogy átkapcsolta a síneket, nem a hatodik embert ölte meg először, és aztán használta fel az ő holttestét, hogy megállítsa a villamost. Nem, a cselekedetének azonnali, közvetlen hatása az öt ember megmentése volt. Csak később (noha csak pár másodperc múlva) ölte meg a villamos a férfit (és nem az, hogy a sínek át lettek kapcsolva) (a 3. feltétel megvalósul).
- 230/231 -
4. Az öt ember megmentéséből származó haszon meghaladja a másik veszteségét (a 4. feltétel megvalósul).[9] A fenti szituációkban az érintettek idegenek voltak egymás számára. De mi a helyzet akkor, ha rokonok, barátok vagy ellenségek?
Ha őszinték vagyunk önmagunkhoz, bevallhatjuk: "Én nem terelném el a villamost, hogy elgázolja a gyermekemet vagy a férjemet vagy az édesanyámat vagy akár a szomszédomat. Ez nem lenne természetes. Szorosan kötődök a rokonaimhoz és a barátaimhoz, és nem lenne egészséges dolog feláldoznom őket öt idegen kedvéért."[10] Hatalmas különbséget jelent, hogy ki az a személy a mellékvágányon, és milyen a kapcsolatban áll velünk. Ez a személy azonnal a gyermekére és a férjére és az édesanyjára és a szomszédjára gondolt. És igen, önmagára.[11]
Egy kutatócsoport szerint ideje a villamost visszavonultatni. Egy pszichológiai tanulmányban azt állítják, hogy ez a dilemma túl irreális ahhoz, hogy alkalmazható legyen a valós erkölcsi problémákban. A szerzők szerint ezért ez nem árul el annyit az emberi állapotról, amennyit szeretnénk. Az egyetemi hallgatók körében végzett felmérés során Bauman és McGraw úgy találta, hogy 63 százalékuk nevetett "legalább egy kicsit" a kövér ember esetén, 33 százalékuk pedig a vágányváltási forgatókönyvön. És ez gond, mert "a humor megváltoztathatja a döntéshozatali folyamatokat, amelyeket az emberek általában az erkölcsi helyzetek értékeléséhez használnak" - jegyzik meg. "Egy nagyobb kutatásból az derül ki, hogy a pozitivitás kevésbé motiváló, mint a negativitás. Ha az erkölcsi megítélést tanulmányozod, és az emberek nevetnek a kísérleti anyagokon, amit adsz nekik, az problémát jelenthet."[12]
Egy másik esetben a belgiumi Gent Egyetem pszichológusai először alkották meg ezt a dilemmát a valós életben, egerek segítségével, laboratóriumi körülmények között. A kutatók összegyűjtöttek 200 embert, és azt mondták nekik, hogy öt egér ketrecét készülnek erős elektromos árammal megütni. A résztvevőknek azt mondták, hogy ha megnyomnak egy gombot, akkor az áramütést egy másik, egyetlen egeret tartalmazó ketrecbe irányítják. (Az egereket végül nem sokkolták; ez csak egy üres fenyegetés volt.) Még ezt megelőzően megkérdezték
- 231/232 -
a résztvevőktől, mit gondolnak, elméletben hogyan reagálnak erre a problémára. Az eredmények azt mutatták, hogy az elméleti forgatókönyv szerint az emberek 66%-a megnyomná a gombot; amikor azonban az igazi egerek ott voltak előttük, az emberek 84%-a úgy döntött, hogy megnyomja a gombot, és aktívan lesokkolja az egyetlen egeret. Feltételezhetjük, hogy az emberek sokkal inkább érzelmileg gondolkodnak egy valódi forgatókönyvben és racionálisabban az absztrakt forgatókönyvekben, ám egyáltalán nem ez derült ki. Lényeges, hogy a tanulmány kimutatta, hogy az emberek másképp gondolkodnak a hipotetikus dilemmákban, mint a valós életben.[13]
A kérdés még bonyolultabb lesz, ha felhívjuk a modern orvostudományt. A mágneses rezonancia képalkotást (MRI) egyes kutatások szerint fel lehet használni annak felfedezésére is, hogy az agyunk mely részei segítik meghatározni számunkra, hogy mi a jó és mi a rossz.[14] A Princetoni Egyetem kutatása szerint amikor MRI-gépben lévő személynek olyan kérdéseket tesznek fel, mint hogy busszal vagy vonattal kellene-e munkába menni, az agy azon részei, amelyek a válaszok megfogalmazását aktiválják, ugyanazon agyterületek között vannak, amelyek akkor aktiválódnak, amikor az ember a villamosprobléma első vagy a második esete között válogat. Annak a gondolatát, hogy a kapcsoló meghúzásával egy személyt másvilágra küldenek azért, hogy a másik öt embert megmentsék, úgy tűnik, hogy az értelem és problémamegoldás vezeti. Másrészről, az agy határozottan különböző részei aktiválódnak, amikor az emberek egy férfi sínekre taszítását fontolgatják. Lehetséges, hogy az agyi funkcióknak ez a kombinációja alkotja erkölcsi megítélésünket?[15]
Ezek alapján feltehetjük a kérdést: Nem létezik többé az erkölcsi filozófia? Most már csak pszichológiánk és idegtudományunk van?[16]
Talán azt gondolhatjuk, hogy a fent említett játék pusztán virtuális probléma, de egyrészt ilyen esetek sajnos megtörténtek a történelem során, másrészt a kérdés a jövőben egy teljesen más megvilágításban jelenik meg. Vessünk egy pillantást a II. világháború szörnyű katonai lépéseire, vegyük szemügyre a jelen kihívásait, majd tekintsünk a jövőbe, az önvezető autók felé!
- 232/233 -
1944 júniusában a német katonák bombázni kezdték Londont a V1 repülő bombáikkal. A rakéták a főváros szívére irányultak, amely sűrűn lakott volt, és itt voltak a kormányzati intézmények is. Ha a németekkel el lehetne hitetni, hogy a bombák eltalálják a célpontjaikat - vagy, ami még jobb, északra esve eltévesztik a célpontokat -, akkor módosítanák a bombák pályáját, hogy még inkább déli irányba essenek le, kevésbé sűrűn lakott területeken. A művelet sikerét a történészek vitatják, az is kétséges, hogy a brit hírszerzés tényleg megpróbálta megtéveszteni az ellenséget ily módon, a felvetés erkölcsi súlya azonban nyilvánvaló.[17]
A II. világháború másik titokzatos szerkezete az Enigma volt, egy titkosítási eszköz, amelyet a náci Németország széles körben alkalmazott, a német hadsereg minden ágában a diplomáciai és katonai kommunikáció védelme érdekében.[18] Sokévnyi kemény munka után a szövetséges hatalmak a háború egy részében már képesek voltak elolvasni a legtöbb német kommunikációt, nagy kérdés volt azonban, hogy miként lehetne ezt a tudást a legjobban kiaknázni anélkül, hogy a németek ráébrednének arra, hogy a szövetségesek el tudják olvasni az üzeneteiket. Az Enigma leghíresebb áldozata a PQ-17-es konvojé volt, amelyről a Szövetségesek tudták, hogy valószínűleg meg fogják támadni a németek, de nem módosítottak az irányon, mivel ez azt jelentette volna, hogy a németek tudomást szereznek arról, hogy a kódjaikat megfejtették. A 35 hajó közül csak 11 élte túl a német támadást.[19]
Azt gondolhatnánk, hogy ezek a háborúk szerencsére már véget értek, de manapság néha ugyanazzal a problémával kell szembesülnünk.
Az Egyesült Államok hadseregében számos kiképzést tartanak arról, hogy mi a különbség a civilek szándékos meggyilkolása és aközött, hogy egy katonai célpont megtámadása során civilek halálát okozzák. Nagyon sokszor előre látható, hogy valószínűleg lesznek "járulékos veszteségek" (a hadseregben így nevezik a civilek nem szándékosan okozott halálát), de nem akarjuk, hogy ez megtörténjen.[20]
Talán nem ennyire drasztikus és közvetlen módon, de a politikusoknak számos esetben élet és halál között kell dönteniük. Amikor egy kormány azzal
- 233/234 -
szembesül, hogy választania kell egy olyan gyógyszer finanszírozása, amely becslések szerint megment X életet, és egy másik olyan között, amely Y életét megmentené, valójában a villamosprobléma egy variációjával találkoznak, bár ezek olyan dilemmák, amelyek során senki nem hal meg.[21] Minden alkalommal, amikor arról döntünk, hogy egyes egészségügyi beavatkozásokat fedezünk, míg másokat nem, korlátozott erőforrásokat osztunk el úgy, hogy azzal a legtöbb jót érjük el. Ha végtelen mennyiségű pénz állna rendelkezésünkre, mindent meg tudnánk csinálni, amit a betegek és a családok kívánnak. Ez sajnos azonban nem így van.[22]
Az etika egyik legikonikusabb gondolatkísérlete talán ma is aktuális lehet az önvezető autók megjelenésével. Vajon egy önvezető autónak meg kellene-e védenie utasai életét, még akkor is, ha ez egy nagyobb számú gyalogos életébe kerül? Ebben az esetben is az ösztöneink ellentétesek: azt akarjuk, hogy mások autója maximalizálja a megmentett életek számát, ugyanakkor úgy gondoljuk, hogy saját autónknak mindenáron meg kellene védenie minket.[23] Amikor a járművezető a fékre tapos, hogy elkerülje a jogszerűtlenül átkelő gyalogos elgázolását, erkölcsi döntést hoz, amellyel a gyalogosról az autóban lévő személyekre helyezi a kockázatot. Az önvezető autóknak hamarosan maguknak kell meghozniuk ilyen etikai döntéseket - de a járművek egyetemes erkölcsi kódexének elfogadása nehéz feladat.[24] Milyen válaszra kell beprogramozni az autót?[25]
2017 elején az MIT Media Lab létrehozott egy Moral Machine nevű platformot, amelyben a résztvevőket felkérték, hogy válasszanak az autonóm járművek számára rendelkezésre álló lehetőségek közül, hogy a lehető legkisebb kárt okozzák egy baleset esetén.[26]
A Moral Machine-nek nevezett felmérés 13 forgatókönyvet fogalmazott meg, amelyekben elkerülhetetlen volt valakinek a halála. 18 hónapon belül 40 millió döntést rögzített, amelyeket 233 ország és tartomány népessége hozott meg. A válaszadókat arra kérték, hogy válasszák ki, hogy kit kímélnének meg az olyan helyzetekben, amelyek változók sokaságát tartalmazzák: fiatalt vagy időset, gazdagot vagy szegényt, több embert vagy kevesebbet. A teszt eredménye az lett, hogy a járművezető döntéseit irányító erkölcsi alapelvek országonként
- 234/235 -
eltérőek. Például egy olyan forgatókönyvben, ahol a gyalogosok és az utasok egyaránt meghalnak egy ütközés során, a viszonylag virágzó, a bűnüldözés intézményével rendelkező országok lakói kevés valószínűséggel kímélnének meg egy olyan gyalogost, aki jogellenesen lépett ki a forgalom elé. Korától, nemétől és lakóhelyétől függetlenül, a legtöbb ember az embereket kímélte meg a háziállatokkal szemben, és emberek csoportjait az egyénekkel szemben. De az egyetértés ezzel véget is ér. Amikor a szerzők 130 ország népességéből legalább 100 válaszadó válaszát vizsgálták meg, úgy találták, hogy a nemzeteket három csoportra lehet osztani. Az egyikbe Észak-Amerika és számos európai és más nemzet tartozik, ahol történelmileg a kereszténység volt a meghatározó vallás; a másikba olyan országok tartoznak, mint Japán, Indonézia és Pakisztán, amelyek erős konfuciánus vagy iszlám hagyományokkal rendelkeznek. A harmadik csoportba Közép- és Dél-Amerika, valamint Franciaország és a volt francia gyarmatok tartoznak.[27]
Bryant Walker Smith, a columbiai Dél-Karolinai Egyetem jogi professzora szerint a tanulmány nem realisztikus, mivel nagyon kevés olyan eset fordul elő a való életben, amelyekben egy járműnek azzal a döntéssel kell szembesülnie, hogy két különböző típusba tartozó ember közül melyiket üsse el. "Én azon is aggódnék, hogy az automata autók hogyan kezelik majd az aszteroida becsapódásokat." - mondja ironikusan.[28] Viszont Barbara Wege, az ingolstadti Audi autógyárban működő autonóm jármű-etikára összpontosító csoport vezetője szerint ezek a tanulmányok igenis értékesek. Wege amellett érvel, hogy az önvezető autók arányosan kevesebb balesetet okoznának, mint az emberi vezetők évente, viszont a robotokkal kapcsolatos eseményekre talán nagyobb figyelmet fordítanak.[29]
Számos olyan publikáció létezik, amely azt javasolja, hogy erkölcsi elvek legyenek beprogramozva az önjáró autók algoritmusaiba. Mások azonban úgy találják, hogy ez nem oldja meg a problémát, de biztosítja, hogy a megoldást egy adott szabályhalmaz vagy más mechanizmus alapján számítsák ki, ezáltal a problémát a mérnöki munka felé terelve.[30] Ez a másik oldal megvilágítható egy példa segítségével. Egy délután a park melletti kereszteződésen hajtottam át, és át kellett élnem a legkeményebb helyzetet, amellyel a járművezetők szembesülnek nap mint nap: a kereszteződés közepén tétlenül ácsorogni, hogy balra kanyarodhassak, miközben várom, hogy szünet legyen a szembejövő for-
- 235/236 -
galomban, és ezzel egyidejűleg a gyalogosok átkeljenek a kereszteződésen. Egy ilyen szituációban rengeteg lehetséges kockázati tényező és mód van arra, hogy a dolgok szörnyen rosszra forduljanak. Ha elkezdünk lekanyarodni, és a szembejövő autó nem lassul le, akkor gyorsan át kell haladnunk a kereszteződésen, és valamilyen módon elkerülni a babakocsit toló édesanyát. Úgy tűnhet, hogy ez a villamos-dilemmának felel meg: vagy feláldozzuk önmagunkat, vagy elgázolunk két embert a zebrán. De valójában ennél sokkal bonyolultabb a helyzet, mert sokkal több dolog történik egyszerre, és több lehetőség merül fel. Ha egy baleset bekövetkezése valószínűsíthető, akkor számos lehetőség létezik: visszatolathatunk, felugrathatunk a járdára, és belecsapódhatunk a diszkont áruház sarkába, az édesanya észreveheti a kínlódásunkat, és visszahúzhatja a babakocsit a járdára (vagy akár gyorsan át is futhat a másik oldalra). Megpróbálhatunk félrehúzódni az autóval a szembejövő autó és a járda közötti keskeny részre, vagy pedig, ami a legvalószínűbb forgatókönyv: maradunk egy helyben, és a szembejövő autó fékcsikorgással megáll vagy kifarol, hogy elkerüljön. Mindegyik rendkívül kockázatos lehetőség, de ez nem csupán bináris választás - különösen, ha mindenféle csavart labdát viszünk a történetbe, a hótól és az esőtől kezdve az ittas járművezetőkig a kiszámíthatatlan gyalogosokon át.[31]
Ami ezt a példát illeti, a villamosprobléma nem megfelelő a közúti ütközések fontos, összetett, valós problémájához. Például a villamosprobléma feltételezi, hogy a jármű rendszere el fog érni és fenn fog tartani egyfajta mindentudást mindenről és mindenkiről, ami körülötte van, és hogy a forgalmi forgatókönyvek csak két különálló eredményre korlátozódnak. Az önvezető járműveknél nem valószínű, hogy lesz valaha ilyen szintű megértés. Nagy mennyiségű (elpazarolt) számítógépes energiát igényelne ez, amelyet fel lehetne használni inkább arra, hogy a legbiztonságosabb, leghatékonyabb útvonalat megtervezze a jármű, és úgy viselkedjen, hogy minimalizálható legyen a "senki sem nyer" villamos forgatókönyvek valószínűsége. Az automatizált vezetés biztosításához az ilyen járműveket különböző érzékelőkkel és felvevőkészülékekkel fogják felszerelni a vezetési helyzetek figyelésére és elemzésére. Ez azt jelenti, hogy még ütközés vagy ütközésközeli helyzetek esetén is elemezni lehet a jármű érzékelőiből származó adatokat annak megértése érdekében, hogy a jármű a programozás szerint viselkedett-e, és nekünk, mint társadalomnak az ilyen viselkedés megnyugtató-e. Ezeket a járműveket szintén összekapcsolják egy együttműködési rendszerrel, tehát ha például egy gyerek egy parkoló kocsisor felé fut, akkor az egyik jármű a környékén lévőknek figyelmeztetést küldhet a környéken jelentkező megnövekedett veszélyről, hogy ennek megfelelően szabályozzák a sebességüket.
Úgy tűnik, hogy sok ember úgy gondolja, hogy a villamosproblémát szükséges megoldani, mielőtt az önvezető autókat az utakra engednénk. Viszont ezzel csak egy probléma van: a filozófiai kérdés nem bír jelentőséggel az önvezető
- 236/237 -
autók esetében, mivel ezeknek az autóknak nincsenek szándékaik és szabad akaratuk.[32] A gépi tanuláson alapuló modern MI (Mesterséges Intelligencia) arról szól, hogy folyamatosan fejleszti a döntéshozatalt a kívánt eredmény elérése érdekében (mint például a biztonságos és hatékony szállítás), és hogy elkerüljön minden nemkívánatos dolgot (például haláleseteket). Ezek a rendszerek így örökké tanulni fognak a hibáikból és azon dolgoznak, hogyan működhetnének még jobban.[33]
Mennyire kell biztonságosnak lenniük az önvezető autóknak ahhoz, hogy a forgalomba engedjük őket? A gond az, hogy a villamosprobléma mint nyilvánvaló rögeszme, elvonhatja az emberek figyelmét a technológiák valódi értékétől és az általuk nyújtott lehetőségektől, és késleltetheti a biztonsági előnyöket, amelyek e technológiák használatával egyébként elérhetők lennének.[34]
Mint azt látjuk, a technika rendkívül gyorsan fejlődik, de vajon a gondolkodásmódunk és erkölcsünk is így fejlődik?[35]
A valóságban egy robotautónak nagyon ritkán szabadna olyan helyzetbe kerülnie, ahol saját hibája miatt kénytelen valamit elütni. Ennek oka az, hogy egy robotautót úgy kell programozni, hogy az adott útviszonyoknak megfelelő, biztonságos sebességgel haladjon. Nem közelíthetné meg a gyalogos-átkelőhelyet olyan gyorsan, hogy ne tudjon időben megállni, ha a gyalogos kilép az útra. Havas utakon általában nem mehetne olyan gyorsan, hogy ne tudjon időben fékezni, ha előtte valamilyen esemény történik.[36] Ezen felül, még ha ilyen helyzet fel is merülne, a jogalkotó már jelenleg is megválaszolja, hogy az egyes helyzetekben mit kell tenni. El tudja azt valaki képzelni, hogy a bíróságon azzal érvel, hogyan hajtott fel a járdára, hogy elüsse a felperest, annak érdekében, hogy elkerülje az ütközést két olyan emberrel, akik jogellenesen álltak az úton?[37]
- 237/238 -
A közelmúltban sok szalagcím témájává vált egy "erkölcsi gépnek" nevezett, fent ismertetett MIT projekt. Ezzel nagy figyelmet kaptak a látszólag erkölcsi döntéseket hozó autók, ami azért téves, mert az erkölcsi gép projekt egyáltalán nem az autókról szólt - hanem arról, hogy az emberek hogyan válaszolnak a kérdésekre. Valóban, az eredeti "villamosprobléma" nem arról a hasonlóan valószínűtlen elképzelésről szól, amelyben a sínekhez kötözött emberek felé elszabadult villamosok száguldanak, hanem az emberi etikáról és az erkölcsi gondolkodásról.[38]
Ezek szerint itt az ideje ellenállni a kísértésnek, hogy nagyon erős analógiát vonjunk az önvezető autók baleset-algoritmusainak etikája és a villamosprobléma filozófiája között?
Mint a legtöbb filozófiai problémát, a villamosproblémát sem úgy találták ki, hogy megoldása legyen. Ehelyett inkább gondolatok ébresztésére és szellemi diskurzusok létrehozására szolgál, amelyben értékeljük az erkölcsi dilemmák megoldásának nehézségeit, és felismerjük az erkölcsi cselekvőségünk korlátait.[39]
Egyáltalán el lehet dönteni, hogy egy ilyen helyzetben mi a jó döntés? G. E. Moore etikájában Joseph Butler püspök híres kijelentésével érvelt a "jó" meghatározhatatlansága mellett: "Minden az, ami és nem pedig valami más." Moore fő érve a naturális tévedés mellett alapvetően a következő: "A jó az jó, és nem valami más.»[40]
• Cathcart, Thomas (2013): The Trolley Problem, or Would You Throw the Fat Guy Off the Bridge? A Philosophical Conundrum. Workman Publishing Company, New York.
• Edmonds, David (2015): Would You Kill the Fat Man? The Trolley Problem and What Your Answer Tells Us about Right and Wrong. Princeton University Press, Princeton.
• Escolarship.org: Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology. (Elérhető: https://escholarship.org/uc/item/5j0215cr. Letöltés ideje: 2020.08.20.).
• Fastcompany.com: Why the trolley dilemma is a terrible model for trying to make self-driving cars safer. (Elérhető: https://www.fastcompany.com/90308968/why-the-trolley-dilemma-is-a-terrible-model-for-trying-to-make-self-driving-cars-safer. Letöltés ideje: 2020.08.20.).
• Fee.org: The Trolley Problem and Self-Driving Cars. (Elérhető: https://fee.org/articles/the-trolley-problem-and-self-driving-cars/. Letöltés ideje: 2020.08.20.).
• Forbes.com: Robocar Engineers Prefer To Solve The 'Runaway Trolley Problem' By Fixing The Trolley's Brakes. (Elérhető: https://www.forbes.com/sites/bradtempleton/2019/02/21/robocar-engineers-prefer-to-solve-the-runaway-trolley-problem-by-fixing-the-brakes-on-the-trolley/#165012ff36fc. Letöltés ideje: 2020.08.20.).
- 238/239 -
• Iflscience.com: The trolley problem has been tested in real life and the results are surprising. (Elérhető: https://www.iflscience.com/brain/the-trolley-problem-has-been-tested-in-real-life-and-the-results-are-surprising/. Letöltés ideje: 2020.08.20.).
• Maxmen, Amy (2018): A moral map for AI cars. In: Nature. Vol. 562.
• Németh István (2011): Enigma. A rejtvényfejtők csendes harca. In: Rubicon. 2011/6.
• People.howstuffworks.com: How the trolley problem works. (Elérhető: https://people.howstuffworks.com/trolley-problem2.htm. Letöltés ideje: 2020.08.20.).
• Philosophynow.org: Could There Be A Solution To The Trolley Problem? (Elérhető: https://philosophynow.org/issues/116/Could_There_Be_A_Solution_To_The_Trolley_Problem. Letöltés ideje: 2020.08.20.).
• Qz.com: Philosophers are building ethical algorithms to help control self-driving cars. (Elérhető: https://qz.com/1204395/self-driving-cars-trolley-problem-philosophers-are-building-ethical-algorithms-to-solve-the-problem/. Letöltés ideje: 2020.08.20.).
• Qz.com: The problem with the trolley problem. (Elérhető: https://qz.com/1716107/the-problem-with-the-trolley-problem/. Letöltés ideje: 2020.08.20.).
• Theatlantic.com: Is one of the most popular psychology experiments worthless. (Elérhető: https://www.theatlantic.com/health/archive/2014/07/what-if-one-of-the-most-popular-experiments-in-psychology-is-worthless/374931/. Letöltés ideje: 2020.08.20.).
• Theguardian.com: The trolley problem: would you kill one person to save many others? (Elérhető: https://www.theguardian.com/science/head-quarters/2016/dec/12/the-trolley-problem-would-you-kill-one-person-to-save-many-others. Letöltés ideje: 2020.08.20.).
• Warhistoryonline.com: Keeping enigma secret from the germans - many lives were lost sacrificed doing so. (Elérhető: https://www.warhistoryonline.com/instant-articles/times-allies-didnt-use-enigma.html. Letöltés ideje: 2020.08.20.).
• Zenzic.io: The Trolley Problem: Should self-driving vehicles sacrifice one life to save five? (Elérhető: https://zenzic.io/insights/trust/the-trolley-problem/. Letöltés ideje: 2020.08.20.). ■
JEGYZETEK
[1] Cathcart, 2013, 28-29.
[2] Cathcart, 2013, 27.
[3] Fee.org: The Trolley Problem and Self-Driving Cars, 2019.
[4] Cathcart, 2013, 23-24.
[5] Cathcart, 2013, 30-31.
[6] Cathcart, 2013, 33.
[7] Cathcart, 2013, 67.
[8] Plato.stanford.edu: Doctrine of double effect, 2018.
[9] Cathcart, 2013, 75.
[10] Cathcart, 2013, 92.
[11] Cathcart, 2013, 98.
[12] Theatlantic.com: Is one of the most popular psychology experiments worthless, 2014.
[13] Iflscience.com: The trolley problem has been tested in real life and the results are surprising, 2019.
[14] Cathcart, 2013, 45.
[15] People.howstuffworks.com: How the trolley problem works, 2018. [16] Cathcart, 2013, 52.
[17] Edmonds, 2015, 17-20.
[18] Németh, 2011, 60-64.
[19] Warhistoryonline.com: Keeping enigma secret from the germans, 2019.
[20] Cathcart, 2013, 117-118.
[21] Edmonds, 2015, 32.
[22] Cathcart, 2013, 115-116.
[23] Theguardian.com: The trolley problem: would you kill one person to save many others, 2016.
[24] Maxmen, 2018, 469-470.
[25] Qz.com: Philosophers are building ethical algorithms to help control self-driving cars, 2018.
[26] Fastcompany.com: Why the trolley dilemma is a terrible model for trying to make self-driving cars safer, 2019.
[27] Maxmen, 2018, 469-470.
[28] Smith, 2016.
[29] Lásd: https://audi-encounter.com/en/ki.
[30] Escolarship.org: Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology, 2014.
[31] Fastcompany.com: Why the trolley dilemma is a terrible model for trying to make self-driving cars safer, 2019.
[32] Qz.com: The problem with the trolley problem, 2019.
[33] Qz.com: The problem with the trolley problem, 2019.
[34] Zenzic.io: The Trolley Problem: Should self-driving vehicles sacrifice one life to save five, 2019.
[35] Fastcompany.com: Why the trolley dilemma is a terrible model for trying to make self-driving cars safer, 2019.
[36] Forbes.com: Robocar Engineers Prefer To Solve..., 2019.
[37] Forbes.com: Robocar Engineers Prefer To Solve..., 2019.
[38] Forbes.com: Robocar Engineers Prefer To Solve..., 2019.
[39] Philosophynow.org: Could There Be A Solution To The Trolley Problem, 2016.
[40] Cathcart, 2013, 64.
Lábjegyzetek:
[1] A szerző egyetemi docens, tanszékvezető, SZE Deák Ferenc Állam- és Jogtudományi Kar, Alkotmányjogi és Politikatudományi Tanszék.
Visszaugrás
