Megrendelés

Riczu Zsófia[1]: A munkajogi jogalanyiság kérdései - platformmunkavégzés és az MI jogalanyisága (IJ, 2022/1., (78.), 3-7. o.)

Absztrakt

A mesterséges intelligencia és az automatizálás a XXI. század egyik legmeghatározóbb eleme.

"A digitális fejlődés átalakítja a munka világát" - ez a tézis számos kutatás kiindulópontja. Jelen tanulmány alaptétele is ez az elv, hiszen a digitális technológiák fejlődése és elterjedése folyamatában alakítja át a munkavégzés és foglalkoztatás körülményeit egy lassan követhetetlen folyamatot eredményezve. Napjaink ipari forradalma, az "Ipar 4.0" jellemzői az algoritmusok, a mesterséges intelligencia, decentralizált termelési hálózatok és tömegtermelés, a globalizáció jelenléte, az élménytársadalom, amelyben a munkavállalói és munkáltatói jogalanyiság helyzetét kívánom elemezni. A tanulmány célja a munkáltatói és munkavállalói jogalanyiság vizsgálata, érintve a mesterséges intelligencia jogalanyiságának kérdéseit. A téma kiemelkedő fontosságát az is mutatja, hogy számtalan tanulmány foglalkozik a jogalanyiság vizsgálatával a munkajog területén kívül is.

Kulcsszavak: mesterséges intelligencia, jogalanyiság, munkáltatói jogalanyiság, munkavállalói jogalanyiság

Bevezetés

A jogalanyiság mint fogalom a magánjogi tudományban alakult ki, és későbbi fejlődése is a magánjoghoz köthető. A jogalanyiság kérdésköréhez szorosan kapcsolódik a jogképesség témaköre. A jogviszony résztvevői a jogalanyok, jogok és kötelezettségek illetnek meg - ezzel pedig a jogképesség definícióját is érintettük. Maga a jogképesség és jogalanyiság egy elvont fogalom, nem pedig a jogosultság megtestesítője, ugyanakkor a jogviszonyokban való részvétel általános érvényű feltétele. Jogalany lehet természetes személy (társadalmi berendezkedéstől függően) - ebben a körben érintenünk kell a cselekvőképességet, amely nem egyenlő a jogalanyisággal, hanem a megengedő jogi normák érvényesülése kapcsán van szerepe -, jogi személy (olyan emberek csoportja, amelynek jogképességét jogszabályok elismerik, jogképessége célhoz kötött), illetve jogalanyként jelenik meg az állam is.[1] Utóbbi nem tévesztendő össze az állam szervezeteinek jogalanyiságával (ez a jogi személyek csoportja), az állam jogképességének korlátai természetéből erednek, az állam jogalanyként tipikusan büntetőjogi; alkotmányjogi; közigazgatási jogi; nemzetközi jogi jogviszonyok alanyaként jelenik meg.

Alaptézis, hogy az ember jogképes, kötelezettségek terhelik és jogosultságok illetik meg. A polgári jog a jogképesség fogalmát illetően kimondja: minden ember jogképes, az emberi születéstől keletkezik és a személy haláláig tart.[2] A jogképességen kívül azonban szükségünk van a jogalanyiság definíciójának meghatározására is. A jogalanyiság nem juttatható és nem vehető el, tekintettel arra, hogy a méltóságból fakad.[3] A hazai alkotmányos rendszerben a jogalanyi státusz alkotmányos szinten került szabályozásra, az 1949. évi XX. törvény rögzítette: "minden ember jogképes",[4] amely kitétel a hatályos Alaptörvényben nem szerepel, a jogalanyiság kérdését általános jelleggel szabályozza.[5] Az alapjogi jogalanyiság dogmatikai rendszerének és egységes elméleti kereteinek kidolgozása hiánypótló jellegű, a jogalanyiság kérdését számos kutatás helyezte fókuszába.

Jelen tanulmányban a foglalkoztatásra irányuló jogviszonyok, azon belül is a munkaviszony és a platformmunkavégzés jogalanyiságának vizsgálata mellett napjaink meghatározó elemének, a mesterséges intelligencia jogalanyiságának azonosítására is kísérletet teszek. Utóbbi kérdéskört azért is tartom fontosnak, mert a digitalizáció fejlődésével egyre inkább aktuálissá válik: egyre gyakoribb jelenség, hogy a munkavégzést mesterséges intelligencia alkalmazására építjük, vagy a munka jelentős részét mesterséges intelligencia végzi el. Ez veti fel a dolgozat egyik alapkérdését: problémát jelen-e az MI jogalanyiságának elismerése?

1. Munkajogi jogalanyiság

A munkavégzésre irányuló jogviszonyok alanyait a szerződés típusának megfelelően különíthetjük el, azonban a gyakorlatban gyakran okoz nehézséget a polgári jogi jogviszonyok elhatárolása a munkaviszonyoktól. A felek jogviszonyát a szerződés elnevezésétől függetlenül, annak érdemi tartalma alapján szükséges bírálni. Az egyes jogviszonyok elhatárolása kapcsán hosszú ideig érdemi iránymutatást nyújtott a 7001/2005 (MK 170.) FMM-PM együttes irányelv, és annak ellenére, hogy hatályon kívül helyezték, a mai napig megteremti az alapot a munkavégzésre irányuló jogviszonyok elhatárolásának.[6] A munkaviszonyokra jellemző hierarchia a munkáltató fölé-, illetve a munkavállaló alárendeltsége az az elem, amely a minősítést leginkább elősegíti. Jakab Nóra meglátása szerint: "A munkajog célja nemcsak a korábban említett, felek közötti egyensúlytalanság kiegyenlítése. A munkajog céljai között olyan is meg kell, hogy jelenjen, amely az egyéni képesség kiterjesztésével elősegíti az autonómia és egyenlőség elvét a munkában, továbbá tisztes megélhetést biztosít".[7]

A foglalkoztatásra irányuló jogviszonyok között vékony határvonal húzódik, ezért azok minősítésénél és azonosításánál az összes érdemi tényt együttesen szükséges figyelembe vennünk. A munkajogi jogalanyiság kérdését egyszerűen rendezhetnénk: a munkaviszony alanyai a munkáltató és a munkavállaló. Ennél azonban a válasz sokkal részletesebb és több szemszögből is vizsgálható, amelyet a technológiai fejlődés és a Polgár Törvénykönyv által a cselekvőképességre vonatkozó szabályozás még tovább árnyal.

1.1. Munkáltatói jogalanyiság

A 2012. évi I. törvény második részében rögzíti: a munkaviszony alanyai a munkáltató és a munkavállaló.[8] A munkáltatói jogalanyiság kizárólagos és egyetlen feltétele az Mt. 33. §-a alapján a jogképesség.[9]

A munkáltató jogalanyiságának kérdése és vizsgálata nem új keletű dolog, már az '50-es években is értekezések tárgyát képezték. Venediktov fontosnak tartotta a jogi személyeket és az állampolgárokat illetően az egyes jogalanyiságok közötti kapcsolatok feltárását. A munkához való jogot nem csupán munkajogi jogalanyiság, hanem a polgári jogi jogalanyiság feltételeként aposztrofálta, amikor rámutatott, hogy munkajogi jogalanyisággal azok a szervek rendelkeznek, amelyeknek polgári jogi jogalanyiságát a szovjet törvényhozás elismerte, s ugyanezt a meglátást vallotta a költségvetési intézményeket illetően is.[10] Míg Venediktov az összefüggésekre koncentrált, Alekszandrov a polgári és munkajogi jogalanyiság elhatárolásán dolgozott: meglátása az volt, hogy a munkajogi jogalanyiság egy, a törvény által elismert lehetőség és kötelesség arra vonatkozóan, hogy a polgárok részére munkát biztosítsanak.[11] Weltner Andor a fenti szerzők állásfoglalását ötvözte, és fontos feladatként jelölte meg a munkáltatói és a polgári jogi jogalanyiság között fennálló különbségek és összefüggések kidolgozását, hangsúlyozva, hogy polgári jogi és munkáltatói jogalanyiság feltételezik egymást.[12]

- 3/4 -

A munkajogban a munkáltatói jogalanyiság kifejező eleme a munkáltatói minőség, a munkáltató cselekvőképességét, valamint képviseletét a munkáltatói jogkör gyakorlása testesíti meg, és a gyakorlatban a fenti státuszok gyakran különválnak - a munkáltatói joggyakorlás kérdését korábban a társasági törvény szabályozta,[13] jelenleg a jogalkotó az Mt. keretein belül úgy fogalmaz: 20. § (1) bek. A munkáltató képviseletében jognyilatkozat tételére a munkáltatói jogkör gyakorlója jogosult.

(2) A munkáltatói joggyakorlás rendjét - a jogszabályok keretei között - a munkáltató határozza meg.[14]

A képviselet és a jognyilatkozatok megtétele a munkáltatói jogkör gyakorlójának feladatköre, amely a munkáltatói minőség realizálása.[15] A munkáltató és a munkáltatói jogkör gyakorlója gyakran nem egy és ugyanaz, a munkáltató széles mérlegelési jogkörrel rendelkezik a munkáltatói jogkör gyakorlójának meghatározását illetően: egy vagy több természetes személy, illetve testületi szerv is betöltheti a pozíciót, a munkáltatói jogok megoszthatók.[16]

A foglalkoztatásra irányuló jogviszonyok körében azonban e tanulmány szempontjából meg kell említenünk a munkaviszonyok és a közszolgálati jogviszonyok elkülönülésének és a közszolgálati jogviszonyok sokszínűségének problematikáját. E két terület elhatárolásával a közelmúltban számos tanulmány foglalkozott,[17] a hazai közszolgálat sokrétűségét korábbi tanulmányomban már érintettem.[18] E két jogterület eltéréséből fakadóan a munkáltatói pozíciók is eltérő jegyeket hordozhatnak. Általánosságban a közszolgálati jogviszony alanyaira is utalhatunk a "munkavállaló" és "munkáltató" fogalmi használatával, azonban épp a munkáltató személye az, amely meghatározza a közszolgálati jogviszonyok eltérő jellegét, erre való tekintettel az alanyok tekintetében indokolt a "közszolgálati munkáltató" és "közszolga" kifejezés használata.

1.2. Munkavállalói jogalanyiság

Munkavállalói jogalanyiság kérdésében a Munka Törvénykönyve rögzíti: "Munkavállaló az a természetes személy, aki munkaszerződés alapján munkát végez."[19] Napjaink fogalma szerint tehát munkavállalói jogalanyiság korlátozott, természetes személy lehet munkavállaló. Ez már alapjaiban ellentmondást jelent az MI munkavállalói jogalanyiságának meghatározásánál, kérdés, e kritériumnak szükséges-e változnia, kiterjeszthető-e a munkavállalói jogalanyiság köre? Az alábbi alfejezetben a munkavállalói jogalanyiság alapkérdéseit vizsgálom.

1.2.1. Korhatár, cselekvőképesség kérdése

A munkavállalói jogalanyiságot érintően a Tanács 94/33/EK Irányelve (1994. június 22.) a fiatal személyek munkahelyi védelméről kimondja: a munkába állás alsó korhatára nem lehet alacsonyabb, mint a tankötelezettség felső korhatára, és semmilyen esetben sem lehet tizenöt évnél alacsonyabb.[20] A meghatározott életkort be nem töltött gyermekeket kulturális, művészi, sport- és reklámtevékenységben való szereplésre csak az illetékes hatóságok egyedi, előzetes hozzájárulásával lehet alkalmazni. A nyugat-európai államok - ahogy arra Prugberger Tamás rávilágított - a munkaszerződésre vonatkozóan polgári jogi szabályozásnak azt a modelljét követték, amely a nagykorúsági kor alatt szülői, gyámi, vagy cselekvőképességében korlátozott, gondnokság alá helyezett esetében gondnoki beleegyezés szükséges a munkaszerződés megkötéséhez, ugyanis magát a munkaviszonyt és az azt létrehozó munkaszerződést a nagy jelentőségű jogügyletek körében szabályozza.[21] Hazai szabályozásban az 1992. évi Mt. lehetővé tette a fiatalkorú munkavállalását, mellőzve a gyámi/szülői beleegyezést.[22]

A régi Mt. 75. § (1) bekezdésében foglalt előírását, mely alapján nőt és fiatalkorút nem szabad olyan munkára alkalmazni, amely testi alkatára, illetve fejlettségére hátrányos következményekkel járna,[23] az új Mt már kiterjesztően tartalmazza, a munkaszerződés teljesítése kapcsán: A munkavállalót csak olyan munkára lehet alkalmazni, amely testi alkatára, fejlettségére, egészségi állapotára tekintettel rá hátrányos következményekkel nem járhat. A munkáltató a munkavállaló egészségi állapotának változására tekintettel köteles a munkafeltételeket, a munkaidő-beosztást - a 6. §-ban foglaltak figyelembevételével - megfelelően módosítani.[24]

A jogalkotó az Munka törvénykönyvén belül érinti a cselekvőképtelen munkavállaló fogalmát.[25] amely a mentálisan sérült személyek munkához való jogát tölti meg tartalommal. Bár munkavállalói jogalanyiság kérdése polgári jogi definíciókra épül, azonban meglátásom szerint a munkajog területén a hangsúly nem a cselekvőképességre, hanem a munkavégzésre helyeződik, és bár a jogalkotó a munkaviszonyok szabályozásának körében érintette a cselekvőképtelen munkavállaló foglalkoztatását, úgy vélem, ez a terület egy sokkal részletesebb és külön szabályozást igényelne, valamint - ahogy arra Jakab Nóra is kitért - a mentálisan sérült emberek munkavégzése a munkajogi mellett egy komplex foglalkoztatási kérdés is.

1.2.2. Platformmunkavégzés jogalanyiságának köre

A platformmunkavégzés jogalanyisága kapcsán kiindulópontom a Supiot-jelentés, melynek alapvető megállapítása, hogy válságban van a jelenlegi munkajogi modell, a munkaviszony jelenlegi formájában már nem képes betölteni korábbi szerepét.

A Supiot-jelentés szerint a foglalkoztatásra irányuló jogviszonyoknak egyre több és színesebb típusa jelenik meg, amelyek alapvetően a három csoportba sorolhatók: alárendeltségen alapuló, tradicionális munkaviszonyok, munkavégzésre irányuló egyéb jogviszonyok, (szürke zóna, önfoglalkoztatás nem egyértelmű formái, quasi önfoglalkoztatás platformmunkavégzés körében), önfoglalkoztatók, vállalkozók.[26] A digitális forradalom következtében számos foglalkoztató rugalmasabb foglalkoztatói formára tart igényt. Céljuk a költségeik redukálása, azonban ezzel párhuzamosan a rugalmasságra való törekvések védelemre épülő modelljének alapjait gyengítik meg.[27] Az önfoglalkoztatási formák atipikus munkaviszonyként történő felfogása a nyugati államokban jellemző, elterjedt tézis. A "foglalkoztató" a digitális platformon keresztül meghatározott tevékenységek elvégzésére "munkát végzőket" toboroz, és közvetítői tevékenységet végez.

A platformalapú munkavégzés, vagyis az applikáción keresztül történő foglalkoztatás térhódítása vitathatatlan, számos atipikus foglalkoztatás mellett sokak számára e munkavállalási mód a legfőbb (és gyakran az egyetlen) jövedelemszerző tevékenység. Sokan a foglalkoztatási lehetőség innovatív formájaként tekintenek az applikációs munkavégzésre, holott maga az üzleti modell és a technológia nem újdonság. A platformmunkavégzés munkavállalói jogalanyiságának kérdése számos jogesetben megjelenik, hasonlóan a foglalkoztatót/platformüzemeltetőt illető jogvitákhoz, melyet megjelenés alatt álló munkánkban érintettünk.[28]

A platformmunkavégzés jogdogmatikai kiindulópontja a vállalkozási szerződés, azonban amennyiben a közvetítésen túlmutatva munkát végző által nyújtott szolgáltatás színvonalát is garantálja, abban az esetben már mint munkáltatói elvárásként jelenik meg, amelyhez quasi munkáltatói ellenőrzési jog kapcsolódik. Ebben a tekintetben már nem csupán a munkát végzők megítélése változik, hanem a platformszolgáltató minősítése is, amelyet erősít az Európai Bíróság C-434/15. számú ítélete, amely bár nem kifejezetten munkajogi jogvitán alapul, mégis kiemelkedő precedenst képvisel, és jelentős lépés a jövőbeni joggyakorlatokat illetően.[29] Mélypataki Gábor álláspontja, hogy a foglalkoztatás ilyen formáiban munkát végzők sokkal inkább munkavállalói, mint önfoglalkoztató kategóriába sorolhatók,[30] Prugberger Tamás meglátása: "A magam részéről az atipikus munkaszerződések egy részét vállalkozási, megbízási típusú szerződésként kezelem tartalmuknál fogva."[31] Gyulavári Tamás összefoglalása rávilágít arra, hogy tagállamonként eltérően kezelik a platformmunkavégzőket, ehhez igazítva a munkajogi védelmet is.[32] Rácz Ildikó doktori értekezésében a platformgazdaság mellett a GIG economyt és collaborative, on-demandot, és sharing economyt különítette el[33].

Látható, hogy a munkajog, illetve a munkaviszony fogalmának egyik lényegi eleme az alá-fölé rendeltség helyzete, a munkáltató erőfölénye. Bár a munkajog számos esetben rendeli a Ptk. megfelelő rendelkezéseit alkalmazni, mégis más jellegű szabályozást igényel a magánjogon belül. A jogalanyiság kérdését tekintve indokolt lenne a munkajog polgári jogtól történő elkülönítése, illetve szabályozási

- 4/5 -

kapcsolatának vizsgálata, melyre korábban számos kutatás fókuszált,[34] terjedelmi korlátok okán jelen tanulmányban nem érintem e témakört. Azt azonban a fentiek fényében megállapíthatjuk, hogy a munkavállalók, munkát végzők nem kezelhetők egységesen.

2. Mesterséges intelligencia mint jogalany?

Jogalanyiság vizsgálata esetében vitán felül álló tézis, hogy minden ember feltétlen és teljes alapjogi jogalanyisággal bír, valamint általánosan elismerést nyert a szervezetek/jogi személyek jogalanyisága is. Napjainkban azonban a jogalanyiság elismerésére új igénybejelentők (például a mesterséges intelligencia, a természet) is megjelentek.

2.1. Az MI jogalanyisága

A téma kapcsán az elsődleges kérdés: önálló jogi léttel bíró entitás-e az MI? Válasz nélkül is további kérdések merülnek fel: illethetik-e jogok, terhelhetik-e a kötelezettségek? Tehet-e az MI érvényes jognyilatkozatot, szerepelhet-e, mint jogviszonyok alanya? A kérdések megválaszolásához elengedhetetlen a jogalanyiság és a mesterséges intelligencia elméleti téziseinek vizsgálata. A válaszadást megnehezíti, hogy már maga a mesterséges intelligencia egységes definíciójának kialakítása is nehéz, informatika, pszichológia, filozófia, illetve a jogtudomány területein sem alakult ki egységes, mindenki által elfogadott definíció. A legegységesebb megfogalmazás, amely minden tudomány terület számára elfogadható definíciót kínál, az Európai Bizottság meghatározása: A mesterséges intelligencia (MI) rendszerek olyan ember által tervezett szoftverek (és esetenként hardverrendszerek), amelyek meghatározott, komplex célok elérése érdekében fizikai vagy digitális dimenzióban járnak el úgy, hogy adatgyűjtés útján érzékelik a környezetüket, értelmezik az összegyűjtött strukturált/strukturáltalan adatokat, érvelnek az ezen adatokból származó ismeretekről vagy az információk feldolgozásáról és az adott cél elérése érdekében a legjobb, legmegfelelőbb intézkedés(ek) eldöntéséről. Az MI rendszerek használhatnak szimbolikus szabályokat, megtanulhatnak egy numerikus modellt, és viselkedésüket korábbi döntéseiknek megfelelően adaptálhatják. Az MI tudományterületként számos megközelítést és technikát foglal magában, köztük a gépi tanulást (amelyre konkrét példa a mélytanulás és a megerősítéses tanulás), gépi érvelés (amely magában foglalja a tervezést, ütemezést, az ismeretek bemutatását és az érvelést, a kutatást és az optimalizációt), valamint a robotika (amely magában foglalja az ellenőrzést, az észlelést, az érzékelőket és működtető egységeket, valamint minden más technikának a kiberfizikai rendszerekbe történő beépítését.[35]

Már az 1990-es években foglalkoztak szakirodalmak a jogalanyként kezelt algoritmusokkal. Leon Wein munkájának bevezető részében már így fogalmazott: A jog (amelynek meghatározó szerepe a törvényi keretek biztosítása) kölcsönhatásba lép a technológiával, ugyanakkor a törvény a "szörnyeteg" megszelídítésének és kordában tartásának eszköze".[36] 2007-ben egy kutatócsoport a szerződések, illetve a szerződési akarat kifejezésének módjait vizsgálták a mesterséges intelligencia fejlődésének aspektusában.[37]

Az informatika területén elterjedt általános kifejezés a szoftverügynök, amelyet mesterséges intelligenciával összefüggésben "ágens"-ként aposztrofálnak, amely egy olyan szoftveralapú számítógépes rendszer, amelyre jellemző az önállóság, kommunikációs képesség, alkalmazkodóképesség, mobilitás és ezen túlmenően személyiség is.[38] Ágensnek nevezzük tehát az olyan mesterséges "teremtményeket", amelyek programozhatók, ebből kifolyólag szimulációs környezetben kiválóan alkalmazhatóak, tekintettel arra, hogy nem csupán feldolgozza a kapott információt, hanem arról visszacsatolást is ad, valamint a további modellezési folyamat során felhasználja korábbi eredményeit, visszajelzéseit.[39] Az ágensek törvényi szintre emelése az Egyesült Államokban az Uniform Electronic Transactions Act (Egységes elektronikus tranzakciókról szóló törvény) elfogadásával valósult meg.[40] Peter M. Asaro a mesterséges intelligencia jogi vetületét vizsgálta, kiindulópontja, hogy első körben azt kell megvizsgálnunk, hogy a hatályos törvényi rendelkezések lefedik-e az MI által indukált problémákat. Álláspontja alapján a robotra (mint termék) a termékfelelősség szabályai, míg az ágensek kapcsán pedig szerződéses viszonyok problematikájából kiindulva a felhasználói felelősség szabályai alkalmazandók.[41]

A fenti példák alapján megállapíthatjuk, hogy a mesterséges intelligencia (ágens) egy autonóm entitásként kezelhető,[42] önálló jogalanyiságának vizsgálatához a polgári jogi személy meghatározásából kell kiindulnunk. Az MI és a robotok jogi szabályozásának alapja a jogi helyzetük meghatározása, melyre a Jogi Bizottság jelentése újszerű javaslatot tett: fókuszában az MI és a robotok elektronikus személyiségének biztosítása állt, személyiségük jogi értékelést nyerhet, amely alapján érvényesíthetők a kárfelelősség szabályai.[43] Bár a felvetés abszurditása vitathatatlan, mégsem az első lépés lenne jogképesség kapcsán az alanyi kör szélesítése: kiváló példa erre a történelem során a rabszolgák és a nők jogainak elismerése, napjaink során pedig az állatok jogalanyiságának vizsgálata is kutatások tárgyát képezi.[44] Pokker Zoltán Péter is a rabszolgák jogi helyzetével állított fel párhuzamot. Meglátása szerint ugyanúgy a jogképesség egy korlátozott esetéről beszélünk, mint egykoron majd az önálló döntési képességgel rendelkező (adott esetben pedig már humanoid) robotok tekintetében.[45]

A jogalanyok körének szélesítése azonban polgári jogi kérdéseket von maga után, a dogmatikát új kihívások elé állítja, ezért a jogalkotást széles körű elemzések kell, hogy megelőzzék. Az MI jogalanyiságának kérdése fokozott dilemma a jogtudomány területén. Milyen formában lehetne kialakítani a jogalanyiságot egy robot vagy szoftver esetében? Alkalmazható-e a jogi személyek jogalanyiságának analógiája ebben a tekintetben, vagy a mögöttes emberi cselekvés miatt kevésbé releváns? Solum tézise, hogy a jogképesség nem kizárólagos emberi jellemző, ugyanakkor az MI és a jogi személyek jogképessége eltérő forrású. A jogi személyek fiktív jellegűek, jogképességük gyakorlati megfontolásból ered, az MI esetében az emberi jellem, a tudat, a szándék és az érzelmek hiánya megkérdőjelezi az MI reprodukciós képességét, amely önmagában sem a jogképesség mellett, sem az ellen nem szolgáltat hivatkozási alapot.[46] Előzőkből kiindulva az emberi tudás és gondolkodás, a tudat teremtené meg a létjogosultságot az MI jogalanyiságának, az újfajta intelligencia egy teljesen új szabályozási elvet igényelne.[47] Ezt a vonalat erősíti Pusztahelyi Réka is, aki úgy fogalmaz: A mesterséges intelligencia hamis benyomást kelthet az emberi kapcsolatról vagy interakcióról, hamis kötődésérzetet generál, befolyásolhatja a kiszolgáltatott és fogékony személyeket, így etikátlan vagy akár káros befolyást gyakorolhat az elméjükre, valamint döntéshozatali és választási szabadságukra[48] mindezt úgy, hogy nem jelenik meg mögötte emberi tudat. Ahogy Keserű Barna is rávilágított, hogy akár csak az állatok jogalanyiságának vizsgálatánál, úgy az MI esetében is a jogalanyiság problematikája, hogy a jogalanyiság tekintetében bizonyos képesség megléte, a döntés képessége lenne a feltétel.[49]

2.2. MI mint munkajogi jogalany

Az MI jogi entitásának kérdése többnyire elméleti szinten létezik. Az MI jogi személyiségének megítélése központi kérdés a tudományos közösség számára. Elméleti szinten nincs jogi akadálya annak, hogy az autonóm gépek jogi személyiséggel rendelkezzenek.[50] 2017-ben az Európai Parlament "Polgári jogi szabályok a robotikáról" című határozatában kijelentette, hogy hosszú távon az autonóm robot elektronikus személynek tekinthető.[51] Az állítás arra utal, hogy az EU parlamentje nem tagadja annak lehetőségét, hogy a mesterséges intelligencia a polgári jog önálló alanyává váljon. De mi a helyzet a munkajogi jogalanyisággal?

Az MI a digitalizáció olyan területe, amely intelligens programok, gépek létrehozására fókuszál, olyan tevékenységek elvégzése válhatott lehetővé segítségével, mint a beszédfelismerés, tervezés és egyéb problémamegoldás. Egy biztos: a MI hatásait mindenhol érezhetjük, ebből kiindulva munkajogi szempontú vizsgálata sem hanyagolható el.

Az MI munkajogi jogalanyiságának vizsgálatához Petropulos azon télteléből indulok ki, hogy a gépi tanulási technikák fejlesztése (deep learning) az emberi agy működését és összetettségét használja modellként,[52] ezáltal gyakorlatilag az emberi intelligenciát reprodu-

- 5/6 -

kálja. Az MI munkajogi vetületét vizsgálva több területen is megjelenik. A munkajogviszonyok létrejöttéhez kapcsolódóan már a toborzás- kiválasztás szakaszában is alkalmazzák: a munkavállalók önéletrajzai közötti hatékony keresést hivatott biztosítani, a munkaerő felkutatását és felvételi aspektusainak automatizálását célozva. Meglátásom szerint azonban az MI még nem áll készen arra, hogy leváltsa az embert ebben a fontos folyamatban. A fejlett MI gépi tanulást használ az emberi viselkedés utánzására, amelynek hatékony eléréséhez rengeteg adatra van szükség, és fennáll annak a veszélye, hogy a mesterséges intelligencia megtanulja az ember tudattalan elfogultságát is.[53] Hasznos eszköz lehet azonban az ismétlődő feladatokra fordított idő csökkentésében. A technológia zökkenőmentesen integrálható a toborzási folyamatba az interjúütemezést kezelő program használatával vagy a jelentkezési folyamat automatizálásával.

Szintén a munkáltató oldalán jelenik meg az MI a teljesítményértékelés folyamatában, ahol elfogultságtól mentesen végzi az értékelést, ezáltal segítheti a munkaadókat a bónuszok, juttatások és még a fizetés kezelésében is. Meglátásom szerint a teljesítményértékelés ilyen formában valóban elfogultságtól mentes, azonban az emberi tényező, a szubjektív körülmények figyelembevétele nélkül aligha állapítható meg igazságosan a munkavállalók teljesítménye.

Munkavállalók szempontjából az MI alkalmazásának kérdése leginkább ahhoz a kontextushoz köthető, hogy adott munkafolyamatot MI végez a továbbiakban, ezzel akár tömegesen megszüntetve munkahelyeket. Ebben az esetben, azonban úgy vélem, munkavállalói jogalanyiságról MI esetében nem beszélhetünk, hiszen a munkáltató és az MI között nem jön létre foglalkoztatásra irányuló szerződés - nem jön létre munkajogviszony, így munkavállalói jogalanyiság sem testesül meg. Másik aspektusból vizsgálva, ha egy MI teljes jogi személyiséggel rendelkezik, akkor szerződéseket köthet, bankszámlát üzemeltethet, jogi eljárásokat indíthat.[54]

Jakab Nóra, Berényi Laura és Ráczi Zsófia fontosnak tartják, hogy a robotok és az MI vonatkozásában a specifikus jogalanyiság létrehozatala megtörténjen.[55] Véleményem szerint az emberhez köthető döntési jogkör a továbbiakban is jelentős szerepet kaphat annak ellenére, hogy az MI a tapasztalatokból generált adatbázisból tanulva elsajátítja az önálló döntés képességét. A jogalanyok döntési szabadságának lényege, hogy a jogi normáknak megfelelően cselekszenek, vagy épp ellenkezőleg, azzal szemben más magatartást tanúsítanak, vállalva a jogkövetkezményeket. Nincs ez másként a munkajogban sem.

2.3. Az MI felelőssége

Az MI esetében olyan kérdések is felmerülnek, hogy feltétlenül szükséges-e jogalanyisággal rendelkeznie, vagyis, hogy jogi személy legyen, illetve miért jelentkezik a jogalanyiság kérdése az MI kontextusában? A mesterséges intelligencia létrehozása, épp az emberi tevékenység kiváltása okán merült fel, szükséges-e, érdekünk fűződik-e ahhoz, hogy a személyekhez hasonló jogalanyisággal ruházzuk fel? További kérdésként jelentkezik, hogy a felelősségi szabályok ugyanolyan formában jelentkeznek-e az MI esetében, mint a robotok alkalmazásakor?

A felelősség vizsgálatának alapja a döntés, a magatartás, a cselekvés, a kiindulópont, mint a jogi felelősség alapja. Előfeltétele az adott döntés, cselekvés, szituáció kognitív feldolgozása, valamint maga a cselekvés.

A jogirodalomban főként a polgári jogi felelősség tárgykörében történtek kutatások, Giovanni Sartor kifejezetten az algoritmus és szoftver felelősségét kutatta az általa okozott károkért. Két elméletet állított fel a kárfelelősség szempontját illetően, az egyik, hogy a jogalany olyan károkért felel, amellyel kapcsolatban gondatlanság terheli - az elmélet hátránya, hogy az algoritmusok és az MI az irányításon túlmutatva is cselekszik (tanuló algoritmusként), így aligha határozható meg a felelős személye. A másik teóriája a veszélyes üzemi kárfelelősség logikáján haladva, az elvárhatóság és felróhatóság kettősétől függetlenül az érintett viseli a kárfelelősséget, amely az algoritmust mint eszközt használatba véve elfogadta az ezzel járó jogosítványokat és kötelezettségeket. A szerző azonban leszögezi, hogy az olyan helyzetekben, amely felett a jogalany nem képes felügyeletet gyakorolni, nem terheli őt felelősség.[56]

A fentieken túl vizsgálnunk kell a szándékos jogsértéseket, amely során a jogsértő szabad akaratából választja a jogsértő cselekedet. A szándékos jogsértéseket a jogi felelősségi konstrukciók elkülönítve kezelik, hipotézisük, hogy a címzettek a jogszabály által rendelt parancsot kognitív eszközökkel feldolgozzák és ennek megfelelően cselekednek, ebben az esetben cselekvés előfeltétele a szándék, a jogsértő szabad akaratából választja a jogsértő magatartást.[57] Természetesen az algoritmus felelősségi kérdése kapcsán számos elméleti vonatkozású kérdés feltehető. A kognitív megismerés, tudatosulás és a szándékosság, amely a cselekvést irányítja, elsősorban humán jellem, kérdés meddig? A sokak által vizionált jövő, amikor a robotok fellázadnak, már autonóm robotokat vázol, amelyek öntudatra ébrednek. Keserű Barna álláspontja alapján, ha a gépi intelligencia jogképes lenne, személyként kezelhetnénk, kvázi felelőssé tehetnénk az általa okozott károkért, ugyanakkor a felelősség lényege a kárfelelősségért való helytállás, vagyis a valamiféle tulajdonnal, vagyonnal kellene rendelkeznie az MI-nek.[58]

Hol van az emberi értelmezés és értés, a tudatos cselekvés határmezsgyéje a felelősség szempontjából? Hogy vonnánk felelősségre egy mesterséges intelligenciát? Milyen szankciót alkalmazhatunk egy öntudatra ébredő robottal szemben? A vétőképesség mint tudati állapot vizsgálható-e az MI kontextusában a jövőben? Amennyiben vétőképtelenség áll fenn, kit terhel a felelősség, alkalmazhatók-e Ptk.-ban rögzített termékfelelősség szabályai?[59] Vajon mennyiben állná meg a helyét a munkavállalói kárfelelősség esetében a szubjektív felelősség és a felróhatóság kérdésköre? A károkozás következményei tekintetében az Európai Parlament 2017. évi állásfoglalása ad iránymutatást, míg az MI és a robotok alkalmazásával kapcsolatos munkavédelmi intézkedések tekintetében nemzetközi szabványok meghatározóak.[60]

Összegzés

A fenti megállapítások fényében leszögezhetjük, hogy már maga az MI definíciójának meghatározása is képlékeny, jogi értékelése és értelmezése szintén dilemmákat és szakmai körökben polémiákat eredményez. Tekintve, hogy már maga a polgári jogi meghatározása is vita tárgya, munkajogi aspektusa szintén problémás. Az MI megítélése, mint vagyontárgy, a felelősségi kérdések tekintetében nem ad kiindulópontot, dologként történő kezelése során pedig azért kétséges, mert hiányzik a fizikai valója.

Meglátásom szerint aggályos az MI-t tudattal rendelkező entitásként kezelni, függetlenül attól, hogy milyen segítséget nyújt a munkavégzés folyamatában. A jelenlegi jogszabályi környezetben az MI-t a megítélés során és a szabályozottság hiányából fakadóan semmiképp sem tekinteném jogalanynak, sem polgári jogi, sem pedig munkajogi szempontból.

Az MI megítélése kapcsán a jogtudományok területén három állásfoglalás alakult ki., mint szoftver, mint jogalany, illetve a dologi megítélés. Atabekov és Yastrebov meglátása szerint az MI jogi értelmezése kapcsán érdemes mind a három irányzatot vizsgálni: vizsgálják a szoftvert, s annak dologi jellegét is tanulmányozzák, majd pedig áttérnek a jogalanyiság kérdésére. A mesterséges intelligencia jogi értelmezése szükségszerű feladat, hiszen a technológia már mindennapjaink részévé vált, s nemzetközi szinten is az érdeklődés középpontjába került.[61]

A mindennapjaink során azonban kétségkívül egyre inkább jelentkezik az igény a humán készségek és képességek technológiai vívmányok segítségével történő kiegészítésére, illetve kiváltására, mindez a jövőre vonatkozóan előrevetíti a jogalanyiság aktualizált kérdését. Annak ellenére, hogy meglátásom szerint jogalanyisággal nem rendelkezik, az MI-t érintő jogi kérdéssekkel a továbbiakban is szükséges foglalkozni.

A jogalanyiság megítélésén és elismerésén túl az MI-t érintően az erkölcsi-etikai kérdések vizsgálata megkerülhetetlen.[62] Az azonban megfontolás tárgyát képezi, mennyiben engedünk teret egy mesterséges intelligenciának, s mely területek azok, ahol összetett erkölcsi megfontolások szükségessége korlátozza alkalmazását. ■

- 6/7 -

JEGYZETEK

[1] Ptk. 3:405. § [Az állam jogalanyisága]

[2] Ptk. 2:2. § (1)-(2) bek., 2:4. §.

[3] Frivaldszky János: Jogalanyiság és a jog, mint egyetemes elismerő viszony, In: Iustum Aequum Salutare, 2009./2., p. 19.

[4] 1949. évi XX. törvény 56. §.

[5] Alaptörvény. I. cikk (1) bek.

[6] 7001/2005 (MK 170.) FMM-PM együttes irányelv a munkavégzés alapjául szolgáló szerződések minősítése során figyelembe veendő szempontokról.

[7] Jakab Nóra: Új munkajogi szabályozás, múlt, jelen, jövő - kézirat, https://drive.google.com/file/d/0BxHeUahAKCLvdUVxX3dSMTdIVFU/view [2019.10.01.]

[8] 2012. évi I. törvény 32. §.

[9] 2012. évi I. törvény 33. § értelmében: Munkáltató az a jogképes személy, aki munkaszerződés alapján munkavállalót foglalkoztat.

[10] Venediktov, Anatolij Vasiljevich: A szocialista jogviszonyok alanyairól, Szovjetszkoje Goszudarsztvo i Pravo, 1955./6.

[11] Alekszandrov N. G.: Szovjet munkajog, szerk: Nagy Miklós, fordította: Salusinszky István Jogi és Államigazgatási Könyv- és Folyóiratkiadó, Budapest, 1953.

[12] Weltner Andor: A munkáltatói jogalanyiság. Jogtudományi közlöny 1964./6. p. 334.

[13] 2006. évi IV. törvény 28. § (1)-(2) bek.

[14] 2012. évi I. törvény 20. § (1)-(2) bek.

[15] Bankó Zoltán-Berke Gyula-Kiss György: Kommentár a munka törvénykönyvéhez Complex Kiadó, 2017, p. 108.

[16] I. m. Bankó-Berke-Kiss, 105-106.

[17] Többek között: Gyulavári Tamás: A munkajogi szabályozás rendszere. In: Szerk. Gyulavári Tamás: Munkajog, ELTE Eötvös Kiadó, Budapest, 2014., p. 42-43.; György István: A közszolgálati jog általános kérdései. In: Szerk. György István-Hazafi Zoltán: Közszolgálati jog, Nemzeti Közszolgálati Egyetem, Közigazgatás-tudományi Kar, Budapest, 2015, p. 15-16. és Kun Attila - Petrovics Zoltán: A közszolgálati jog önálló jogági fejlődésének kérdéséről. In: Szerk. Hazafi Zoltán: Közszolgálati életpálya és emberi erőforrás gazdálkodás, Magyar Közlöny Lap- és Könyvkiadó, Budapest, 2014, p. 89-132.

[18] Riczu Zsófia: Az egészségügyi szolgálati jogviszonyról szóló törvény bevezetése, és gyakorlati megvalósítása (kézirat)

[19] 2021. évi I. törvény 34. § (1) bek.

[20] 94/33 EK irányelv 1. cikk (1) bek.

[21] Prugberger Tamás: A korlátozottan cselekvőképes személy munkaszerződéskötésének a problémája de lege lata és de lege ferenda, Jogtudományi Közlöny, 2000/7-8. p. 299-303.

[22] 1992. évi XXII. törvény 72. § (2) Korlátozottan cselekvőképes személy törvényes képviselőjének hozzájárulása nélkül is létesíthet munkaviszonyt. A tizenhat éven aluli fiatalkorú munkaviszonyba lépéséhez azonban szükséges a törvényes képviselőjének a hozzájárulása is.

[23] 1992. évi XXII. törvény a Munka törvénykönyvéről 75. § (1) bek.

[24] 2012. évi I. törvény 53. § (3) bek.

[25] 2012. évi I. törvény 212. §

[26] Perniczka, Suzanne: Organizing the Self-Employed: Theoretical Considerations and Empirical Findings, European Journal of Industrial Relations, (12) 2, p. 125-142. https://journals.sagepub.com/doi/10.1177/0959680106065024 [2021.04.10.)] és Transformation of labour and future of labour law in Europe Final report June 1998 https://www.medelnet.eu/images/stories/docs/supiotreport_en.pdf p. 155. [2021.04.21.]

[27] Bronstein, A.: International and Comparative Labour Law. Palgrave Macmillan, International Labour Organisation, 2009, p. 1-22.

[28] Gábor Mélypataki - Dávid Adrián Máté - Panggih Kusuma Ningrum - Zsófia Riczu: Employer or owner? The character of platform work - in Sustainability in the Gig Economy - Perspectives, Challenges and Opportunities in Industry 4.0; edited by: Dr. Ashish Gupta, Dr. Tavishi Tewary and Dr. Badri Narayanan Gopalakrishnan (megjelenés alatt )

[29] A Bíróság: ítélete (nagytanács) 2017. december 20. C-434/15. sz. ügyben http://curia.europa.eu/juris/document/document.jsf;jsessionid=5F9C6CF583160ED278E2BF0796859B65?text=&docid=198047&pageIndex=0&doclang=hu&mode=lst&dir=&occ=first&part=1&cid=21938981

[30] Mélypataki Gábor: Az új foglalkoztatási formák és a társadalmi innováció hatása a szociális biztonságra. Magyar Munkajog, E-folyóirat. 2019/1. p. 14-26.

[31] Prugberger Tamás: A munkajog-alanyiság európai elmélete in Európai Tükör 2020/1. p. 83 DOI: 10.32559/et.2020.1.4

[32] Gyulavári Tamás: Uber sofőrök és társaik: munkavállalók vagy önfoglalkoztatók? Jogtudományi Közlöny, 2019/ 3. p. 107-11.

[33] Rácz Ildikó A digitalizáció hatása a munkajog egyes alapintézményeire - doktori értekezés p. 23-27.

[34] Bodó László - A polgári jog és a munkajog összehasonlítása az alapelvek tükrében in Debreceni Jogi Műhely DOI 10.24169/DJM/2012/4/2; Jakab Nóra: A munkajog és polgári jog kapcsolata a jogpolitika tükrében http://real.mtak.hu/101403/2/A%20munkajog%20%C3%A9s%20a%20polg%C3%A1ri%20jog%20kapcsolata_2.pdf [2021.04.10.]; Kiss György: Az új Ptk. és a munkajogi szabályozás, különös tekintettel az egyéni munkaszerződésekre, Polgári Jogi Kodifikáció 2000/1. p. 3-17.

[35] High-Level Expert Group on Artificial Intelligence - The Ethics Guidelines for Trustworthy Artificial Intelligence (AI) A definition of AI: Main capabilities and scientific disciplines set up by the European Comission https://www.aepd.es/sites/default/files/2019-12/ai-definition.pdf [2021.04.28.] p. 6.

[36] Wein, Leon E.: The Responsibility of Intelligent Artifacts: Toward an Automation Jurisprudence. Harvard University Journal of Law and Technology, 1992./6. p. 103.

[37] Andrade, Francisco- Novais, Paulo - Machado, José - Neves, José: Contracting Agents: Legal Personality and Representation. Artificial Intelligence and Law, 2007./15. p. 357.

[38] Oren Etzioni - Weld, Daniel S.: Intelligent agents on the internet: Fact, Fiction, and Forecast; Weld Department of Computer Science and Engineering University of Washington Seattle, WA 98195-2350 https://homes.cs.washington.edu/~weld/papers/ieee-expert.pdf [2021.05.10.]

[39] Russel, Stuart - Norvig, Peter: Artificial intelligence - a modern approach, Cambridge University Press: 2009/7. p. 2.

[40] Kis, Sabrina: Contracts and Electronic Agents: When Commercial Pragmatism and Legal Theories Diverge, LLM Theses and Essays, Georgia Law. 2004./88. p. 9-10.

[41] Asaro, Peter M.: Robots and Responsibility from a Legal Perspective. HUMLab, Umea University, Sweden, 2007. Online: http://www.peterasaro.org/writing/ASARO%20Legal%20Perspective.pdf [2021.05.02.]

[42] Ezt az elméletet tükrözi a Hanson Robotics Sophia nevű robotja: Néha teljesen mesterséges intelligencia autonóm üzemmódban dolgozom, máskor pedig a mesterséges intelligenciám keveredik az ember által generált szavakkal. https://www.hansonrobotics.com/sophia/ [2021.12.01.]

[43] Committee on Legal Affairs - Report A8-0005/2017, 18., 59/f. creating a specific legal status for robots in the long run, so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause, and possibly applying electronic personality to cases where robots make autonomous decisions or otherwise interact with third parties independently.

[44] Gyöngyösi Zoltán: Állatok joga és jogalanyisága in. Jogi Fórum http://az_allatok_joga_es_jogalanyisaga%5bjogi_forum%5d.pdf [2021.03.14.]

[45] Pokker Zotlán Péter: A mesterséges intelligenciával rendelkező robotok jogi szabályozása, különös tekintettel az élethez való jog sérelmére http://acta.bibl.u-szeged.hu/70870/1/forum_discipulorum_2019_321-348.pdf [2021.06.07.] p. 346

[46] Solum, L. B: Legal Personhood for Artificial Intelligences. North Carolina Law Review,1992/4. p. 1262-1274 https://scholarship.law.unc.edu/cgi/viewcontent.cgi?article=3447&context=nclr [2021.05.01.]

[47] Keserű Barna Arnold: Szellemi tulajdonjogok a fenntartható fejlődés szolgálatában, doktori értekezés, Széchenyi István Egyetem Állam- és Jogtudományi Doktori Iskola, 2016. p. 73-74.

[48] Pusztahelyi, Réka: Emotional AI and its challenges in the viewpoint of online marketing in Curentul Juridic p. 14 revcurentjur.ro [2021.06.15.] The artificial emotions could create a false impression of human connection or interaction, or could generate false sense of bonding. This is especially very dangerous in the case when the emotional AI may affect vulnerable and susceptible persons, so that it may have unethical or harmful influence upon their minds and the freedom of their decisionmaking process and choices.

[49] Fog-e valaha emberként bánni a jog a mesterséges intelligenciával?

https://www.gyorplusz.hu/gyor/fog-e-valaha-emberkent-banni-a-jog-a-mesterseges-intelligenciaval/ [2021.06.05.]

[50] Többek között: Solum L. B., Lawrence: Legal Personhood for Artificial Intelligences, North Carolina Law Review. 1992. /4. és Solaiman S. M.: Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy. Artificial Intelligence and Law, 2017/25 p. 2.

[51] Civil Law Rules on Robotics - European Parliament. 59.f) http://www.europarl.europa.eu/sides/getDoc.do?type=TA&reference=P8-TA-2017-0051&language=EN#BKMD-12 [2021.12.07.]

[52] Petropoulos, Georgios: ‘Machines that Learn to Do, and Do to Learn: What is Artificial Intelligence?', Bruegel,https://www.bruegel.org/2017/04/machines-that-learn-to-do-and-do-to-learn-what-is-artificial-intelligence/ [2021.12.29.]

[53] Ezt támasztja alá az Amazon Co. HR robotja is, amely az MI elfogultságának legnyilvánosabb példája toborzó MI elfogultsága nyilvánult meg a felvételi algoritmusában a női nem hátrányára. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G [2019.11.05.]

[54] King & Wood Mallesons: AI Guides | AI & Legal Personality https://www.lexology.com/library/detail.aspx?g=1d63dddb-05e8-4982-9cde-e3b4cfbbe83e [2021.12.05.]

[55] Jakab Nóra - Berényi Laura - Ráczi Zsófia: Az automatizálás munkaerőpiaci és munkajogi kérdései, Erdélyi Jogélet 2020./3. p. 75.

[56] Sartor, Giovanni: Cognitive Automata and the Law, Artificial Intelligence and Law, 2006/35. p. 19-22.

[57] Nagy Marianna: A jogi felelősség kihívásai a 21. században. Magyar Tudomány 2019./.7, p. 1054-1063.

[58] Keserű Barna Arnold: A 21. századi technológiai változások hatása a jogalkotásra, Képes-e lépést tartani a jog a változó világgal? https://nkerepo.uni-nke.hu/xmlui/bitstream/handle/123456789/15918/Web_PDF_A%2021_szazadi%20technologiai%20valtozasok%20hatasa%20a%20jogalkotasra.pdf?sequence=1[2021.05.10.]

[59] Ptk. 6:555. § d) pontja szerint [Mentesülés a felelősség alól] A termék általa történő forgalomba hozatala időpontjában a hiba a tudomány és a technika állása szerint nem volt felismerhető.

[60] Lásd többek között az MSZ EN ISO 10218-1:2011, MSZ EN ISO 12100:2011 és MSZ EN ISO forrás: https://prod.mszt.hu/hu-hu/ [2021.06.01.]

[61] Atabekov A. - Yastrebov, O. Legal Status of Artificial Intelligence Across Countries: Legislation on the Move European Research Studies Journal 2018/4. p. 773 - 782.

[62] E témában lásd: Pusztahelyi Réka: Bizalmunkra méltó MI - A mesterséges intelligencia fejlesztésének és alkalmazásának erkölcsi-etikai vonatkozásairól. Publicationes Universitatis Miskolcinensis, Sectio Juridica et Politica, 2019/2.

Lábjegyzetek:

[1] A szerző PhD-hallgató, Miskolci Egyetem, Állam- és Jogtudományi Kar, Deák Ferenc Állam- és Jogtudományi Doktori Iskola.

Tartalomjegyzék

Visszaugrás

Ugrás az oldal tetejére