Te kit hagynál életben? – Egy macskát, egy sportolót, egy nagymamát vagy magadat?

Nem, ez nem egy újabb agyament magyalerdei film trailerének szokásos nyitómondata. Ezt az MIT, az egyik legnevesebb amerikai tech egyetem kérdezi nyilvánosan a neten az ún. Moral Machine segítségével.

selfcarA téma az önvezetésre képes autók morális képességei. Aki a részletekre, némi elmélkedésre és hátborzongató kérdésekre is kíváncsi, görgessen lejjebb. Aki nem, annak itt egy 15 másodperces leírás (az oldal angol nyelvű, de segítek):

  • Nyisd meg ezt az oldalt.
  • Kattints a Start judging (döntés kezdése) bogyóra.
  • Válaszd ki, melyik közlekedési szituáció számodra a kedvesebb. (A “Show description” segít a szituáció és az ábrák pontosításában, de elég egyértelmű, csak figyelj az apróságokra – zebrán áthaladó személyek típusára, gyalogos lámpa színére stb.)
  • Szörnyülködj az eredményeiden 🙂

És akkor most bővebben. Tehát a téma az önvezető autók morális képességei. Még egyszer 🙂

Az önvezető autók.

Morális.

Képességei.

Azt már tudjuk, hogy a legnagyobb tech cégek (Google, Apple) és a legnagyobb autógyártók (Toyota, BMW, Mercedes, hogy a Tesla-ról már ne is beszéljünk), valamint egyes globális cégek (pl. az Uber) arra törekednek, hogy egyszer csak eljöjjön az önvezető autók kora. Ez nincs is már messze, a legtöbb promóanyagban 2020, 2021 szerepel céldátumként. Az öt év, jaja. A fejlesztéseknek nyilván jól megfontolt üzleti, profitvezérelt okai vannak, még akkor is, ha a technológia kifejlesztése és biztonságossá tétele dollármilliárdokba kerül. Persze ez pont ezeknek a cégnek aprópénz igazából.

Az önvezető autók lényege, hogy a sofőr beül az autóba, amely elviszi A-ból B-be, elvileg úgy, hogy a sofőrnek egyetlen kormány- vagy pedálmozdulatot kellene tennie. Vagy mondjuk utazás közben tudunk munkareggelit tartani az önvezető autónkban, az iroda felé tartva. De új értelmet nyerhetnek a családi autók, utazások is ezáltal, hiszen mindenki egymásra figyelhet – nincs, aki állandóan kiesne a családi mókából a vezetés miatt. Ez persze csak akkor igazán bombaüzlet, ha közben senki sem sérül meg vagy esik áldozatul az önvezető autók döntéseinek. Mert ahogy most vezetés közben a sofőr dönt, úgy az önvezető autóban is döntések sorozata határozza meg a következő másodpercek eseményeit.

Mert hogyan is működnek az önvezető autók? Az ilyen autók kismillió beépített szenzor segítségével érzékelik az utat, a felező- és záróvonalakat, útburkolati jeleket, közlekedési táblákat, a többi közlekedő (járművek, gyalogosok) mozgását, sőt, a mért adatokból lehetséges szcenáriókat (forgatókönyveket) gyártanak arra vonatkozóan, mi történhet az úton a következő tizedmásodpercekben. A szenzorok segítségével begyűjtött adatokból pedig információk lesznek, amelyek a kezelőszerveket (pl. a nem elhanyagolható kormány) és a hajtásláncot is irányítják. Nevezzük nevén: egy gép vezeti az autót, ahol a sofőr valójában ugyanúgy utassá válik, mintha átülne a hátsó ülésre (vagy akár miért is ne ülhetne ott?…)

De eljön a pillanat, amikor a gépnek döntenie kell. Mondok pár egyszerű példát, nem lelőve a Moral Machine helyzeteit:

  • Eset#01: A tempóm 130, a sztrádán elébem kerül egy bazi nagy szarvas. Az út nem síkos, de egy kanyar miatt a kocsi szenzorai nem látták meg időben az állatot. Hogyan döntsön az autó? – félrerántja a kormányt az állat miatt, kockáztatva, hogy az utas a szalagkorlátban végzi vagy csak picit korrigáljon, de úgy az állat megsérülhet (meg nyilván a kocsi is)?
  • Eset#02: Ismeretlen okból nem tudok megállni az autóval, amelyben egyedül utazom. Betartom a sebességkorlátozást, de sötétben sem én, sem a szenzorok nem annyira pontosak. Elég gyorsan megyek, hogy a zebráig már ne tudjak megállni. A zebrán két gyalogos halad át, egyértelmű, hogy nem tudok megállni. Mellettem szalagkorlát, azon túl árok. Kit védjen (mentsen meg?) inkább az autó? – engem, aki az autót vezetem, a tulaja vagyok, pénzt adtam érte, a birtoktárgyam vagy a két idegent?
  • Eset#03: Kétszer háromsávos, párhuzamos haladásra alkalmas úton a középső sávban előzök egy nyergesvontatót, de mellettem a legbelsőben engem is épp előz egy másik autó. A nyergesvontató egyszer csak elrántja felém a kormányt. Mit tegyen az önvezető autóm? Fékezzen? Nyomjon gázt? Ő is rántsa el balra, ezzel veszélyeztetve a legbelső sávban haladó 7 személyes kisbuszt tele óvodásokkal?

Nehéz döntések. A témának számos megközelítése létezik: biztonságtechnikai, morális, de jogi is. Kis jogi kanyar következik. A Szertár portál idézte saját beszélgetését, amelyben elhangzik egy kulcsmondat: “a gépet nem lehet felelősségre vonni, ha baj történik”. “A jog valóban nem tudta még kellő bizonyossággal körülbástyázni a mesterséges intelligenciákra vonatkozó felelősségi és kárveszélyviselési szabályokat. Nyilván nehezíti a helyzetet, hogy ahány <okos gép>, annyiféle. Van típus, amire simán ráhúzhatók lennének a <mezei> termékfelelősség szabályai, de bíró legyen a talpán, akinek egy folyamatosan tanuló, önvezető autó által okozott balesetnél az eset minden körülményét figyelembe véve kell majd meghoznia a bölcs döntését.”

Látható, a kérdésnek még nincs megnyugtató jogi megoldása. Ki lesz a felelőse egy önvezető autó miatt bekövetkezett csattanásnak? Csak gondolkodásképpen, pár lehetőség:

  • Eset#01: a sofőr, aki bent ül az autóban és ameddig van lehetősége a kormányhoz és a pedálokhoz érdemben hozzányúlnia, addig ez kötelessége is? (zárójel: ne gondoljuk, hogy az önvezető autók lényege, hogy a sofőr a sofőrülésben ül és figyeli a forgalmat és ha szükséges, beavatkozik – nem, a sofőr majd tévézik, játszik a gyerekkel, tárgyal és ügyet sem fog vetni a forgalomra. Épp ezért vett önvezető autót!)
  • Eset#02: a gépkocsi közlekedését irányító szoftvercég vezetője / jogi képviselője / fejlesztési vezetője / bárkije, aki a kocsi szoftverét írta és amelyben konkrétan leírták, hogy milyen algoritmus szerint kell mérlegeljen a kocsi bizonyos eseményeknél?
  • Eset#03: a gépkocsi gyártója (nevezzük autógyárnak), aki a kocsit a 2. esetben szereplő szoftverrel legördítette a járművet a szalagról?

Nagyon hálás vagyok, hogy éveken keresztül jogászok társaságában éltem, laktam, sokat tanultam a világnak erről a feléről, hasznos évek voltak. Például azt tanultam, hogy az igazság és a valóság jogilag sem okvetlenül ugyanaz. Meg azt is, hogy nemcsak egyféle igazság létezik (ezt mondjuk nemcsak tőlük tudom). Van szubjektív igazság, van objektív igazság is és van egy jogi igazság is. Erre is mondok egy példát:

Egy gyermek és a nagymamája a piros lámpánál kelnek át a zebrán,  a gyerek előreszalad, a nagymama nem bírja, ezért szétválnak. A megengedett sebességet túllépve érkező sofőr már nem tud megállni és a pillanat tört része alatt döntenie kell, melyiküket válassza. Végül a nagymama esik áldozatul. Szerencsére túléli.

  • Szubjektív szempontból: #1: a sofőr szubjektív döntése volt, hogy ha már áldozatot kell választania, az melyik legyen. Ez kvázi az ő szubjektív igazsága. Meg persze az is, hogy #2: a sofőr úgy döntött, hogy gyorsabban megy, mint a megengedett. Hogy morálisan ezek igazolhatóak-e, az egy másik kérdés (ld. lejjebb).
  • Objektív szempontból: #1: a sofőr a megengedettnél gyorsabban hajtott, #2: a gyalogosok a pirosnál keltek át (mindkét fél szabálytalanul közlekedett).
  • Jogi szempontból: #1A: a sofőr a megengedettnél nagyobb sebességgel közlekedett (szabálysértési vagy büntetési tétel lehet belőle), #1B: ha a nagymama szerencsés, és 8 napon belül gyógyul, akkor a sofőr “csak” súlyos pénzbírságra és esetleg a jogosítványa időleges bevonására számíthat, súlyosabb esetben akár szabadságvesztéssel is sújtható; #2A: a nagymama szabálytalanul kelt át a gyalogos átkelőhelyen + #2B: a nagymama gondatlan volt a rá bízott gyermek felügyeletét illetően, #3: a gyermek, bár szabálytalanul kelt át, nem büntethető.

law-1063249_1280

Na jöjjön végre az a moralitás dolog, és akkor vissza is kanyarodunk a Moral Machine-hez. Felmerülhet a kérdés, mire jó ez az egész Moral Machine. Nos, az önvezető autók szoftverekkel működnek. A szoftvereket – egyelőre – emberek írják, még a mesterséges intelligencia szoftverek sem léteznének emberi beavatkozás nélkül (legalább az elején). A szoftverek (a “gépek”) tudnak tanulni, okosodni, képesek az algoritmusaikat fejleszteni, új összefüggéseket felfedezni (“tanulni”) és azt beépíteni a meglévő gyakorlatukba. De a szoftvereket – egyelőre – emberek írják (egész pontosan emberek döntenek róla, hogy mi legyen bennük). Tehát logikusan emberek döntenek arról az algoritmikus sorrendről is, hogy ki a “fontosabb”, ki az “értékesebb”, ki a “hasznosabb”.

Egyszerűbben: (jelenleg) embereknek kell dönteniük arról, hogy bizonyos közlekedési szituációkban a gép kit válasszon ki arra, hogy megmeneküljön és kit ítéljen arra, hogy – akár halálosan – megsérüljön.

Akárhogy is, az ember nemcsak a fizikai-biológiai fejlettségétől, állapotától, az eszközhasználattól vagy a fejlett kommunikációtól ember, hanem a kulturális szokásai, a civilizációja, a moralitása teszi azzá (én hiszem, hogy így van). Ezeket a tanult kulturális-civilizációs elemeket – globálisan, a teljes emberiséget tekintve – már levetni nem tudjuk, még ha akarjuk is. Ezek után moralitást préselni egy önvezető autó szoftverébe szerintem elég messzire vezető kérdés. A Moral Machine azonban épp ezt célozza. Csupán egy kutatás (?), amely azt célozza, hogy a kitöltő rangsort állítson fel, ki fontosabb, ki nem. A kitöltőket nem profilozzák (demográfia, végzettség, földrajzi hely – bár IP alapján utóbbi kideríthető), de a beérkezett adatokat biztosan használják majd valamire. Ha másra nem, elrettentő példának jók lesznek.

Zárásképpen pár izgalmas (nekem itt-ott hátborzongató) kérdés jutott csak eszembe, strukturálatlanul, véletlenszerűen.

  • Vajon képes-e dönteni egy ember (vagy emberek egy csoportja) (előre, szoftvermérnökként, ill. vezetőként) arról (pusztán morálisan, tehát nem objektíven és nem jogi szempontból), hogy melyik áldozatot válassza?
  • Vajon a Föld minden táján ugyanaz lenne-e az eredmény az áldozatok sorrendjét szabályozó algoritmusban, ha az előző kérdés kapcsán megkérdeznénk egy japán, egy amerikai, egy európai (kelet, közép, nyugat?…), egy afrikai, indiai, kínai, szaúdi, orosz, akármilyen stb. szoftvermérnököt?
  • Vajon jó megoldás-e, ha az autó szoftvere aszerint választ áldozatot, hogy melyik esetben jár a vélelmezett felelős (járművezető vagy a gyártó) kisebb jogi következményekkel (az adott országban, az adott jogi feltételek mellett – ami persze azt is jelenti, hogy az országhatárokat átlépve a kocsim szoftvere is átáll az adott ország jogi feltételei szerinti algoritmusra…)?
  • Mérlegelhet-e az önvezető autó szoftvere, hogy az egyébként szabálytalanul közlekedőket hátrébb sorolja a “listán”?
  • Vajon jó megoldás-e, ha az autó az áldozatok számának mérséklésén dolgozik (félretéve akár a sofőr akaratát és védelmét, akár úgy, hogy a sofőr maga is áldozatul esik)?
  • Azzal, hogy pénzt adtam egy autóért, megvásároltam a kocsi biztonsági felszereléseit is (biztonsági öv, légzsák, csomó szabályozó ketyere stb.). Ezeket elsősorban azért vettem meg a kocsival együtt, hogy én és az utastársaim életben maradjanak, illetve biztonságosabban legyenek megoldhatóak különböző veszélyes közlekedési szituációk, amelyekkel mások életét is megmenthetem. Egy önvezető autó és annak biztonsági felszereléseinek megvásárlásával vajon megvásárol(hat)om-e azt a biztonságot is, hogy az önvezető autó engem és az utastársaimat soha nem áldoz fel?
  • Lesz-e érdemi különbség (pl. az áldozatok mérlegelése kapcsán) az autógyártók önvezető autói között vagy létrejön egy egységes globális szabvány, mint a biztonsági öv vagy a légzsák szabványok kapcsán?
  • Az előző két kérdés kapcsán adódik a “milliódollároskérdés”: vajon drágább lesz-e az a jármű, amelynek szoftvere a sofőr és az utastársai biztonságát feltétel nélkül előbbre tartja bármelyik másik közlekedő életénél?
  • Akarunk-e ilyen világban élni? 🙂 (Fogunk – a szerk.)

Na, aki már idáig eljutott, most már tényleg érdmes megcsinálnia a Moral Machine tesztet! És kommentben meg is oszthatja az eredményeit 🙂

Akinek hasonló agymenéses kérdései volnának, ne fogja vissza magát!

Források: MIT, Szertár, belinkelt weboldalak, Youtube embed videók. Képek: Pixabay, Wikipedia

Advertisements

Vélemény, hozzászólás?

Adatok megadása vagy bejelentkezés valamelyik ikonnal:

WordPress.com Logo

Hozzászólhat a WordPress.com felhasználói fiók használatával. Kilépés / Módosítás )

Twitter kép

Hozzászólhat a Twitter felhasználói fiók használatával. Kilépés / Módosítás )

Facebook kép

Hozzászólhat a Facebook felhasználói fiók használatával. Kilépés / Módosítás )

Google+ kép

Hozzászólhat a Google+ felhasználói fiók használatával. Kilépés / Módosítás )

Kapcsolódás: %s