Gyilkos robot, gyilkos MI | Jövőjegyzetek 2.

Merre tart a világ, mi minden várhat ránk évtizedek, évszázadok múlva? A Jövőjegyzetekben egy-egy témát, gondolatot, ötletet, elméletet járok körül, elsősorban az ember és a technológia viszonya szempontjából.

Egyre terjednek az "önvezető" autók, a hírekbe azonban jelenleg főként az általuk okozott balesetek révén kerülnek be.
Márciusban meghalt egy sofőr a Teslája vezetéssegítő funkciójának használata közben. Nemrég pedig egy hasonló technológiával felszerelt Uber taxi az éjszaka közepén teljes sebességgel, fékezés nélkül halálra gázolt egy biciklijét az úton keresztben áttoló gyalogost, miközben a sofőr a telefonját nyomkodta.

Hamarosan nemcsak az autóiparban, hanem az élet számos pontján fognak megjelenni a gépi intelligenciák, a robotok, amelyek különféle komplex műveleteket fognak végezni (pl. majd műtéteket hajtanak végre, veszélyes eszközöket kezelnek), és mindez számtalan olyan kérdést vet fel, amelyeknek megválaszolására jelenleg nem vagyunk felkészülve.

Ez a Jövőjegyzet arról a nagyon súlyos dilemmáról szól, hogy a nem ember által okozott halálesetekkor ki a felelős, és vajon hogyan dönti majd el egy mesterséges intelligencia, hogy ki legyen az áldozat.

Illusztráció: Syd Mead

Hol tart ma az "önvezető" technológia?
A felelősség minden bizonnyal az autóiparban válik majd elsőként egyre égetőbb kérdéssé. A közhiedelemmel ellentétben jelenleg sem a Teslákban, sem más hasonló, saját magát vezetni képes autóban nincs önvezető mód, csupán csak egy úgynevezett vezetéstámogató rendszer. A jelenlegi technológia ugyanis még nem alkalmas a teljes körű önvezetésre, és a sofőrnek az önvezető módban is figyelnie kell a közlekedést, hogy nem várt helyzetekben azonnal be tudjon avatkozni.

Márpedig a jelenlegi balesetek mindegyike ennek elmulasztása során történik.
A közvélemény egyelőre bizonytalan ezzel az újfajta világgal kapcsolatban, a média pedig jobban szeret riogatni, ezért az autógyártók nincsenek könnyű helyzetben, mert a pánikkeltés nem tesz jót a technológia fejlődésének, elterjedésének.

A közeljövőben játszódó filmekben gyakran látni az országutakon száguldó önvezető kamionokat (Lásd pl. Én, a robot, vagy a legutóbbi Wolverine film, a Logan). Van valami ijesztő abban, hogy nemsokára soktonnányi vastömbök fognak önvezető módban száguldani az utakon, és a változás hiába fog fokozatosan begyűrűzni, időt hagyva arra, hogy megszokjuk, sokan nem lesznek képesek megszokni. És minden egyes baleset növelni fogja a félelmet, mert azt érezzük, hogy az irányítás kikerül az emberi kézből.

Nézzük meg a fent említett két balesetet.

Elsőként itt van az Uber taxi gázolásáról készült rövid belső kameravideó - vigyázat, ahogy a videó elején is szerepel, a nyugalom megzavarására alkalmas felvétel.

Az Uber vezetéstámogató rendszere sokak szerint jelenleg csapnivaló. Az embersofőrök nagy része ezt a gázolást közepes reflexszel el tudta volna kerülni. Na, de, megint csak ott tartunk, hogy jelenleg nincs teljeskörű önvezető mód. A sofőr sms-ezik/chatel közben (ahogy sokan ezt mondjuk ma a normál autókban is megteszik vezetés közben), egyértelműen hibás, a gyalogos meg sötét ruhában, egy kivilágítatlan részen körülnézés nélkül felelőtlenül próbált átkelni.
Ettől azonban még a technológia messze nem áll készen arra, hogy ilyen esetekre jól reagáljon. Világszerte valószínűleg rengeteg gázolás történik, ahol a sofőr nem hibáztatható, de mivel egy "önvezető" autóval történt, így ez sokkal drámaibbnak tűnik.

A másik baleset márciusban történt, egy Tesla Model X az USA-ban, Kaliforniában önvezető módban nekihajtott az elválasztófalnak. Az autó kigyulladt, a sofőr meghalt.

Az alábbi videóban egy másik sofőr ugyanazon a szakaszon, ahol a baleset történt, tesztelte a vezetéstámogató funkciót, és le is kamerázta, mi történt.

Jól látszik, hogy az aszfaltfestés nagyon nincs rendben, elsőre én is azt hittem, hogy balra megy a sáv. Szerintem bárki elnézheti. A videóban a Tesla pedig követte a vélt vonalat, és ezzel ugyanúgy nekiment volna az elválasztónak, ha a sofőr nem avatkozik közbe. A vezetéstámogató rendszer erre a szituációra láthatóan nem tudott időben reagálni, pedig legalább 5-6 másodperc állt rendelkezésre.

Az eredeti balesetben sajnálatos módon elhunyt sofőr viszont tudott volna, ha figyel, ahogy ez kötelező előírás.

Eközben azonban a technológia rohamosan fejlődik. A Google önvezető autója, a Waymo forgalomban egészen kiváló eredményeket produkál, a Daimler nemrég elsőként kapott engedélyt, hogy Kínában, Pekingben, a kínai körülmények közt tesztelje az önvezető technológiát.

Lépjünk át a jövőbe...

Abban biztos vagyok, hogy az önvezető járművekkel teli közlekedés egy sokkal biztonságosabb és sokkal kevesebb balesettel rendelkező világhoz vezet. A valóban önvezető autók évente több millió emberéletet fognak megmenteni, ráadásul ez jelentős gazdasági haszonnal is jár: nem csak az emberi sofőröknél alacsonyabb költségek miatt, hanem pl. a csökkenő balesetszám jelentős kórházi költségmegtakarítást okoz, plusz rengeteg időt spórolnak meg az utazók, amelyet produktívabban tudnak felhasználni.
Én alig várom már, hogy a vezetéssel töltött időt hasznos elfoglaltságokkal töltsem, azonban egyelőre még messze vagyunk. Nem csak technológiai, hanem etikai értelemben is.

Ugyanis balesetek mindig lesznek.
Nem azért, mert a technológia idővel ne lenne szinte hibátlan, hanem azért, mert az utcákon ettől még emberek járnak, emberek szabálytalankodnak, rohannak át a tilos lámpánál, ráadásul az automata autóknak jó darabig logikátlan és néha abnormálisan közlekedő emberi sofőrök között kell helyt állniuk.

De ki a hibás, ha a szoftver esetleg téved, és balesetet okoz?

Elsőre ez nem kérdés. Egy gép, szoftver nem lehet hibás, mivel nem személy, nincs tudata, nincsenek jogai. Így egyértelműen a gyártó cégnek kell viselnie a felelősséget. Az autógyártók nyakába súlyos kártérítési perek szakadhatnak, de megfelelő használati utasítással, figyelmeztetésekkel valószínűleg a legtöbb pert ki tudják majd védeni. Ilyen esetből ma is rengeteg van, viszont a jövőben, az önállósodó eszközök ugrásszerű elterjedésével az ilyen balesetek száma meg fog sokszorozódni.
Mi fog történni? Semmi különös, mert ahogy a technológia tökéletesedik, és a mindennapok része lesz, ahogy sok más új technológiát, az önvezető autók millióit is megszokjuk, és elfogadjuk, főleg, ha látni fogjuk az előnyeit. Történnek majd balesetek, de a statisztikákból egyértelműen látszik, hogy még így is töredékére esik vissza a halálesetek száma. Ez az áldozatok családtagjait ugyan nem vigasztalja, őket a gyártók és a biztosító társaságok fogják kárpótolni (mármint jogilag, mert emberileg nem lehet).

Valójában ma sincs ez másképp. Itt van például Anton Yelchin, a fiatal amerikai színész 2016-os sokkoló esete, akit méregdrága kocsija egy korábban vásárlók által sokszor jelzett elektronikus váltóhiba miatt nekipréselt a háza kapujának, és halálra nyomott. A család beperelte az autógyártót, de aztán peren kívül megegyeztek. Így megy ez manapság.

A döntés felelőssége

Sokkal veszélyesebb ma felülni egy buszra, mint tizenöt év múlva lesz felülni egy önvezető buszra. Az önvezető autók már most sokkal-sokkal kisebb százalékban okoznak balesetet, és idővel egy olyan világban fogunk élni, ahol biztonságos önvezető autók járják az utakat, és biztonságosnak hitt gépek tevékenykednek körülöttünk. A technológia azonban nem lesz mindenható, sem tévedhetetlen, részben mert a szoftvertervezést még jó darabig emberek végzik.

Azobnan bármikor előfordulhat olyan veszélyhelyzet, amikor a szoftvernek döntenie kell. Itt egyvalamit fontos kiemelni: nem valódi döntésről van szó, a szoftver nem dönt, a programozása határozza meg, hogy egy adott szituációban mit csináljon. És nem mindig létezik helyes döntés, mert elképzelhető, hogy emberéletek között kell választania.

Mi történik, ha az önvezető autó elé ugrik egy kisgyerek? Hogyan kellene reagálnia a szoftvernek? Egyértelmű, nem? Mindenáron el kell kerülnie a gázolást.

Na, de kinek a szempontjából egyértelmű?

Az autó tulajdonosa például békésen olvas, amikor az MI döntési helyzetbe kerül, és a gyerek megmentése érdekében nekivezeti az autót a falnak. A tulajdonos meghal vagy súlyosan megsérül. Azért vásárolunk majd önvezető autót (de inkább bérlünk, mert a jövőben egyre kevésbé lesz értelme autót venni és az idő nagy részében kihasználatlanul tárolni), hogy biztonságosan A-ból B-be szállítson bennünket, és veszély esetén megóvja a testi épségünket.
Hogyan dönt az autó, ha két kisgyerek kerül elé, és a kalkuláció szerint csak az egyiket lehet a fizika határain belül elkerülni? Vagy, ha az autóban többen ülnek, például gyerek is utazik a szülővel.

Szinte végtelen számú döntési helyzetet lehetne felsorolni, amikor nincs jó végkimenetel. Az emberi sofőr ösztönösen dönt - valahogy. Embere válogatja, hogy hogyan. A szoftver viszont csak a beprogramozott szabályrendszert képes követni, és ezeket a szabályokat valakiknek meg kell alkotniuk.

Vajon kik fogják ezt magukra vállalni? Az autógyártók mérnökei? Az állami jogalkotók? Vagy valamiféle társadalmi konszenzus alakul ki? Kialakulhat-e egyáltalán bármi ilyesmi? Lesznek egyáltalán egyetemes szabályok, világszintű szabályozás vagy országonként változó elvek alakulnak ki?

Nagyon kíváncsi vagyok, hogy milyen elvek alapján teszik majd ezt.

Illusztráció: Syd Mead

A következő évtizedekben a jogrendszernek alkalmazkodnia kell a technológiák felelőssége kapcsán felmerülő helyzetek kezelésére, különben hatalmas káosz lesz. Jelenleg nem tudjuk egyértelműen értelmezni sem ezeket a szituációkat, és sem jogilag, sem morálisan nincsenek rá társadalmi minták. Sokan egyáltalán nem tudják, mit gondoljanak a témáról, mások egyenesen természetellenesnek tartják azt, hogy a gépi intelligenciákat emberi életekről való döntésekkel, prioritásokkal ruházzuk fel.

Muszáj lesz valami alapján dönteni, fontossági sorrendet felállítani.

Lehet például életkor alapján (a fiatalabb javára), nemek alapján (nő vs férfi), de idővel és kellő adatbázis és arcfelismerés esetén mérlegelni lehet akár az adott ember státuszát, szakképzettségét, van-e priusza, családja, biztosítása, mennyi adót fizet és van-e tartozása, egyáltalán, mennyire "értékes" a társadalom számára. Számtalan, kellemetlen szempont alapján alakulhat ki egy döntés, ha tegyük fel, két ember között kell választani.
Nem tudom,hogy ez a fajta logika valóban működhet-e a valóságban.
Elsőre azt mondanám, hogy semmiképp, mert ez az emberek rangsorolásához vezet.

Csakhogy eközben Kínában már fejlesztés alatt áll a szociális kreditrendszer, amely éppen ezt teszi: idővel majd monitorozza a polgárok napi tevékenységeit, közösségi oldalakon való részvételét, hogy mit néznek, mit vesznek, mit olvasnak, mit lájkolnak, és ez alapján különféle előjogokhoz jutnak, vagy éppen korlátozva lesznek bizonyos jogaik. A Big Data házasságra lép a Big Brotherrel. Közben a Google, a Facebook már most is döbbenetesen sokat tud rólunk, vagyis a szükséges adatok lassan rendelkezésre állnak.

Ha ez megtörténik, nagy valószínűséggel ezt is szép lassan el fogjuk fogadni. Eleinte biztosan lesznek felháborodások, lesznek, akik bojkottálják például az ilyen közlekedési eszközöket, de egy idő után szinte senkit nem fog érdekelni, amikor közben jelentősen csökken a balesetek száma.

Túl Asimov törvényein

Az önvezető autók csak a kezdet, hamarosan még komplexebb, korlátozott önállósággal rendelkező gépek, robotok állnak az emberiség szolgálatába, műtéteket fognak végrehajtani, idős embereket gondoznak, vagy akár bébiszitter-funkciót látnak el.
A robotok és döntések kapcsán minden sci-fi olvasóban azonnal felmerül Isaac Asimov három robottörvénye. Asimov megalkotta a robotika törvényeit, hogy aztán sok tucatnyi történetben mutasson rá a törvények buktatóira, kiskapukra, olyan logikai helyzetekre, amikor a törvények kudarcot vallanak.

A robotikával foglalkozó szakemberek szerint az asimovi törvények nem is alkalmazhatóak a jelenlegi és közelgő robotizáció során, mert a való világban sokkal-sokkal kompexebb és sokrétűbb lesz a robotok alkalmazása, mint például az Én, a robotban. Még úgy is, hogy sok idő fog eltelni addig, amíg egy robot egyáltalán valóban képes lenne önállóan megérteni, értelmezni bármilyen törvényeket, szabályokat.

A hadiipar valószínűleg élen fog járni a robotikában, katonai drónok ellenséges terepen már ma is képesek kiiktatni az ellenséget, és a jövőben egyre több, önálló döntések meghozatalára képes hadászati robot fog készülni. Márpedig ezeket a roboteszközöket emberek megölésére fogják programozni annak érdekében, hogy emberéleteket mentsenek meg.

Nesze neked robotika első törvény.

A Future Life of Institute nemrég egy kisfilmet tett közzé.
Ez egy disztópiába forduló fikció, amely úgy indul, mint egy technológiai előadás:arcfelismerő rendszerrel rendelkező önvezérlő drónok odarepülnek a célszemélyhez, és nekiütköznek, a rájuk helyezett robbanóanyag pedig lyukat üt az ember homlokába. A kisfilm ezt követően végigvezeti, hogy szélsőséges esetben hova is vezethet ez a technológia, és mennyire egyszerű emberek megölésére használni.

Az intézet arra akarta felhívni a figyelmet, hogy a szükséges technológia már ma is létezik, és nem kell semmilyen bonyolult mesterséges intelligencia hozzá.
El sem jutunk addig, hogy egyáltalán értelme lenne az asimovi törvényeknek, de már itt is van egy félelmetesen hatékony gyilkos robottípus milliónyi minidrón formájában.
Amelyet bárki használhat. Terroristák. Cégek. Kormányok. Magánszemélyek.

Az valószínű, hogy egy ideig még minden robot, minden szoftverintelligencia mögött emberi akarat, emberi döntés, emberi programozás áll.

Viszont szerintem ez sokkal aggasztóbb, mintha a gépi intelligenciák önállóan döntenének.

Hogyan döntsön az önvezető autó?
Végezetül egy érdekes "játékot" ajánlok az önvezető autók döntési szituációi kapcsán.
Az MIT (Massachussets Intitution of Technology) egyetemnek van egy honlapja, a Moral Machine, ahol egy 13 kérdésből álló elméleti döntési sort lehet kitölteni, hogy különböző szituációkban hogyan kellene döntenie a jövőben az önvezető autóknak (a szituációkban elég sok mindent meg tud az autó állapítani a gyalogosokról, utasokról).

http://moralmachine.mit.edu/

Érdemes a tesztet többször is kitölteni, mert más és más szituációk jönnek elő. Én a tesztből nagyon hiányoltam egyes helyzetekben a véletlenszerű választási lehetőséget, mert sokszor egyszerűen nem korrekt a bármilyen elvek szerinti döntés, és talán több olyan szituációt vártam volna, amire semmilyen logika szerint nem lehet döntést hozni.
Viszont mivel muszáj volt, valahogy mindig döntöttem.
A teszt után össze lehet hasonlítani a mi prioritásainkat az átlaggal. Kifejezetten nyugtalanító szembesülni a saját válaszainkat elemző ministatisztikával, de még inkább az átlaggal. Mert láthatóan léteznek elvek, amelyek mentén lehet dönteni.
Az emberek fejében mindenképpen.

A személyiséggel, önálló döntések meghozatalára képes, "valódi" mesterséges intelligenciákig szándékosan nem akartam eljutni, mert az egy teljesen más téma, és hamarosan szó lesz róluk külön is.

Ehhez hasonló írásokat a folyamatosan gyarapodó Jövőjegyzetek címke alatt találsz.

A legközelebbi téma az olvasás és az irodalom jövője lesz.

A cikk szerzője:

MARKOVICS Botond

science fiction író, közgazdász, könyveit 2012 óta az Agave kiadó jelenteti meg.
Legutóbbi regényei: Xeno, Az időutazás napja, Az időutazás tegnapja

Ha másfajta "jegyzetekre" vágysz, itt egy három részes cikksorozat az idegen civilizációkról, részben a Xeno című science fiction regényemhez kötődve.