Amikor anno – te jó ég, már majdnem három évtizede, még kamaszként – láttam az első Terminátor-filmet, nagyon megfogott. Nem, nem csak a látványos akciójelenetek tetszettek. Mert persze azok is izgalmasak voltak, de inkább az ember ellen forduló gépek koncepciója, a rengeteg filozofikus utalás volt lenyűgöző. Még a gimiben, filozófiaórán is kiveséztük azt, hogy a jövőbe utazva miként hathatunk vissza a múltra, majd újra a jövőre. Persze egyúttal igazán rémisztő módon járták körül a témát, és a lehetőségekhez képest hitelesen, az akkori kor színvonalán képekbe, forgatókönyvbe öntve. Bár a sorozat legújabb részei egyre modernebbek, mind félelmetesebbek, egyre jobb lát-vány-trük-kök-kel hódítanak, az első két, klasszikus rész maradt máig is a kedvencem. Láttam a Kubrick-féle két Űrodüsszeia-filmet is, ahol HAL, akárcsak Skynet, végső soron az alkotói ellen fordul. Azután ott vannak az olyan modern robotos, mesterséges intelligenciával foglalkozó filmek, mint az Ex Machina – brrr.
A ROBOTOK ITT VANNAK!
Arra azonban egy-két évvel ezelőttig őszintén nem gondoltam volna, hogy ilyen rövid időn belül a sci-fikből a realitás veszélyes közelségébe kerül a mesterséges intelligencia (MI) – előnyeivel és veszélyeivel együtt. Mert mi is történik ma? Az okosgépek már önállóan autókat vezetnek és nagy ritkán embert is ölhetnek – lásd az Uber robotsofőrjének minapi gázolását Amerikában. Sőt, okosprogramok megmondják, hogy mi lehet a következő gondolatom, mire vagyok igazán fogékony, másképpen: melyek azok a gyengéim, gyenge pontjaim, amelyeken keresztül könnyebben manipulálható vagyok, mondjuk egy álhír vagy egy jól megtervezett reklám által. Ez utóbbit a Facebook friss ügye, a Cambridge Analytica elemzőcéggel kapcsolatos, ötvenmillió felhasználó legszemélyesebb adataival történt visszaélés mutatta meg. Pontosabban sejtette, mert azt, hogy konkrétan mit loptak el és hogyan használták, máig bizonytalanság övezi. Az azonban biztos, hogy egy okosprogram (ezúttal a közösségi portál háttérben futó, öntanuló algoritmusa) a lájkjaim és az ismerősi hálóm online viselkedése alapján nagy biztonsággal beazonosít. Legalább olyan jól, mintha kiemelt kém lennék, és a legprofibb nemzetbiztonsági vizsgálatot indítanák ellenem. Megint csak: brrr…
Szóval mára lassan leesik nekünk, hogy robot közel sem csak fémből, műanyagból és szervomotorokból lehet megalkotva, lehetséges, hogy „csupán” egy intelligens, öntanuló program, amelyet arra programoztak, hogy megismerjen engem. No meg a Facebook további mintegy 1,8 milliárd használóját. Méghozzá teljesen automatizáltan, kitűnően kereshetően, végső soron ellenem felhasználható módon. Már annak a gondolatára is összeborzad az ember, hogy létezik olyan entitás, „aki” többet tudhat róla, mint a közeli rokonai, barátai, ismerősei, sőt, a várható lépéseit, döntéseit is nagy biztonsággal le tudja modellezni, meg tudja jósolni valamilyen gépi értelem.
GYILKOSOK
Ha lehet, még veszélyesebbek a robotsofőrök. Nem is annyira az Uber önvezető Volvójának március 18-i halálos gázolására gondolok Arizonában. A YouTube-on közzétett (remélhetőleg eredeti) videóban ugyanis az látszik, hogy a vaksötétből, a semmiből tűnik elő a biciklit egy gyors forgalmú úton kivilágítatlanul keresztbe áttoló „öngyilkosjelölt” áldozat. Szerintem talán még a legprofibb sofőr sem tudott volna semmit tenni az adott helyzetben. Sőt, ha jobb, fejlettebb lett volna a technika, talán inkább a gép mentette volna meg a hölgy életét, semmint a tehetetlen emberi vezető, akinek jóval lassabb a reakcióideje, mint az autót irányító mesterséges intelligenciáé. Ez elvben ugyanis sokkal több helyzetre, sokkal profibban fel van készítve, mint az átlagos autóvezető. Sőt, a gép nem lesz részeg, nem szed gyógyszert, nem ideges, nem fárad el, nem vakítja el a szembejövő fényszóró, a megengedett sebességet sem lépi túl, s egyéb szabálytalanságokra sem vehető rá. Pedig a fent felsorolt emberi hibák/gyengeségek miatt történik a balesetek legalább fele-kétharmada.
Nem azt gondolom tehát, hogy az adott szerencsétlen eset miatt lennének veszélyesek a robotsofőrök. Nem. Az a gondom, hogy ha így folytatjuk, akkor teljesen kiadjuk a kezünkből a gyeplőt. Ahogy a friss Uber-gázolás is mutatta: a sofőr már nem is igazán figyelte az utat, megszokta, hogy a gép helyette dolgozik. Valahogy úgy, ahogyan GPS-szel elnavigálunk valamilyen idegen helyre. Ilyenkor ugyanis gyakorlatilag fogalmunk sincs, hogyan jutottunk oda – tisztelet a kivételnek. Magyarán az elkényelmesített sofőr még galibát is okozhat egy hirtelen helyzetben, ha át kell vennie a volánt.
Arról már nem is szólva, hogy az önvezető autók egyszerűen óriási biztonsági kockázatot hordoznak. Ahogy éppen az Uber-ügy kapcsán kibukott, néhányan például attól tartanak, hogy hekkerek vagy a terroristáknak dolgozó kódtörők felfedezik maguknak e szűz területet, és mondjuk gyilkos eszközt kreálnak egy-egy automata járgányból, vagy akár egy egész autóflottából.
A filmekben persze ez könnyen megy: fekete símaszk, laptop a kézbe valamely sötét alagsorban. Ám a valóságban azért egy olyan, extrém módon összetett rendszert, mint egy önvezető autó, úgy meghekkelni, hogy az halált vagy súlyos sérülést okozzon, nem tűnik technikailag könnyen kivitelezhetőnek. Igaz viszont, hogy amennyiben végrehajtható, akkor nem kellenek majd a fegyverrel hadonászó őrültek, a testükre bombákat kötő fanatikusok és hasonló kamikaze-önkéntesek. Csak egy profi hekkercsapat és egy tucat, szabadjára engedett önvezető autó…
NAGY PIROS GOMBOT!
Az utakon pedig nem lehet mindenhol betonterelőket felállítani. És hiába a jogszabály vagy az etikus irányelvek megalkotása az önjáró gépkocsikra, elég lehet akár egy pici „hiba” elrejtése a szoftverben, amely lassan-lassan megmutatkozva elkezdi gyilkolászni a járókelőket.
Fantazmagóriának tűnik? Akkor álljon itt egy furcsa eset, amely a közelmúltban történt. Godwin Boateng, egy Long Island-i átlagpolgár egy 18 millió forintos luxus-BMW áldozata lett. Az X5-ös terepjárójának puha ajtózáró (SCAD-) rendszere ugyanis egyszerűen lecsapott a hüvelykujjából egy egy-másfél centis darabot. Ám úgy, hogy az orvosok sem tudták visszaoperálni azt. A gépi „puha ajtócsukás” lényege, hogy a félig (rosszul) becsukott kocsiajtót teljesen behúzza az elektronika; viszont e rendszer – ritka szerencsétlen esetben – egyszerűen odacsukhatja az ember ujját.
Az eset ugyan csak távolabbról emlékeztet a taglalt önvezetős problémára, de jól mutatja: nem gondolnánk azt, hogy a jármű majd maga csukja be helyettünk az ajtót. Ha pedig látunk is ilyet, akkor is túlzottan bízunk a gépben, vagy akár csak az azt tervező mérnökökben. Márpedig balesetek mindig is történtek és történni fognak. Nagyon reméljük azonban, hogy a Terminátor-szériából megismert fantáziagép, a gonosz Skynet nem válik valósággá. Vagy éppen gonosz emberek nem változtatják a kényelmünket szolgáló technológiákat rémálommá. Vagy ha előbb-utóbb ki is adjuk a kezünkből az irányítást az okosgépeknek, legalább tervezzünk hozzájuk egy jó nagy piros kikapcsológombot. Azt pedig mindig markoljuk jó erősen!
