Kereső toggle

Ki állíthatja meg a gyilkos robotokat?

John Shahanan tábornok a jövő háborúinak nagy kihívásáról

Továbbítás emailben
Cikk nyomtatása

Lehet-e fegyvert adni egy robot kezébe? Mi biztosítja az emberi kontrollt a jövő háborúiban? A Hetek részt vett egy brüsszeli konferenciabeszélgetésen, amelyet az amerikai hadsereg mesterséges intelligencián alapuló fejlesztésekért felelős parancsnoka tartott a „gyilkos robotok” kihívásairól.

Ugyanaz a technológia, ami életmentő lehet egy pusztító természeti csapás villámgyors feltérképezésénél, katonai célokra alkalmazva rémálommá válhat. Könnyű belátni, hogy egy katasztrófahelyzetben, például mint a villámsebesen terjedő tűzvész esetén Ausztráliában vagy egy tragikus gátszakadást követő árvízhullám során hatalmas segítséget nyújthatnak olyan eszközök, amelyek emberi élet kockáztatása nélkül képesek megközelíteni és feltérképezni a veszélyzónát – nemcsak a levegőből, hanem a felszínről is.

„A legtöbben úgy gondolják, hogy még csak a sci-fikben találkoztak mesterséges intelligenciával, pedig már naponta akár százszor is használnak ilyeneket a személyes elektronikus készülékeiken – például az útvonaltervezés során. Hasonló algoritmusokat használnak a katasztrófavédelemben, amikor egy gyorsan változó krízisszituációban kell felmérni a valós helyzetet” – mondja John Shanahan tábornok, az amerikai védelmi minisztérium Egyesített Mesterséges Intelligencia Központjának (Joint Artificial Intelligence Center, JAIC) igazgatója.

A tábornok szerint ezen a téren épp fordított folyamat zajlik, mint korábban, amikor a legfejlettebb technológiákat először a hadiiparban használták fel, majd egy-két évtizeddel később ezek megjelentek a kereskedelmi célú csúcstechnológiák formájában is. Ma olyan gyors üteműek a fejlesztések, hogy a legújabb eszközök és programok gyakran a piacon jelennek meg, és onnan adaptálják őket a haditechnikai felhasználásokhoz. „A globális technológiai átrendeződés új korszakába léptünk, amelyet az adatok, a szoftverek, az MI, a cyber- és felhőtechnológia, valamint az 5G hálózatok világméretű, robbanásszerű fejlődése jellemez. Az Egyesült Államok ennek az élére kíván állni, ezért is hoztuk létre 2019 februárjában a haderőnemek egyesített MI-kutatási központját” – hangsúlyozta Shanahan tábornok.

„Halálos autonóm fegyverrendszerek”

A mesterséges intelligencia (Artificial Intelligence, AI vagy magyar rövidítéssel MI) katonai célú felhasználását sokan a hadászat harmadik forradalmának tartják, a puskapor és az atombomba felfedezése után. Ahogy a lőfegyverek képessé tették az embereket a távolsági harcra, az atombomba pedig a korábban elképzelhetetlen hatóerejű és gyorsaságú pusztításra, úgy az MI technológiát felhasználó automatikus fegyverek – közkeletű fogalommal a „gyilkos robotok” – kikapcsolhatják a döntési felelősségből magát az embert is.

De mit is neveznek „gyilkos robotnak”? Nem feltétlenül kell ember formájú kiborgot elképzelni valamilyen automata fegyverrel a kezében. Katonai szóhasználattal „halálos autonóm fegyverrendszereknek” (Lethal Autonomous Weapons, LAWs) neveznek minden olyan mesterséges intelligenciával rendelkező gépet, amelyek emberi beavatkozás nélkül jelölik ki a célpontjaikat és emberi utasítás nélkül ölnek.

Miközben a katonai technológiák fejlesztésében élen járó országok – az Egyesült Államok, Kína és Oroszország – hatalmas ütemben fejlesztik az MI alapú fegyverzetüket, amelyek emberi beavatkozás nélkül képesek beazonosítani, célba venni és megsemmisíteni az ellenségnek tekintett személyeket, gyakorlatilag nincs olyan nemzetközi megállapodás vagy jogszabály, amely egy jövőbeli háborúban szabályozná ezek bevetését és használatát.

„Nélkülözhetetlen, hogy legyen az ilyen eszközök felett emberi ellenőrzés, mivel csak emberek képesek arra, hogy egy háborús helyzetben minden szempontot figyelembe vevő, összetett döntést hozzanak, amelyek célzott, arányos és megfontolt lépéseket tesznek lehetővé” – sürgeti a Nemzetközi Vöröskereszt Bizottság elnöke, Peter Maurer. A mintát természetesen éppen a Vöröskereszt által kidolgozott Genfi Konvenció jelentené, amely 1949 óta meghatározza a háború esetén érvényes szabályokat, rögzíti a civil lakosság jogait és a konfliktusok esetén nyújtott segítség formáit.

A katonai célú MI-fejlesztések olyan etikai kérdéseket vetnek fel, amelyekre még azelőtt választ kellene adni, hogy ezek az eszközök megjelennének a harctéren – ez pedig legfeljebb néhány év kérdése csupán. Amiket eddig csak filmeken vagy videojátékokban láthattunk, a valóságban is bevetésre kerülhetnek: a városok felett sáskarajszerűen megjelenő, halálos tűzerejű mikrodrónok és birodalmi rohamosztagosra emlékeztető robotkatonák, amelyek másodperceken belül képesek azonosítani, célba venni és megsemmisíteni az ellenséget – vagy amit annak tekintenek.

Pontosan itt merül fel a kérdés, ami az emberi jogi szervezetek álláspontja szerint sürgős szabályozásra szorul. „Bármilyen intelligenssé is válnak ezek a fegyverek, sohasem szabad rábízni egy algoritmusra azt, hogy saját maga döntsön olyan esetben, amikor emberi életet olthat ki” – állítja a Robotfegyverzetek Ellenőrzése Nemzetközi Bizottságának elnöke, Noel Sharkey, aki szerint a fő veszély nem a sci-fikben gyakran felmerülő szituáció, amikor a „gyilkos robotok” önállósodnak, és a gazdáik ellen fordulnak, hanem a rossz szándékú emberi beavatkozás lehetősége.

„A halálos tűzerejű automatikus fegyverzetek sérülékenyek: ki vannak téve annak, hogy kívülről meghekkelik őket, vagy olyan zavart hoznak létre a működésükben, ami miatt a civil lakosság kerül életveszélybe. Ma nincs jogszabály arra, hogy ilyen esetben ki vonható felelősségre” – mondja Sharkey.

Az emberi felelősséget nem szabad átadni

Az ENSZ fegyverzetellenőrzési konvenciójának égisze alatt 2014-ben elindult egy kezdeményezés a „gyilkos robotok” betiltására, de eddig nem született egységes álláspont a kérdésben. Harminc ország – köztük Brazília, Ausztria és Kanada – a teljes tilalmat támogatná, míg mások az ilyen fegyverek bevetését szabályoznák inkább. A genfi konvenció mellett a mintát az aknák és kazettás bombák bevetésére vonatkozó szigorú nemzetközi szerződések adhatnák, amelyek elsődleges célja a civil lakosság védelme nemcsak a háborús konfliktusok alatt, hanem az utána következő időszakban is.

A Human Rights Watch 2019-ben nemzetközi felmérést készített 26 országban. E szerint a megkérdezettek 61 százaléka elutasítja a teljesen automatizált halálos tűzerejű fegyverek alkalmazását. Ez a többségi álláspont többek között az Egyesült Államokban és Izraelben is.

„Az emberi ellenőrzés soha nem fog kimaradni a döntéshozatalból” – ígéri a Pentagon MI-kutatási parancsnoka is. John Shanahan tábornok szerint még a fejlesztések kezdetén alapelvként rögzítették, hogy bármilyen fejlett mesterséges öntanulási megoldásokat fejlesztenek ki, bármilyen magas szintre jutnak a képfelismerési módszerek, amelyek a másodperc törtrésze alatt képesek célpontokat azonosítani, a gépek „soha, semmilyen körülmények között sem vehetik át a felelősséget a döntésekben – ez abszolút alapelv a számunkra”. A tábornok elismerte, hogy a harctéri körülmények között az emberek is hozhatnak téves döntéseket – ezt épp az elmúlt hetekben az iráni légvédelem által lelőtt ukrán utasszállító repülőgép tragédiája bizonyította (erről és a korábbi hasonló esetekről múlt heti számunkban írtunk: Fatális véletlenek. Hetek, 2020. január 17.)

Az amerikai álláspont szerint azonban önmagában a technológia fejlődése nem jelent veszélyt. „Tisztában vagyunk azzal, hogy az Atlanti-óceán mindkét partján sokan szkeptikusak a mesterséges intelligencia katonai felhasználásával kapcsolatban. Én pragmatikusan nézem ezt a kérdést. Számomra az MI az elektromossághoz hasonló, szintén egy új, az életünket átalakító, általános célú technológia. Lényegében az MI az olyan, ma is létező gépekhez hasonló, amelyek bizonyos funkciók tekintetében jobban teljesítenek, mint az emberek. Fel lehet használni jó és rossz célokra egyaránt, de a technológia önmagában semleges. A célunk az, hogy az MI segítségével jobb és gyorsabb döntéseket tudjunk meghozni, és optimalizáljuk az ember és a gép együttműködését” – mondta a brüsszeli konferenciabeszélgetésen az amerikai parancsnok, aki úgy véli, hogy a nagyobb biztonsággal végrehajtott, célzott csapások éppen a civil áldozatok számát csökkenthetik. Bár nem említette konkrétan, Shanahan tábornok vélhetően a Kászim Szulejmáni ellen január elején Bagdadban végrehajtott célzott dróntámadásra is utalt, amelynek előkészítésében humán hírszerzési módszerek játszották a főszerepet, de a végrehajtás során már a legmagasabb szintű MI-dróntechnológiát alkalmazták.

Kína kilóg a sorból

Nem minden ország alkalmazza azonban ezeket az elveket a mesterséges intelligenciára épülő katonai fejlesztésekben. „Oroszország és Kína olyan együttműködést folytat a mesterséges intelligencia terén, amely növeli az egyre erősödő digitális önkényuralom veszélyét, és fenyegeti az Egyesült Államok és a NATO által vallott közös értékeket” – figyelmeztetett az amerikai tábornok, aki példaként említette, hogy Kína az MI-technológiát a saját lakosságával szembeni cenzúra erősítésére, valamint a szólásszabadság és emberi jogok korlátozására használja fel. (Ugyanakkor a kínai társadalmi kreditrendszer tapasztalatait a nagy nyugati technológiai cégek is élénk érdeklődéssel követik, mint arról nemrég lapunk is írt: Ki adhat és ki vehet? Hetek, 2019. szeptember 14.)

Shanahan tábornok egy konkrét példát is említett, miszerint a kínai technológiai cégek – köztük a Huawei – számára kötelező együttműködni a kínai kommunista rezsim hírszerzésével és biztonsági szolgálataival – függetlenül attól, hogy a cégek mely országban tevékenykednek.

Az amerikai parancsnok azt is veszélyesnek nevezte, hogy Kína a mesterséges intelligenciát alkalmazó gyilkos erejű fegyvereket a globális fegyverpiacon is árusítja, ami megnöveli a veszélyét, hogy ez a technológia „nem állami szereplők”, például terrorszervezetek kezébe juthat. „Ez olyan kihívás, amely mindnyájunk szabadságát és biztonságát veszélyezteti, ezért megoldást kell találnunk rá” – figyelmeztetett Shanahan tábornok.

Ha a ‘MI’ ölni kezd

A mesterséges intelligencia fegyverpotenciáljával évtizedek óta foglalkozik a szórakoztatóipar Hollywoodban és azon túl.
Már a húszas években vászonra vitte a német expresszionista Fritz Lang, hogy milyen, amikor egy gép elszabadul. Az első sci-fi játékfilmnek tekintett Metropolisz egy Weimar-korszakban készült városi disztópia, amelyben az elnyomó burzsoázia készít egy Maschinenmensch-t, azaz gépembert, amit a munkásokat vezető főhősnőről mintáznak, megalkotva annak gonosz alteregóját. Az elszabaduló „bábeli zűrzavarban” a gép nemcsak a munkásrétegre hoz csapást, de saját alkotóját is pusztulásba taszítja végül.
A fegyverként bevethető mesterséges intelligencia később is rengeteg, főleg B vagy annál is alacsonyabb kategóriájú tudományos-fantasztikus alkotás alapgondolata lett, ám igazi áttörést Stanley Kubrick hozott a 2001: Űrodüsszeia hátborzongató víziójával. Az 1968-as thrillerben a Jupiter felé tartó űrhajón működő számítógépes rendszer, HAL azt látva, hogy az ő szándékával ellentétes döntéseket készülnek meghozni, és le akarják őt kapcsolni, elkezdi megtizedelni a legénységet.
A ’80-as évek kultfilmjének számít a Szárnyas fejvadász, ami a mesterséges intelligenciát a biorobotika kérdésével spékeli meg: a főcímszereplő (Harrison Ford) feladata, hogy elszabadult és a társadalomra és alkotóikra veszélyt jelentő replikákat iktasson ki. Ezek gyakorlatilag tökéletes másai az embereknek, de egyúttal szuperképességekkel, így nagyobb gyilkoló potenciállal rendelkeznek. A film a MI veszélyei mellett egyúttal a klónozáshoz hasonló eljárások morális dilemmáival is foglalkozik. Nagy sikerű folytatása három éve robbant a mozikban.
Természetesen nem lehet figyelmen kívül hagyni a Terminátor nagy sikerű legendáriumát sem. Arnold Schwarzenegger legendás alakítása egyúttal jól rávilágít a szintetikus intellektus emberiség elleni harcára – a T-800 pedig csak egyike a népirtó szándékkal létrehozott Skynet robotoknak. Az 1984-es első filmnek öt folytatása is lett; a legutóbbi (Sötét végzet) éppen tavaly debütált a mozikban.
Egy másik nagysikerű sorozat, a Mátrix is megjelenít olyan technológiát, amely több automata gyilkológépeknél – ezek felügyelik az emberiség által hátrahagyott városokat.
Steven Spielberg híres arról, hogy nagy érdeklődésre számot tartó kérdéseket boncolgat alkotásaiban, így nem meglepő, hogy a mesterséges intelligenciát sem kerüli el. Olyannyira nem, hogy több ilyen témájú filmje készült. Az A.I. – Mesterséges értelem inkább szentimentális dráma a klímaváltozás utáni disztópikus világban élő droidokról. Másik filmje, a tech-noir-nak számító Különvélemény alapgondolata a bűnmegelőzésre alkalmazott mesterséges intelligencia. A történet középpontjában három, a gyilkosságokat előre látó „prekog” áll – nekik köszönhetően évekig nem történik emberölés. Fokozatosan kiderül azonban, hogy a technológiát manipulálják, és a komplex dráma, ami kibontakozik ebből, mind a kritikai, mind a támogatói oldalon igen mélyen beleás a mesterséges intelligencia dilemmáiba.
Az elmúlt 1-2 évtized igen termékenynek bizonyult MI tekintetében: az Én, a robot sokak fantáziáját megmozgatta a gyilkos robothadseregekkel, illetve azzal, hogy vajon egy kibernetikai termék eltanulhatja-e azt az embertől, ami fajunkat egyedivé teszi. A Sasszem egy szintén gyilkolásra használható, politikailag konspiráló számítógépes rendszert mutat be, az Ex Machina a Turing-teszt megvalósításáról, a Transzcendens pedig a gondolatok számítógépes kódokká konvertálásáról szól.

Olvasson tovább: