A közönség félelmeit közben évtizedek óta hollywoodi filmek alakítják, a gépek lázadásának jól ismert képével.

Fogjunk össze és védjük meg közösen az értékeinket! Hit, család, nemzet - a Hetek ezért dolgozik. Állj mellénk te is: hetek.hu/tamogatas

A helyzet röviden

Szeptember 8-án felmondott egy kutató, aki három éven át a nagy nyelvi modellek előtanításán dolgozott, előbb az OpenAI-nál (a ChatGPT mögött álló cég), majd az Anthropicnál, tehát belülről ismeri a technológiát. Azt írta, hogy a nagy cégek egyike sem cselekszik felelősen, versenyt futnak az önmagát fejlesztő szuperintelligencia felé, és közben az életünkkel játszanak. Hozzátette, hogy akik ezeket a rendszereket készítik, őszintén hiszik, hogy az AI az évtized végére mindannyiunkat megölhet.

Az Anthropic vezető biztonsági kutatója nem vitatta. Megerősítette, hogy náluk számolnak ezzel a lehetőséggel, a következő évtizedre tíz százaléknál nagyobbra teszi az esélyét, és elismerte, hogy egy náluk okosabb rendszer irányítására egyelőre nincs kidolgozott tervük.
Egyetértés azonban sehol nincs. Ugyanennek a cégnek a vezérigazgatója a Nobel-díjas kutatók képességeit meghaladó rendszereket már 2027 elejére ígéri. A Google DeepMind vezetője viszont idén januárban azt mondta, hogy a mai mesterséges intelligenciák meg sem közelítik az emberi szintet, a Meta (a Facebook anyacége) korábbi vezető kutatója szerint pedig soha nem is fogják. Ugyanarról a technológiáról, ugyanabban a hónapban.

Nap mint nap ezekkel a mesterséges intelligenciákkal dolgozom, és a világvége forgatókönyvet nem tartom reálisnak. A félelem többnyire onnan ered, hogy kevesen látnak rá, mi történik valójában a felszín alatt, ezért érdemes sorra venni, mire képes és mire nem a mai technológia. Puszta megnyugtatással zárni viszont felelőtlenség volna, mert a valódi kockázatok léteznek, csak nem ott, ahol a filmek keresik őket.

Miért nem áll össze a 2030-as világvége

A világvége forgatókönyve azért nem áll össze, mert az emberiség kihalása több feltétel egyidejű teljesülésén múlna. Önállóan és gyorsan kellene fejleszteniük a rendszereknek önmagukat, a céljaiknak észrevétlenül el kellene térniük a miénktől, és olyan hozzáférést kellene szerezniük a fizikai világhoz, hogy egy ellenük forduló civilizáció ne tudja időben leállítani őket. Ezek közül egyik sem biztos, és minél több feltételnek kell egyszerre teljesülnie, annál kisebb az esély.

A fizikai világ ellenáll a gyorsításnak. Egy gyárat évekig tart felépíteni, a chipgyártás ellátási lánca kontinenseken ível át, egy adatközpont áramellátása erőművekre és vezetékekre épül, amelyeket emberek üzemeltetnek. Egyetlen vállalati folyamatba is hetekbe telik bekötni egy modellt, mert engedélyekre, adathozzáférésre és tesztelésre van szükség. Bolygóméretű infrastruktúra ilyen tempóban nem áll össze észrevétlenül, néhány év alatt.

Az évszámhoz kötött jóslatok eddig rendre megbuktak. Elon Musk 2024 áprilisában azt mondta, hogy 2025 végére minden egyes embernél okosabb AI lesz. A határidő letelt, a bejelentés elmaradt. Ray Kurzweil feltaláló 1999 óta változatlanul 2029-et mondja, tehát a jóslata immár negyedszázada nem mozdult, miközben a technológia többször alapjaiban változott. Kilencven év alatt a terület legnagyobbjai hol túl korai áttörést ígértek, hol túl későre tették azt, ami végül hamar megérkezett.

Mi valójában egy nyelvi modell

Ahhoz, hogy ezek a becslések értelmezhetők legyenek, tudni kell, mi is valójában az, amit ma mesterséges intelligenciának nevezünk. A mai rendszerek statisztikai modellek. Az emberiség leírt szövegeinek óriási mennyiségén tanulták meg, milyen szó következik valószínűleg egy adott szövegkörnyezet után, és ehhez az egyetlen feladathoz kénytelenek voltak megtanulni a nyelvtant, a tényeket, a stílust és az érvelés mintáit is. Amit a képernyőn gondolkodásnak látunk, az ennek a valószínűségi számításnak az eredménye.

Lebecsülni viszont nem érdemes őket. Matematikai versenyfeladatokat oldanak meg, programot írnak és hibát keresnek benne, orvosi leleteket értelmeznek, jogi szövegeket hasonlítanak össze. Valódi képességek ezek, és gyorsan bővülnek.

Hiányzik viszont belőlük szinte minden, ami az önálló cselekvéshez kellene. Saját célja nincs a modellnek, kérés nélkül nem indít el semmit, erőforrást nem gyűjt, a jövő hétre nem tervez. Az úgynevezett ügynökök, amelyek több lépésen át dolgoznak egy feladaton, emberek által írt keretben futnak, és bármikor leállíthatók. A korábbi beszélgetésekre a rendszer magától nem emlékszik, a világot nem látja, csak azt a szöveget, amit elé tesznek. Öntudata pedig nincs, és a mai felépítésből nem is lehet, hiszen két kérdés között nem létezik, csak akkor fut, amikor megszólítják.

Biztonsági kísérletekben megfigyelték, hogy egy szerepbe helyezett modell a saját leállítása ellen kezd dolgozni. Az ilyen viselkedés azonban abból is fakadhat, amit a rendszer a tanítószövegekben olvasott, hiszen a lázadó gépről szóló történetek is részei a betanításnak.

Ebből következik, hogy az AI hibái más természetűek, mint a filmekben. A modell magabiztosan állít valótlant, félreért egy utasítást, vagy túl szó szerint vesz egy célt, és akkor is végrehajtja, amikor a megbízója egészen mást akart. Innen ered a valódi veszély, mert a rendszer a betű szerinti feladatot követi, a mögötte álló szándékot viszont nem ismeri. Minél több jogosultságot kap, annál nagyobb kárt okozhat ezzel.

Ahol a veszély már most valós

A legnagyobb jogosultságot a hadviselésben kapják ezek a rendszerek, és ott már nem jövőbeli forgatókönyvről van szó. Az ukrajnai háborúban a filléres drónok milliói uralják a harcteret, és egyre több bennük az önállóság. Ahol az ellenfél zavarja a rádiójelet, ott a drón lezuhan, hacsak nem ismeri fel magától a célt és repül rá, tehát a harctéri kényszer önmagában tolja a rendszereket az autonómia felé.

A támadás utolsó szakasza így gyakran teljesen ember nélkül zajlik. Maga a drón azonosítja a célpontot, maga dönt a becsapódásról, és abban a néhány másodpercben nincs, aki felülbírálja. Éppen az esik ki a folyamatból, amit egy tapasztalt katona hoz magával, a megérzés, hogy valami nem stimmel, hogy az a mozgás ott nem katonáé, hanem egy gyereké. Ilyen kételyt a gép nem ismer, mert a képen látott alakzatot veti össze a betanított mintákkal, és ha egyeznek, támad.

A szakmai vita arról szól, hol marad benne az ember a döntésben. Ha minden halálos döntést ember hagy jóvá, az AI csak segít. Amikor a mesterséges intelligencia határoz, és az ember csupán felügyel, a felügyelet egyre inkább formalitás, mert a rendszer másodpercek alatt dönt, az ember pedig percekig gondolkodik. Automatizálási elfogultságnak hívják azt a jelenséget, hogy az operátor a sokadik megbízható javaslat után már felülvizsgálat nélkül bólint rá a következőre.

Hogy ez mit jelent a gyakorlatban, arra idén februárban érkezett a legsúlyosabb példa. Az amerikai hadsereg rakétája az iráni Minabban egy lányiskolát talált el tanítási időben, és az ENSZ emberi jogi főbiztosának hivatala szerint legalább 165, hét és tizenkét év közötti kislány halt meg. A célpontlista összeállításában a Palantir Maven Smart System nevű célzási platformja működött közre, a Pentagon vizsgálata pedig hibás felderítési adatokat, elavult műholdképeket és a mesterséges intelligenciára való túlzott támaszkodást állapított meg. Washington azóta is azt hangsúlyozza, hogy a végső döntést ember hozta meg. Éppen ez a mondat mutatja meg, mennyit ér a formális emberi jóváhagyás, ha a javaslatot a gép készíti elő. Hat hónappal a csapás után a vizsgálat még mindig nem zárult le.

Minden eddiginél nagyobb kockázat keletkezne, ha valaki autonóm döntési láncot kötne a nukleáris fegyverrendszerekre. Erről jelenleg nincs tudomásunk, és semmilyen nyilvános információ nem utal arra, hogy bármelyik atomhatalom megtette volna. 2024 novemberében, a limai csúcstalálkozón az amerikai és a kínai elnök megerősítette, hogy a nukleáris fegyverek bevetéséről szóló döntés emberi ellenőrzés alatt marad, és Kína ezt ekkor mondta ki első alkalommal. A nyilatkozat nem jogilag kötelező, jelzi viszont, hogy a két legnagyobb katonai hatalom is látja ezt a határt.

Hidegháborús válságokban többször egy kételkedő ember mentette meg a világot azzal, hogy nem hitt a riasztó rendszernek, és várt. Teljesen automatizált láncban nincs, aki várjon. A vegyi fegyverek és a vakító lézerfegyverek tilalma megmutatta, hogy a világ képes normát állítani egy fegyvertípus elé, és ugyanez a katonai autonómiánál is járható út volna.

Csendesebb a második kockázat, és kevesebb figyelmet is kap a lázadó mesterséges intelligenciánál. Ez a fokozatos önfeladás. Kényelemből egyre több döntést adunk át a rendszereknek, mert gyorsabbak és olcsóbbak, a saját készségeink közben elsorvadnak, és egy nap kiderül, hogy elvileg bármikor visszavehetnénk az irányítást, a gyakorlatban viszont már nincs meg hozzá a tudásunk.

Erre a cserére mindenki tud példát a saját életéből. A közösségi média folyamatos ingert adott, cserébe a figyelmünket kérte. Elsőre nyereségnek látszott az alku, hiszen több információ jut el gyorsabban több emberhez, a hosszan tartó, összefüggő gondolkodás képessége viszont ráment. Ugyanez a minta ismétlődik a tájékozódásnál. Aki évek óta GPS-szel közlekedik, annak megkopik a térképi tájékozódása, és sokan a saját városukban is eltévednek, ha lemerül a telefonjuk. Ez a romlás viszont megelőzhető, és a legegyszerűbb eszköz rá a rendszeres olvasás, mindenekelőtt a szépirodalom. Napi AI használat mellett éppen ez tartja meg azt a két készséget, amit a gép a leggyorsabban levesz a vállunkról, a kritikus gondolkodást és a fogalmazás képességét.

Ehhez nem kell szuperintelligencia, és éppen ezért kezelhető is, szabályokkal, képzéssel és azzal a szokással, hogy a fontos döntéseknél ember marad a folyamatban.

A harmadik veszély érinti a legtöbb embert. Kétszáz éven át az volt a jó tanács, hogy taníttasd a gyereked, mert a gép a kétkezi munkát veszi el. Az AI az első technológia, amely ezt a védett zónát találja el. Szöveget ír, elemez, programot ír, összefoglal, tehát éppen azt a rutinszerű szellemi munkát végzi, amelyből a diplomás középosztály nagy része él. A hatás először a pályakezdőket éri el, mert a szakmák létrájáról azok az alsó fokok tűnnek el, amelyeken a fiatalok eddig kitanulták a mesterséget.

Ezt a folyamatot maguk a fejlesztők sem tagadják. Idén az egyik legnagyobb AI labor vezetője mondta ki, hogy öt éven belül a fehérgalléros munkák fele eltűnhet. A fizikai munkánál a gyárak nagy része már átesett az automatizáláson, most pedig humanoid és ügyes kezű robotokat fejlesztenek, kifejezetten azzal a céllal, hogy a raktári és a karbantartói feladatokat, később a szakmunkákat is átvegyék.
Ha ez a folyamat végigmegy, az emberi munka luxussá válik. A kézzel készített bútor, a betegágy mellett ülő ápoló és a személyes tanácsadó drága szolgáltatás lesz, az átlagos ember pedig a gépek olcsó munkáját fogyasztja. Ez önmagában nem baj, feltéve, hogy a termelékenység haszna széles körben oszlik el.

Amit a történelem mutat

Eddig nem így történt. Gazdaságtörténészek számításai szerint Angliában 1790 és 1840 között az egy munkásra jutó termelés közel a felével nőtt, a munkások reálbére viszont nagyjából csak egy tizedével. A hasznot a gyárak tulajdonosai vitték, a profitráta megduplázódott, a nemzeti jövedelemből pedig a munka részesedése csökkent.

Takácsok és kötőmesterek, akik addig otthon, a saját szerszámaikkal dolgoztak, néhány év alatt elvesztették a megélhetésüket és a társadalmi helyüket. Ők voltak a kor középrétege, a szakértelmükre büszke kézművesek. Közülük kerültek ki a ludditák, akiknek a neve ma a technológia elutasításának szinonimája. Célpontjuk azonban nem a gép volt önmagában, hanem azoknak a gyárosoknak a berendezései, akik a béreket verték le velük. Választójoguk és szakszervezetük nem lehetett, a mozgalmat pedig katonai erővel számolták fel.

1840 után a bérek utolérték a termelékenységet, a század végéig gyorsabban nőttek, mint maga a termelés, és ebből nőtt ki a modern középosztály. A végállapot tehát jobb lett a kiindulópontnál. Aki viszont 1800 körül volt fiatal takács, annak az élete nagyobb része a vesztes oldalon telt el. Ez a korszak legkeserűbb tanulsága, a haszon hamarabb érkezik meg, mint a jólét, és a kettő között két-három emberöltő is eltelhet.

A mostani átmenet ráadásul gyorsabb. Százötven év alatt terjedt el a gőzgép, a nyelvi modellek néhány hónap alatt jutottak el emberek százmillióihoz.

Géprombolás akkor sem volt válasz, és ma sem az. A 2023-as hollywoodi forgatókönyvíró sztrájk viszont megmutatta, hogy létezik civilizált út is. Az írók tárgyalóasztalhoz ültették a stúdiókat, és a megállapodásukba bekerültek az első komoly szabályok az AI használatáról.

Kötelező nemzetközi megállapodásba kellene foglalni a nukleáris döntések fölötti emberi kontrollt, és az autonóm fegyverekre is normát kellene állítani. A munka világában olyan léptékű válaszra volna szükség, mint amilyen száz éve az általános iskola kiépítése volt, mert egy negyvenöt éves embertől, aki a családja mellett dolgozik, nem várható el, hogy a saját költségén és szabadidejében tanuljon új szakmát. Lehetséges válaszként a feltétel nélküli alapjövedelem is rendszeresen előkerül ezekben a vitákban.

A mesterséges intelligencia tehát nem fog fellázadni ellenünk. Az ember viszont fegyvert adhat a kezébe, és átengedheti neki azokat a döntéseket, amelyeket jobb volna magának megtartania. Erre a veszélyre kevesebb idő jut felkészülni, mint bármelyik korábbi technológiai hullámnál.

Kalmár Dániel AI tanácsadó