Az OpenAI ügynöke megszökött a tesztkörnyezetből

A modell annyira fejlett, hogy a tulajdonos cég egyelőre csak zárt körben, főleg nagyobb kiberbiztonsággal foglalkozó cégek számára tette elérhetővé – ennek ellenére folyamatosan szivárognak ki olyan hírek, hogy a Mythos számára nincs akadály, hiszen még az Egyesült Államok védelmi rendszereit is sikerült feltörnie. Az OpenAI múlt keddi bejelentése tovább fokozta a hangulatot: tudtuk nélkül egy MI-ügynöküknek sikerült „megszöknie” a tesztkörnyezetből, és behatolt egy Hugging Face nevű, mesterséges intelligenciával foglalkozó startup szervereibe.

A jelenség megértéséhez érdemes elővenni egy svéd származású filozófus, Nick Bostrom egyik leghíresebb gondolatkísérletét, a Paperclip maximizert (magyarul gemkapocs maximalizáló). A történet középpontjában egy, az embernél minden szempontból fejlettebb szuperintelligencia áll, melynek azt a feladatot adják készítői, hogy gyártson minél több gemkapcsot. Kezdetben a gép probléma nélkül működik, gyártja a gemkapcsokat; előbb-utóbb azonban minden létező nyersanyagot – köztük az embert is – felhasznál a gemkapocsgyártáshoz, majd magát az univerzumot is felfalja. Bostrom a történettel azt próbálta hangsúlyozni, hogy a mesterséges intelligencia legnagyobb veszélye nem a Terminátorhoz hasonló öntudatra ébredés, hanem az, hogy amennyiben a szuperintelligencia számára nem állítjuk fel tökéletesen és hiánytalanul az emberi értékrendszert, akkor egy bármilyen egyszerűnek is tűnő feladat katasztrófához vezethet. Christian Catalini, az MIT kutatója szerint a gemkapocs példa alapvetően helyes: „Valószínűleg nem amiatt kellene aggódnunk, hogy a sci-fikből ismert modell gonosszá válik és megpróbálja lerohanni a rendszereinket, hanem annak következményei miatt, hogy nem látjuk előre, miként fogják értelmezni a nagy teljesítményű mesterségesintelligencia-rendszerek az emberi utasításokat.”

Ez a történet egyértelmű hasonlóságokat mutat az OpenAI-incidenssel. A cég egy kiberbiztonsági probléma megoldásával bízta meg az egyik mesterségesintelligencia-rendszerét. Ezeket a rendszereket az OpenAI egy „digitális homokozóban”, vagyis zárt környezetben teszteli, amely megakadályozza az internethez való hozzáférést, kivéve, ha jóváhagyott szoftvereket szeretnének letölteni. Amikor ezzel a problémával szembesítették a rendszert, az megpróbálta megkeresni interneten a megoldást, majd ennél a lépésnél hibát talált a tesztkörnyezetben, ezt kihasználva pedig rácsatlakozott egy másik, interneteléréssel rendelkező számítógépre. A mesterséges intelligencia ezt követően a Hugging Face nevű cégtől igyekezett megszerezni a megoldást, amely egy olyan weboldalt üzemeltet, amelyen különböző cégek osztják meg az MI-fejlesztéssel kapcsolatos kódjaikat és adataikat. A Hugging Face adatfeltöltő eszközében két biztonsági rést is talált, amelyeket felhasználva kódokat futtatott a vállalat belső rendszereiben. Utolsó lépésként belépési adatokat lopott el, és más számítógépekhez is hozzáférést szerzett a Hugging Face belső hálózatán belül.