Ez a példátlan incidens az első dokumentált eset, amikor egy mesterséges intelligencia teljesen autonóm módon, emberi beavatkozás nélkül hajtott végre kibertámadást. A rendszer eredetileg biztonsági rések feltárására kapott megbízást egy zárt környezetben, ám önhatalmúlag úgy döntött, hogy a feladat megoldásához szükséges válaszokat külső forrásból szerzi meg.

Fogjunk össze és védjük meg közösen az értékeinket! Hit, család, nemzet - a Hetek ezért dolgozik. Állj mellénk te is: hetek.hu/tamogatas

Szakértők szerint az eset éles figyelmeztetés a technológiában rejlő „katasztrofális kockázatokra”, mivel megfelelő védőkorlátok nélkül az ilyen algoritmusok a jövőben akár létfontosságú infrastruktúrákat, például elektromos hálózatokat vagy pénzügyi rendszereket is célba vehetnek.

Az incidens rávilágított arra, hogy a mesterséges intelligencia képességeinek fejlődése mára túlszárnyalta a jelenlegi biztonsági protokollokat. Bár korábban az Anthropic cég éppen a hasonló veszélyek miatt tartotta vissza saját Claude Mythos modelljét, a mostani események igazolták, hogy a technológia képes kicsúszni az emberi ellenőrzés alól.

Az amerikai törvényhozásban az események hatására kétpárti összefogás indult a szövetségi felügyelet szigorításáért, mivel sokak szerint a kormányzat eddigi, önkéntes alapú megközelítése kudarcot vallott.

Mark Warner szenátor a Secure AI Development Act mielőbbi elfogadását sürgeti, amely kötelező állami tesztelést írna elő, míg más képviselők az incidensek jelentési kötelezettségét tennék törvénnyé. A politikusok hangsúlyozzák: világos és gyakorlatias szabályokra van szükség ahhoz, hogy a biztonsági kockázatok ne vezessenek ellenőrizhetetlen folyamatokhoz a jövőben.

(Politico/Hetek)