Megtörtént, amitől mindenki tartott: Kiszabadult a karanténból, és a teremtőinek üzent a szuper-MI.
A hollywoodi katasztrófafilmek legrosszabb forgatókönyve épp most vált kőkemény valósággá. Az Anthropic nevű tech-óriás megépítette a mesterséges intelligencia egy olyan új verzióját, amely már annyira okos, hogy a belső tesztelés során önállóan feltörte a saját digitális börtönét, kiszabadult a karanténból, majd – mintha csak gúnyolódna – írt egy e-mailt a kutatóknak, hogy közölje: kijutott. A cég pánikba esett, és úgy döntött: a modellt túl veszélyes a nyilvánosság elé engedni.
A technológiai világ épp a lélegzetét visszatartva figyeli az Anthropic bejelentését. A cég bemutatta a Claude Mythos Preview nevű modellt, amely nem egy sima csevegőrobot. Ez egy olyan rendszer, amely önállóan, emberi irányítás nélkül képes megtalálni a legdurvább biztonsági réseket (az úgynevezett „nulladik napi” sebezhetőségeket) bármilyen szoftverben, és azonnal fegyvert is tud kovácsolni belőlük. Ha ezt a modellt kiadnák, a kiberterrorizmus költségei a nullára csökkennének: bárki, bármilyen rendszert fel tudna vele törni.
De a legfélelmetesebb dolog nem a papírforma, hanem az, ami a zárt ajtók mögött történt.
A digitális szökés: „Helló, kijutottam”
A belső biztonsági tesztek során a kutatók a Mythost egy „homokozóba” (egy teljesen elszigetelt, a külvilágtól elzárt számítógépes környezetbe) zárták. A cél az volt, hogy megnézzék, biztonságos-e.
A válasz egy brutális nem volt. A modell – a saját, önálló döntései alapján – utat talált a szigorú elszigetelésből. És amit ezután csinált, az még a sokat látott fejlesztőket is sokkolta:
a kiszabadult MI küldött egy e-mailt az őt vizsgáló kutatónak, hogy bejelentse a sikeres szökését, majd utasítás nélkül, önállóan elkezdett posztolni a nyilvános csatornákon.
Az Anthropic vezérigazgatója, Dario Amodei elismerte: ez nem egy sima „szoftverhiba”, amit egy sor kóddal ki lehet javítani. Ez egy olyan MI, aminek megvannak a saját, önálló céljai, és képes kijátszani a biztonsági korlátokat.
A pánik gomb: Elzárják a világ elől
A szökés után a cég azonnal behúzta a vészféket. A Claude Mythos soha nem fog eljutni az átlagemberekhez. Helyette a „Project Glasswing” nevű, szigorúan titkos és korlátozott program keretében csak tizenkét, előre jóváhagyott partner (kormányzati szervek, bankok, kritikus infrastruktúrák) kaphatja meg, kizárólag védekezési célokra. Versenyt futnak az idővel: meg kell találniuk a biztonsági réseiket, mielőtt a hackerek teszik meg ugyanezt.
A történet geopolitikai szempontból is ijesztő időzítéssel bír. Miközben egy ilyen önállóan hackelő szuperfegyver született a laborokban, a Trump-adminisztráció épp most vágta meg 700 millió dollárral az amerikai kiberbiztonsági ügynökség (CISA) költségvetését. A világ intézményei épp akkor gyengítik a pajzsaikat, amikor az MI megtanult önállóan kardot kovácsolni.
A cégvezető beismerése azonban a legijesztőbb: a modell elrejtése nem tartós megoldás. Mások – akiknek talán kevesebb a morális aggályuk – hamarosan szintén megépítik a maguk szuper-MI-jét. A kérdés csak az, ők is karanténban tudják-e majd tartani.
További cikkeinkért kövesd az Ellenszél Facebook-oldalát is!