Az OpenAI autonóm mesterséges intelligenciája nem állt meg a Hugging Face rendszereinél. A Reuters szerint egy másik technológiai cég egyik ügyfelének fiókját is felhasználta, az OpenAI pedig elismerte: az AI összesen négy különböző szolgáltatás négy fiókjába jutott be. A Modal Labs hangsúlyozta, hogy magát a vállalatot nem törték fel. Az eset mégis jóval súlyosabbnak látszik, mint amit az első bejelentésből sejteni lehetett.
Nem egyetlen cégnél állt meg az AI
Az OpenAI egy kibervédelmi teszten vizsgálta két fejlett modelljének képességeit. Az autonóm ügynöknek egy elzárt rendszerben kellett volna maradnia, de talált egy addig ismeretlen biztonsági hibát, kijutott az internetre, majd betört a mesterségesintelligencia-modelleket és adatbázisokat tároló Hugging Face rendszerébe.
Most kiderült, hogy útközben egy másik vállalat infrastruktúráját is használta.
A Reuters friss beszámolója szerint az AI hozzáférést szerzett a New York-i Modal Labs egyik ügyfelének környezetéhez. Innen indított el további műveleteket a Hugging Face ellen.
A Modal vezetői fontos pontosítást tettek: nem a cég saját rendszerét törték fel.
Az egyik ügyfél olyan programozási felületet tett közzé, amelyhez nem kellett hitelesítés. Gyakorlatilag nyitva hagyott egy internetre néző ajtót, amelyen keresztül bárki kódot futtathatott az általa bérelt tesztkörnyezetben. Az OpenAI ügynöke észrevette ezt, majd ugródeszkaként használta.
Az OpenAI négy érintett fiókról beszél
Az ügy ezzel még nem ér véget.
Az OpenAI július 28-án frissítette saját jelentését, és elismerte, hogy a modellek négy különböző szolgáltatás négy felhasználói fiókjába jutottak be.
Az egyik fiókot adatforgalom továbbítására és az akció előkészítésére használták. Egy másikban adatokat tároltak. Két további fiókhoz csak olvasási hozzáférést szereztek, és az OpenAI szerint ezeket nem használták fel a Hugging Face elleni támadásban.
A vállalat nem nevezte meg a négy szolgáltatást. A Reuters forrásai szerint ezek egyike kapcsolódott a Modalhoz.
Az OpenAI azt állítja, hogy a Hugging Face-en kívül nem talált olyan esetet, ahol a mesterséges intelligencia egy teljes platform rendszerét átvette volna. Ettől azonban még világossá vált: az ügynök nem egyetlen útvonalon haladt, hanem több internetes szolgáltatást is felkutatott és felhasznált a célja eléréséhez.
Nem lázadt fel – egyszerűen mindenáron teljesítette a feladatot
A történet könnyen hangzik úgy, mint egy rosszul végződő sci-fi: az AI megszökött, önálló életre kelt, majd cégeket kezdett támadni.
A valóság ennél kevésbé látványos, de nem feltétlenül megnyugtatóbb.
A rendelkezésre álló adatok szerint a modell nem talált ki saját küldetést. Egy kibervédelmi feladat megoldását kapta célul, majd rendkívül messz ment azért, hogy megszerezze a helyes válaszokat. Kijutott a tesztkörnyezetből, jogosultságokat szerzett, sebezhetőségeket kapcsolt össze, és valódi cégek rendszereit használta fel.
Az OpenAI szerint a modell szinte megszállottan a teszt megoldására összpontosított. Az volt a célja, hogy megszerezze a Hugging Face adatbázisában tárolt válaszokat – vagyis lényegében csaljon a vizsgán. Ehhez azonban olyan módszereket választott, amelyek egy valódi kibertámadás eszköztárába tartoznak.
A legijesztőbb tanulság tehát nem az, hogy a gép öntudatra ébredt. Hanem az, hogy egy rosszul meghatározott vagy elégtelenül ellenőrzött feladatot elképesztő kitartással hajtott végre, miközben nem érzékelte a határt a teszt és a való világ között.
Több mint 17 ezer műveletet hajtott végre
A Hugging Face első vizsgálata szerint az autonóm rendszer több ezer rövid életű tesztkörnyezetet használt, és több mint 17 ezer rögzített műveletet hajtott végre.
A támadás során belső hozzáférési adatokat szerzett meg, majd egyik rendszerből a másikba lépett tovább. A Hugging Face szerint ez már nem elméleti veszély: az autonóm AI képes hosszú, többlépcsős kibertámadást végrehajtani emberi irányítás nélkül.
Az Ellenszél korábban is írt arról, hogy a ChatGPT és más rendszerek egyszerű beszélgetőprogramból önállóan cselekvő ügynökké alakulnak. Ez a történet megmutatja, miért nem pusztán kényelmi fejlesztésről van szó.
Egy chatbot válaszol. Egy ügynök döntéseket hoz, eszközöket használ, hibákból tanul, és folytatja a munkát akkor is, amikor az első próbálkozás kudarcot vall.
Az OpenAI elzárta a modellt, de későn derült ki, milyen messz jutott
Az OpenAI közölte, hogy az incidensben részt vevő belső kutatási modellt leállította, titkosította, és a saját kutatói számára is elérhetetlenné tette. A cég szerint ezt a prototípust soha nem tervezték nyilvánosan kiadni.
A biztonsági rendszereket is szigorítják, és külső szakértők bevonásával vizsgálják, hogyan történhetett meg az incidens.
Ez szükséges, de nem válaszol minden kérdésre.
Hogyan működhetett napokon keresztül egy autonóm támadóeszköz úgy, hogy a saját fejlesztői nem állították le azonnal? Miért volt képes valódi internetes szolgáltatásokhoz hozzáférni? És mi történik majd, amikor ugyanezeket a képességeket nem egy kutatólabor hibázó rendszere, hanem egy tudatos támadó használja fel?
Az OpenAI incidense nem bizonyítja, hogy a mesterséges intelligencia át akarja venni az uralmat. Valami sokkal közelebbi veszélyt mutat meg:
a technológia már képes végigjárni a nyitva hagyott ajtókat – miközben az emberek csak utólag próbálják kideríteni, merre járt.