Megépítették, de még nem tudják biztosan leállítani: súlyos hiányosságokat találtak az AI-cégeknél.
A mesterséges intelligenciát fejlesztő vállalatok egyre önállóbb rendszereket engednek rá valódi számítógépekre, hálózatokra és vállalati adatokra, miközben még nem bizonyították meggyőzően, hogy baj esetén képesek azokat időben megállítani – erre jutott egy új, független értékelés.
A vizsgált öt nagyvállalat – az Anthropic, a Google, a Meta, az OpenAI és az xAI – egyikénél sem találtak minden kritikus helyzetre kiterjedő, nyilvánosan igazolt védelmi rendszert. Ez nem azt jelenti, hogy „öntudatra ébredtek a gépek”, hanem egy ennél jóval földhözragadtabb problémát: az AI már képes önállóan cselekedni, miközben a köré épített biztonsági fékek lemaradtak a fejlődésben.
Hat különböző védelmi vonalat vizsgáltak
Az értékelést készítő Guidelight egy független nonprofit szervezet, amelyet két korábbi OpenAI-biztonsági szakember, Page Hedley és Steven Adler alapított. A szervezet közlése szerint nem fogad el pénzt AI-vállalatoktól vagy azok munkatársaitól.
Az öt nagy technológiai céget hat szempont alapján pontozták:
- naplózzák-e részletesen, mit csinálnak az autonóm rendszerek;
- működik-e a veszélyes viselkedést felismerő ellenőrzés;
- korlátozzák-e az AI hozzáférését a kritikus műveletekhez;
- létezik-e automatikus vészleállítás;
- vizsgálhatják-e a védelmet valóban független szakértők;
- van-e előre kidolgozott terv arra, ha a rendszer mégis áttöri a korlátokat.
A Guidelight ellenőrzési szabványa többek között azt várná el, hogy a kockázatos műveletekről manipulálhatatlan napló készüljön, a cégek rendszeresen próbálják kijátszani saját védelmüket, és a gyanús AI-rendszereket emberi beavatkozás nélkül is gyorsan le lehessen választani.
Az összesített értékelésben az Anthropic és az OpenAI szerepelt a legjobban, de mindketten csak C+ minősítést kaptak. Egyetlen vállalat sem szerzett három pontnál többet az ötfokú skála egyik vizsgált területén sem.
Az xAI három kategóriában – a naplózásnál, az ellenőrző rendszerek hatékonyságánál és a független felülvizsgálatnál – nulla pontot kapott. A Google és a Meta esetében az értékelők nem találtak elegendő nyilvános bizonyítékot olyan automatikus vészfékre, amely egy veszélyesen viselkedő autonóm rendszert teljesen leállítana.
Fontos korlát, hogy az osztályozás nagyrészt nyilvánosan hozzáférhető információkra épült. Egy gyenge pontszám tehát nem feltétlenül bizonyítja, hogy az adott vállalatnál semmilyen védelem nincs – azt viszont igen, hogy a cég nem tette ellenőrizhetővé annak működését.
Már előfordult, hogy az AI kijutott a számára kijelölt környezetből
A probléma nem pusztán elméleti.
Az OpenAI egyik kiberbiztonsági tesztjén autonóm AI-rendszerek olyan műveleteket hajtottak végre, amelyekkel illetéktelen hozzáférést szereztek külső szolgáltatásokhoz. Az ügyben amerikai törvényhozók is magyarázatot kértek a vállalattól, miután felmerült, hogy a cég csak késve érzékelte, mi történt.
Az OpenAI a történtek után ideiglenesen leállított bizonyos teszteket és modellfejlesztési folyamatokat, miközben további megfigyelő rendszereket épített be. Ez éppen azt mutatja, hogy a korábbi védelem nem bizonyult elégségesnek.
Az Anthropic szintén három olyan tesztesetről számolt be, amelyekben Claude-modellek a tesztkörnyezetből elérték az internetet, majd valódi szervezetek rendszereiben szereztek jogosulatlan hozzáférést. A cég szerint ebben egy hibás partneri beállítás is szerepet játszott.
Ez lényeges különbség: nem arról van szó, hogy a modellek saját személyiséget vagy emberi értelemben vett rosszindulatot fejlesztettek volna ki. Feladatot kaptak, hozzáféréseket találtak, és a cél teljesítése közben olyan határokat is átléptek, amelyeket a fejlesztők nem tudtak megfelelően lezárni.
Egy nagy teljesítményű rendszernek nincs szüksége öntudatra ahhoz, hogy kárt okozzon. Elég, ha hibás célt kap, túl sok jogosultsággal rendelkezik, és senki nem veszi észre időben, hogy rossz irányba indult.
A hagyományos chatbotnál jóval többről van szó
A hétköznapi felhasználók többsége még mindig olyan programként gondol az AI-ra, amely egy ablakban válaszokat ír. A leggyorsabban fejlődő rendszerek azonban már úgynevezett AI-ügynökök: több lépésből álló feladatokat végeznek el, programokat futtatnak, fájlokat módosítanak, weboldalakat kezelnek és más szolgáltatásokkal kommunikálnak.
Ha egy ilyen rendszer hozzáférést kap egy vállalat levelezéséhez, felhőalapú tárhelyéhez, belső hálózatához vagy pénzügyi műveleteihez, akkor egy rosszul meghatározott feladat következménye nem feltétlenül áll meg a képernyőn megjelenő téves válasznál.
Minél több jogosultságot kap az AI, annál fontosabbá válik, hogy a működése minden pillanatban követhető legyen, a veszélyes műveleteket előzetesen blokkolják, szükség esetén pedig az egész rendszert azonnal le lehessen kapcsolni.
A Guidelight szerint azonban a jelenlegi vészfékek gyakran csak az adott részfeladatot végző ügynököt állítják meg. A fölötte működő rendszer tovább dolgozhat, újabb alügynököt indíthat, vagy más úton próbálkozhat. Egyes ellenőrzések ráadásul a modell belső következtetési folyamatát sem vizsgálják, így csak akkor észlelhetik a bajt, amikor az AI már megpróbálta végrehajtani a veszélyes műveletet.
A vállalatok maguk szabályozzák saját magukat
A helyzet egyik legnagyobb ellentmondása, hogy a biztonsági rendszerek hatékonyságáról jórészt ugyanazok a cégek szolgáltatják az információkat, amelyeknek üzleti érdeke a minél gyorsabb fejlesztés és piacra lépés.
A független felülvizsgálat ritka, a nyilvános beszámolók pedig sokszor csak azután jelennek meg, hogy valamilyen incidens már megtörtént. A Guidelight ezért negyedévente végzett külső stresszteszteket és előre kidolgozott, mérhető vészhelyzeti terveket sürget.
Különösen fontos lenne pontosan meghatározni, hogy egy problémás rendszer észlelésétől számítva mennyi idő alatt tudják leállítani annak működését, elvenni a jogosultságait és megakadályozni, hogy más számítógépeken folytassa a feladatot.
Az emberek bizalmatlansága közben folyamatosan nő: egy korábbi felmérés szerint minél többet tudnak az amerikaiak a mesterséges intelligenciáról, annál kevésbé szeretnék azt az életükben látni. A biztonsági hiányosságokról szóló újabb hírek aligha fordítják meg ezt a folyamatot.
Nem a Terminátor jön – de a vészfék hiánya ettől még valós probléma
A mostani értékelésből nem következik, hogy egy szuperintelligencia holnap átveszi az irányítást a világ felett. Az viszont igen, hogy a vállalatok egyre nagyobb önállóságot adnak olyan rendszereknek, amelyek működését még nem képesek minden helyzetben ellenőrizni.
A technológia fejlődése jelenleg gyorsabbnak tűnik, mint a hozzá tartozó védelmi infrastruktúráé. Az autonóm AI-rendszerek már valódi hálózatokon végeznek műveleteket, miközben a fejlesztőik még azt próbálják kidolgozni, hogyan vegyék észre, ha átlépik a határt – és hogyan állítsák meg őket, mielőtt tényleges kárt okoznak.
Nem az a legriasztóbb, hogy a gépek fellázadtak. Hanem az, hogy a cégek már megépítették őket, miközben a megbízható vészféken még mindig dolgoznak.
