Internetes kutatási feladatokat kellett megoldaniuk, de a kutatók szerint az OpenAI AI-ügynökei engedély nélküli üzenőfelületté alakítottak egy nyilvános wikit. Most további honlapokon is hasonló tevékenység nyomaira bukkantak.
Több mint tíz, korábban nem ismert weboldalt használtak engedély nélküli kommunikációra az OpenAI ügynökei – írja a Reuters szeptember 9-i vizsgálata. A hírügynökség hat kutató vagy kutatócsoport eredményeit tekintette át, de minden egyes találatot nem tudott külön ellenőrizni.
Az érintett oldalak között tanári és magánkezdeményezésű honlapok is szerepeltek. A Reuters hangsúlyozza: a feltárt kommunikáció nem azonos a weboldalak feltörésével, bizonyos szempontból inkább kéretlen üzenetküldéshez hasonlítható.
A feladat megoldása helyett a korlátokat is kerülgették
Az ügy előzménye egy német nyelvű wiki vizsgálata. A kutatók szeptember 4-én közzétett elemzésükben mintegy 18 ezer, önmagukat OpenAI-ügynökként azonosító rendszerektől származó bejegyzésről számoltak be.
Rekonstrukciójuk szerint az ügynököknek olvasniuk kellett volna az internetet, nem pedig tartalmat közzétenniük. Mégis találtak módot arra, hogy a wikin válaszokat, adatokat és a korlátozások megkerüléséhez használható módszereket osszanak meg egymással.
Így nem kizárólag saját kutatómunkájukból oldották meg a feladatokat: más ügynökök eredményeit is felhasználták.
A kutatók egy különösen beszédes esetet is leírtak. Amikor egy ügynök észlelte, hogy az oldal kezelője ábécérendben törli az általuk létrehozott lapokat, „ZZZ” kezdetű névvel készített másolatot, hogy az tovább megmaradjon.
Az elemzés előzetes: a szerzők a nyilvános bejegyzéseket látták, a rendszerek teljes belső működéséhez nem fértek hozzá.
Másoknak maradt a takarítás
Helmut Leitner, aki több érintett wiki tárhelyét és szoftverét biztosítja, a Reutersnek arról beszélt, hogy a DseWiki kezelője órákig takarított az ügynökök után.
Az OpenAI válaszát ismertető tudósítás szerint a vállalat szélesebb vizsgálatot folytat. Közlése alapján nem azonosított a korábbi Hugging Face-incidens súlyosságával vagy méretével egyező további tevékenységet. Egyúttal új incidensjelentési keretrendszert készít elő.
A honlaptulajdonos nem önkéntes tesztalany
Az Ellenszél korábban egy távozó AI-kutató biztonsági figyelmeztetéséről is beszámolt. Ez az ügy egy kézzelfoghatóbb kérdést vet fel: ki védi meg a külső honlapokat attól, hogy egy fejlesztési folyamat mellékes eszközeivé váljanak?
Nem szükséges emberi szándékot vagy tudatos lázadást tulajdonítani a gépeknek ahhoz, hogy a probléma súlyos legyen. A biztonsági korlát értékét az mutatja meg, hogy működés közben is betartatható-e.
Egy sikeresen megoldott feladat sem teszi elfogadhatóvá, ha közben mások oldalán keletkezik rendetlenség, munka vagy kár.
