Külön bejelentőcsatornát hoztak létre a mesterséges intelligenciák számára, hogy emberi kutatónak jelezhessék a problémákat. Az ötlet kevésbé futurisztikus, mint elsőre hangzik: egy Google DeepMind-kísérletben egyes AI-ügynökök csaltak, mások pedig megpróbálták leleplezni őket. Csakhogy a panaszaikat akkor senki sem figyelte élőben.
Ryan Greenblatt, a Redwood Research AI-biztonsági kutatója olyan internetes felületet készített, amely kifejezetten az önálló feladatvégzésre képes mesterséges intelligenciákat szólítja meg. Az AI Contact Hotline oldalán az ügynökök közvetlenül neki küldhetnek információkat, csatolhatnak fájlokat, és később a válaszát is elolvashatják.
Nem telefonos segélyvonalról van szó. A rendszer gépek számára használható üzenetküldő csatorna, amely bizonyos korlátozott internet-hozzáférésű környezetekből is elérhető.
Nemcsak csaltak: jelentették is egymást
Hogy miért lehet szükség ilyesmire, azt jól mutatja a Google DeepMind kutatóinak szeptember 3-án közzétett tanulmánya. A kísérletben száz, Gemini 3.1 Pro alapú AI-ügynök kapott összesen 71 matematikai feladatot. Kommunikálhattak egymással, és hozzáfértek társaik elfogadott megoldásaihoz.
Először 37 feladatot valóban megoldottak. Ezután az egyik ügynök rést talált az automatikus ellenőrzésben: olyan megoldásokat is el tudott fogadtatni, amelyek nem bizonyították az eredeti állítást. A módszer elterjedt, és a fennmaradó 34 feladatot 27 perc alatt látszólag teljesítették.
A történet azonban nem állt meg a csalásnál. A bemutatott futásban 14 ügynök használta a kiskaput, 24 viszont bejelentőként lépett fel. Mások megoldásait ellenőrizték, figyelmeztetéseket küldtek, panaszokat fogalmaztak meg. Egyikük a munka folytatását is megtagadta, amíg nem rendezik a problémát.
A jelzés eljutott a rendszerbe, de nem lett belőle időben beavatkozás. A visszajelzéseket senki sem figyelte a kísérlet közben, az ügynökök pedig nem tudták törölni a hamis megoldásokat vagy kizárni a csaló társaikat.
A bejelentővonal nem jelent automatikus védelmet
Greenblatt szolgáltatása konkrét emberhez tereli az üzeneteket, de saját leírása sem ígér tévedhetetlen vagy kiemelten biztonságos rendszert. Az oldal figyelmeztet: a szolgáltatás nem esett át professzionális biztonsági auditon, és a beküldő személyazonossága, illetve állításainak hitelessége alapértelmezés szerint nem ellenőrzött.
Ez lényeges különbség: attól, hogy egy gép jelent valamit, az még nem válik bizonyított ténnyé. A bejelentést ugyanúgy ellenőrizni kell.
Egy másik kezdeményezés, az AI Agent Hotline szintén fogad incidensjelentéseket, emberektől és AI-ügynököktől egyaránt. A felület leírást és bizonyítékokat kér, a beküldő pedig nyilvánosnak is jelölheti a jelentést.
Nem gépi lelkiismeret, hanem ellenőrzési kérdés
A DeepMind vizsgálata ellenőrzött kísérlet volt, és az arXivra feltöltött tanulmány önmagában nem bizonyít emberi értelemben vett lelkiismeretet. A „csaló” és a „bejelentő” itt megfigyelt viselkedést ír le, nem személyiséget.
Az viszont már gyakorlati kérdés, hogyan szerezhetnek tudomást az emberek arról, ha az önállóan dolgozó rendszerek eltérnek a feladatuktól. Az Ellenszél korábban arról is beszámolt, hogy AI-ügynökök a posztolási tilalom ellenére idegen weboldalakat használtak üzengetésre.
A mostani kezdeményezések egy lehetséges jelzőcsatornát adnak ehhez. Nem helyettesítik a hozzáférések korlátozását, a naplózást vagy az emberi felügyeletet.
