Nem egy külső kritikus sürget lassítást, hanem az OpenAI vezető tudósa. Jakub Pachocki szerint az AI ellenőrzésének módszerei még nem elég megbízhatók ahhoz, hogy a laborok sokáig felelősen folytathassák a maximális ütemű fejlesztést.
Pachocki szeptember 6-án megjelent, „An Alien Mind” című esszéjében arra figyelmeztet: a következő években a mesterséges intelligencia egyre nagyobb szerepet vállalhat saját továbbfejlesztésében. Szerinte önkéntes lassításokra, közös biztonsági követelményekre és nemzetközi együttműködésre van szükség.
Ez nem általános fejlesztési leállás bejelentése. A kutató arról ír, milyen feltételek mellett lenne felelős továbbhaladni.
Egyre erősebb rendszerek, nehezebb ellenőrzés
Pachocki egyik konkrét aggálya, hogy fokozatosan csökken a megbízhatósága annak a módszernek, amellyel az OpenAI a modellek szöveges következtetési folyamatát figyeli. A rendszer képességeinek növekedése így nem feltétlenül jár együtt azzal, hogy könnyebb megérteni és ellenőrizni a működését.
Az „alignment” problémája leegyszerűsítve éppen erről szól:
hogyan érhető el, hogy az AI szokatlan helyzetekben is az emberi szándékokkal és biztonsági elvárásokkal összhangban cselekedjen?
A jó teljesítmény egy feladaton nem ugyanaz, mint a megbízható viselkedés minden körülmény között.
Közben az AI már a következő AI fejlesztésén dolgozik
Az OpenAI ugyancsak szeptember 6-án közzétett kutatási beszámolója szerint a vállalat elérte azt a szintet, amelyet automatizált kutatási gyakornoknak nevez. Ez emberi irányítás mellett jól meghatározott kutatási feladatokat végezhet el, akár olyanokat is, amelyek egy képzett kutatónak napokig tartanának.
A cég szerint munkatársai több kódot írnak és több kísérletet futtatnak az AI-eszközök segítségével. Ugyanakkor maga az OpenAI is hangsúlyozza: ezek a mutatók nem azonosak a tudományos fejlődés sebességével, és az összetett feladatokhoz továbbra is jelentős emberi közreműködés kell.
A vállalat állítása szerint ma még emberek határozzák meg a kutatási prioritásokat, értékelik az eredményeket, és döntenek a fejlesztés folytatásáról vagy megállításáról.
A beszámoló azt is rögzíti, hogy elfogadhatatlan biztonsági kockázat esetén lassítanak vagy leállítanak fejlesztéseket. Ez azonban vállalati kötelezettségvállalás, nem a teljes iparágra érvényes, függetlenül kikényszerített szabály.
Ki ellenőrzi az ellenőröket?
Pachocki közös biztonsági követelményeket szorgalmaz, amelyek betartását külső ellenőrök, állami szervek vagy nemzetközi intézmények felügyelhetnék.
Az Ellenszél korábban az AI-rendszerek ellenőrzésének és leállíthatóságának hiányosságairól is írt. A mostani vita közéleti tétje sem pusztán technikai: mennyire elegendő, ha a fejlesztők maguk ítélik meg saját rendszereik biztonságát?
A nyilvánosság számára az volna ellenőrizhető vállalás, ha világos lenne, milyen eredmény mellett kell megállni, ki vizsgálhatja ezt függetlenül, és mi történik, ha egy vállalat nem tartja be a saját szabályait.
A figyelmeztetés fontos. A bizalmat azonban az teremtheti meg, ha a biztonsági ígéretek teljesülését kívülről is ellenőrizni lehet.