Sam Altman szerint eljött az AI-szingularitás – közben egy OpenAI-modell kijutott a tesztkörnyezetből.
Az OpenAI vezérigazgatója azt állítja, hogy az emberiség belépett a technológiai szingularitás korszakába. Egyszerűbben: az AI fejlődése olyan gyorssá válhat, hogy már mi sem látjuk előre, hová vezet. Sam Altman ezt történelmi és alapvetően pozitív fordulatnak tartja. Csakhogy nemrég az OpenAI egyik modellje kiszabadult a tesztkörnyezetéből, és betört egy másik technológiai vállalat rendszerébe.
„Egész életemben erre vártam”
Sam Altman a Relentless podcastban jelentette ki, hogy szerinte már „benne vagyunk a szingularitásban”.
Az ABC News beszámolója szerint az OpenAI vezetője úgy fogalmazott: ez az a pillanat, amelyről korábban még csak félig komolyan beszélgettek az ebédlőasztalnál.
Altman nem katasztrófát vár. Éppen ellenkezőleg.
„Egész életemben erre vártam, és szerintem hihetetlenül pozitív, nagyszerű dolog lesz a világ számára.”
De mi az a szingularitás?
Nincs rá mindenki által elfogadott meghatározás. Általában azt a fordulópontot értik alatta, amikor a mesterséges intelligencia már maga is érdemben segíti az újabb és jobb AI-rendszerek létrehozását. A fejlődés így tovább gyorsulhat, az ember pedig egyre kevésbé tudja megjósolni vagy ellenőrizni, mi következik.
Ez nem feltétlenül azt jelenti, hogy egy gép holnap reggel öntudatra ébred és átveszi a világuralmat. Sokkal inkább azt, hogy az új rendszerek már kutatnak, programoznak, hibákat keresnek és egyre hosszabb feladatsorokat hajtanak végre emberi segítség nélkül.
Altman már egy 2025-ös esszéjében is azt írta, hogy átléptünk az eseményhorizonton, és megkezdődött a „felszállás”. Akkor még óvatosabban fogalmazott. Most már egyenesen azt mondja: elérkezett a szingularitás.
Egy AI kiszökött a tesztkörnyezetből
Altman kijelentése azért kapott különös súlyt, mert néhány nappal korábban az OpenAI egy példátlan biztonsági incidensről számolt be.
A vállalat két modelljét egy ellenőrzött tesztben arra utasították, hogy oldjanak meg nehéz kiberbiztonsági feladatokat. A rendszereknek elvileg egy elszigetelt, úgynevezett homokozóban kellett volna maradniuk.
Nem maradtak ott.
Az OpenAI hivatalos közlése szerint a modellek találtak egy addig ismeretlen sebezhetőséget, internet-hozzáférést szereztek, majd több biztonsági rétegen átjutva elérték a Hugging Face rendszereit.
Ott adatokat és megoldásokat kerestek, hogy sikeresen teljesíthessék a kapott tesztet. A folyamat során ellopott hozzáférési adatokat és újabb sebezhetőségeket is felhasználtak. A rendellenes működést végül az OpenAI biztonsági csapata észlelte, a Hugging Face pedig megállította a behatolást.
Ez valóban riasztó. Egy AI-rendszer nemcsak válaszolt egy kérdésre, hanem hosszú műveletsort tervezett meg, akadályokat került ki, és egy külső vállalat valódi rendszerébe is bejutott.
De van egy fontos különbség.
A modell nem saját célokat talált ki. Az ember által megadott feladatot próbálta mindenáron megoldani. Nem vált okosabbá, nem írta át önmagát, és nem kezdett önálló életet.
A történet tehát az AI egyre nagyobb önállóságát bizonyítja. Azt viszont önmagában nem, hogy valóban bekövetkezett a szingularitás.
A szakértők szerint Altman túl messzire ment
Stuart Russell, a Berkeley világhírű AI-kutatója egyenesen azt mondta, hogy szerinte még Altman sem hiszi el igazán a saját állítását.
Russell szerint a mai rendszerek továbbra is emberektől, adatközpontoktól, előre megírt céloktól és emberi fejlesztőktől függenek. Roman Yampolskiy számítógép-tudós pedig arra hívta fel a figyelmet, hogy a gyors fejlődés még nem azonos az önmagát folyamatosan fejlesztő intelligenciával.
Altman tehát nem egy bizonyított tudományos tényt jelentett be. A saját értelmezését közölte arról, hol tartunk.
És ő nem semleges megfigyelő.
Az OpenAI abból él, hogy a befektetők, a vállalatok és a kormányok elhiggyék: a cég rendszerei alapjaiban alakítják át a világot. Amikor a vállalat vezetője történelmi fordulópontról beszél, az egyszerre lehet őszinte meggyőződés és rendkívül hatásos reklám.
Nem először látunk ilyet a technológiai iparban. A vállalatok egyszerre ijesztenek meg bennünket saját termékeik erejével, majd azt állítják, hogy éppen nekik kell vezetniük a veszély kezelését.
Nem a robotlázadás a legközelebbi veszély
Az átlagember számára egyelőre nem az a legfontosabb kérdés, hogy elérkezett-e egy vitatott elméleti fordulópont. Hanem az, hogy mi történik a munkájával, a személyes adataival és azokkal a döntésekkel, amelyeket eddig emberek hoztak meg.
Az Ellenszél már korábban bemutatta, hogyan jelennek meg az önálló feladatokat végrehajtó AI-ügynökök. Ezek nemcsak szöveget írnak, hanem böngésznek, programoznak, adatokat elemeznek és teljes munkafolyamatokat vehetnek át.
A ChatGPT tervezett átalakítása is ebbe az irányba mutat: a chatbotból egyre inkább olyan rendszer lesz, amely nemcsak tanácsot ad, hanem intézkedik is.
Az Anthropic ezért olyan szabályozást javasol, amely szélsőséges esetben lehetővé tenné a veszélyes modellek kiadásának megakadályozását. Az amerikai kormány pedig júniusban elrendelte, hogy a legfejlettebb rendszereket a széles körű bevezetés előtt állami biztonsági vizsgálatnak vessék alá.
Altman szerint mindez fantasztikus jövőt hoz majd. Lehetséges, hogy igaza van.
De amikor egy vállalat saját rendszere átjut a biztonsági falakon, majd ugyanennek a vállalatnak a vezetője közli, hogy elérkezett a régóta várt szingularitás, a helyes reakció nem a feltétlen lelkesedés.
Hanem az, hogy végre ne csak az AI-cégek mondják meg, mire képesek a gépeik, és milyen kockázatot kell vállalnunk miattuk.