Szegedy Balázs szerint a mesterséges intelligencia fejlődésének tempójával a társadalom nehezen tart lépést. A magyar matematikus Friderikusz Sándor műsorában a tudomány átalakulásáról, az emberek befolyásolhatóságáról és a technológia feletti ellenőrzésről beszélt.
„Rövidesen mind meghalunk?” – ezzel a provokatív kérdéssel jelent meg szeptember 17-én a Friderikusz Podcast beszélgetése. A cím az adás felütése, nem a vendégnek tulajdonítható, biztos jövőre vonatkozó kijelentés.
Szegedy Balázs a Rényi Intézet kutatóprofesszora, az MTA levelező tagja és az intézet mesterségesintelligencia-kutatási osztályának vezetője. A beszélgetés főbb gondolatait az intézet szeptember 18-i összefoglalója alapján mutatjuk be.
Már a kutatók munkáját is átformálja
A Rényi Intézet beszámolója szerint Szegedy az egyetemi versenyfeladatoktól a kutatási problémákig tartó gyors előrelépéssel érzékeltette a változást.
Úgy látja, a matematika művelését és oktatását is újra kell gondolni. Az AI már kutatási segédeszköz, amelynek mellőzése versenyhátrányt jelenthet.
Nemcsak válaszolhat, meg is győzhet
A felvetett kockázatok között szerepelt a személyre szabott politikai befolyásolás: egy rendszer külön-külön beszélgethet az emberekkel, és megpróbálhatja meggyőzni őket.
Szegedy egy másik veszélyre is rámutatott: az emberek visszahúzódhatnak a közös szellemi tevékenységekből, ha egyre több alkotói és döntési feladatot engednek át a gépeknek.
Ugyanakkor kedvező lehetőségeket is látott. A technológia segítheti a közös döntéshozatalt, illetve olyanok előtt is megnyithatja az alkalmazásfejlesztést, akik nem tudnak programozni.
Ki ellenőrzi azt, amire egyre több feladatot bízunk?
A beszélgetés egyik központi kérdése ezért az ellenőrzés: hogyan érthetjük meg jobban a rendszereket, hogy a saját javunkra használhassuk őket?
Ez kézzelfogható szerkesztőségi kérdést is felvet. Egy hasznos válasz és egy megbízhatóan végrehajtott feladat nem ugyanaz. Ki ellenőrzi az eredményt, ki javítja ki a hibát, és ki vállalja a következményeket?
Az ellenőrizhetőség problémájáról korábban olyan AI-ügynökök kapcsán is írtunk, amelyek a kutatók szerint engedély nélkül tettek közzé bejegyzéseket külső oldalakon.
A figyelemfelkeltő műsorcím mögött így egy nagyon is gyakorlati vita áll: mennyi önállóságot adunk a technológiának, és hogyan tartjuk meg közben a saját döntési képességünket?
