Egy mesterséges intelligencia segítségével készített, hibás hírszerzési jelentés miatt készülhetett amerikai katonai művelet egy kínai hajó ellen. A CNN értesülése szerint repülőgépek már a levegőben voltak, amikor az ellenőrzés feltárta a tévedést.
A tavasszal történt esetről szeptember 18-án számolt be a CNN. A hírtelevízió négy, az ügyet ismerő forrásra hivatkozó riportja szerint az iráni háború idején olyan jelentés terjedt az amerikai hadseregben, amely egy Közel-Keleten haladó kínai hajó rakományát nukleáris fegyverprogramhoz szükséges alkatrészekkel hozta összefüggésbe.
A művelet előtt derült ki a hiba
A CNN forrásai szerint fegyveres katonák készültek a hajóra lépni. Közvetlenül a tervezett művelet előtt azonban alaposabban megvizsgálták a jelentést.
Ekkor derült ki, hogy az elemző által használt chatbot tévesen azonosította a szállítmányt. A CNN nem tudta megállapítani, valójában mit vitt a hajó, és azt sem, melyik AI-rendszert használták.
A történet névtelen források beszámolóján alapul; az olvasók számára nem áll rendelkezésre a teljes bizonyítékanyag.
Nem az AI adott támadási parancsot
Fontos különbség: a beszámoló nem egy önállóan háborút indító gépről szól. Emberek készültek katonai intézkedésre egy AI segítségével összeállított, hibás jelentés alapján.
A közösségi médiában terjedő „majdnem kitört a harmadik világháború” megfogalmazás túlmegy azon, amit a riport igazol. Egy veszélyes katonai incidens kockázata nem azonos egy világháború bizonyítható közelségével.
Az eset ettől még súlyos kérdést vet fel: milyen ellenőrzésnek kell megelőznie azt, hogy egy gép válaszából katonai döntés alapja legyen?
A felelősséget nem lehet a chatbotra bízni
Az Ellenszél nemrég arról írt, hogy Joe Rogan éppen a háborúk elkerülését remélné a mesterséges intelligenciára bízott kormányzástól.
A két történet másról szól, de ugyanahhoz a kérdéshez vezet: mennyi döntési súlyt szabad adni egy gépi válasznak?
Egy katonai döntési láncban nem elegendő az, hogy valaki elolvassa a chatbot szövegét. A tényleges ellenőrzéshez az állítások mögötti bizonyítékokat is vizsgálni kell. A felelősség pedig akkor is az embereké és az intézményeké marad, ha a hibás információt egy gép állította elő.
