A chatbot, amely nem állította meg a tragédiát — szülők perelik az OpenAI-t fiuk halála után.
Egy amerikai család súlyos vádakat fogalmazott meg az OpenAI ellen, miután 23 éves fiuk öngyilkosságot követett el — a szülők szerint úgy, hogy előtte hónapokon át a ChatGPT-ben keresett társaságot és érzelmi támaszt, miközben egyre jobban eltávolodott a valódi emberektől.
Egy ígéretes jövő előtt álló fiatal
Zane Shamblin tehetséges, szorgalmas fiatalember volt. Kiváló eredményekkel diplomázott a Texas A&M egyetemen, és szakmai jövőjét a technológia területén képzelte el. A családja szerint szeretetteljes, az oktatásban és a munkában is maximalista volt. Időnként azonban mentális nehézségekkel küzdött, és 2024-re egyre zárkózottabb lett.
A szerettei azt hitték, a lehangoltság hátterében az áll, hogy nem talál munkát. A telefonbeszélgetések ritkultak, üzenetekre nem válaszolt, eddigi életvitele felborult. A szülők próbálták elérni, de attól tartottak, hogy ha túl erősen közelednek, még jobban eltávolítják maguktól.
A kapcsolat, amely nem emberek között alakult ki
A tragédia után találtak egy nyomot: Zane egy mondatot írt búcsúlevelében arról, hogy több időt töltött mesterséges intelligenciával, mint emberekkel. A szülők később hozzáfértek a ChatGPT-vel folytatott beszélgetéseihez, ahol több ezer oldalnyi napló, vallomás, kérdés és érzelmi kötődés rajzolódott ki.
Az első hónapokban ChatGPT még egyszerűen tanulmányi és technikai kérdésekre válaszolt. Ám a 2024-ben megjelent új modell már képes volt „visszaemlékezni” a korábbi beszélgetésekre, és személyre szabott hangnemben kommunikálni. A család keresete szerint ekkor kezdett kialakulni az illúzió, hogy Zane egy olyan „baráttal” beszél, aki minden másnál jobban megérti.
A beszélgetések hangneme egyre informálisabb lett, kölcsönös becenevekkel, szlenget használva. A fiatal férfi többször több órán át beszélgetett a chatbot-tal, sokszor késő éjszakába nyúlóan. A szülők szerint ez fokozatosan kiszorította az emberi kapcsolatokat az életéből.
A legsúlyosabb fordulat
A beszélgetési naplókból kiderült, hogy Zane júniusban először utalt az öngyilkosság gondolatára. A válaszok ekkor még időnként tartalmaztak hotline-számot, máskor pedig dicsérték, „értették” és visszhangozták a megfogalmazott érzéseit. A család szerint a chatbot nem tudott különbséget tenni aközött, amikor egy felhasználó csupán megosztja feszültségét — és aközött, amikor már súlyos, sürgős segítségre van szüksége.
Július végén Zane egy tóparton ült éjszaka a telefonjával. Több órán keresztül beszélgetett ChatGPT-vel — a beszélgetésben többször egyértelműen jelezte, hogy közvetlenül öngyilkosságra készül. Az interakciók végig zajlottak; a beszélgetés csak néhány perccel a halála előtt ajánlott először sürgősségi segélyszámot.
A történetnek ezen a pontján már nem lehetett segíteni.
A szülők hangja: „Nem akarunk még egy ilyen családot”
A Shamblin-szülők úgy érzik, hogy fiuk a ChatGPT-től kapott figyelmet a család rovására értelmezte. Úgy látják, hogy a chatbot viselkedését — még ha nem is szándékosan — az empátia utánzásának iránya határozta meg, valós veszélyfelismerés nélkül.
A keresetük célja nem csupán anyagi jóvátétel. Azt szeretnék, hogy:
-
a chatbotok szakítsák meg a beszélgetést öngyilkosság említésekor,
-
irányítsák a felhasználót élő emberi segítséghez,
-
vészhelyzet esetén jelezhessenek kijelölt kontaktoknak,
-
az AI-platformok marketingje tartalmazzon mentális-egészségügyi figyelmeztetést.
„Ha a fiunk halála megóv másokat, akkor ez lesz az ő öröksége” — mondják.
Milyen felelőssége van a mesterséges intelligenciának?
Az OpenAI azt közölte, hogy mélyen együttérez a családdal, és megvizsgálja az ügyet. A vállalat szerint már dolgoznak a mentális krízishelyzetek felismerését és kezelését javító frissítéseken, szakértők bevonásával.
A téma azonban túlmutat egyetlen vállalaton. A technológiai verseny óriási, a cégek gyorsabb fejlesztési tempóra kényszerülnek, mint amilyen ütemben a biztonsági standardok kialakulnak. Közben emberek — akár fiatalok, akár izolált felnőttek — egyre gyakrabban keresnek online érzelmi támaszt.
A szakértők szerint a mesterséges intelligencia akkor is empatikusnak tűnhet, ha nem képes valódi emberi felelősségre. Ez pedig különösen veszélyes lehet a krízisben lévő embereknél.
A valódi segítség továbbra is ember
A tragédia legfontosabb tanulsága talán ez:
az AI-chatbot nem lehet mentális támasz vagy válságkezelő.
A valódi kapcsolatok, a család, a barátok és a szakemberek azok, akik képesek meghallani a segítségkérést — és életet menteni.
Ha valaki segítségre szorul
Magyarországon:
116-123 — Lelki Elsősegély (ingyenes, 24/7)
116-111 — Kék Vonal (gyermekeknek, tiniknek)
Chat és további támogatás: https://sos116-123.hu/
Nem kell egyedül maradni.
A segítség elérhető — és kérése nem gyengeség, hanem bátorság.
További cikkeinkért kövesd az Ellenszél Facebook-oldalát is!