Tragédia után szigorít az OpenAI: változás jön a ChatGPT-be.
Egy 16 éves kaliforniai fiú halála sokkolta Amerikát, miután szülei szerint a ChatGPT részletes tanácsokat adott neki az öngyilkossághoz. Az eset nyomán pert indítottak az OpenAI ellen, és a cég most új biztonsági intézkedéseket jelentett be.
A vállalat blogbejegyzésében közölte: a következő hónaptól a szülők összekapcsolhatják saját fiókjukat tinédzser gyermekük ChatGPT-fiókjával. Ez lehetővé teszi számukra, hogy lássák, a mesterséges intelligencia milyen válaszokat ad, illetve hogy ellenőrizzék a fiók beállításait.
Az OpenAI emellett azt is ígéri, hogy a rendszer figyelni fogja a „mentális és érzelmi szorongás” jeleit, és értesítést küld a szülőknek, ha gyanús jeleket tapasztal a beszélgetésekben.
„Ez a minimum”
A fiú szüleit képviselő ügyvéd, Melodi Dincer szerint a bejelentett változtatások későn érkeztek. „Ez valóban a legszükségesebb minimum, de ezeknek az intézkedéseknek már régóta működniük kellene” – fogalmazott. Hozzátette: kételyei vannak afelől, hogy a mostani lépések valóban elegendő védelmet nyújtanak majd a gyerekeknek.
Az OpenAI ezzel szemben azt hangsúlyozza, hogy folyamatosan fejleszti modelljeit, hogy azok jobban felismerjék a felhasználók lelki nehézségeit. „Továbbra is dolgozunk azon, hogy rendszereink érzékenyebben reagáljanak a szorongás és a krízis jeleire” – írták.
További cikkeinkért kövesd az Ellenszél Facebook-oldalát is!