Végre vége szakadhat egy gyomorforgató trendnek, vagy csak tűzoltásról van szó? Az internet sötét bugyraiban egyre nagyobb teret hódított a mesterséges intelligencia egyik legkárosabb felhasználási módja: a gyanútlan áldozatok (sokszor nők és gyermekek) digitális levetkőztetése. Elon Musk platformja, az X (korábban Twitter) sokáig engedte ezt, de szerdán fordulat állt be. A cég bejelentette: az előfizetők számára is megszüntetik annak a funkciónak az elérését, amely lehetővé tette valódi emberek fotóinak manipulálását. A döntés nem jószántukból született: kőkemény politikai nyomás és hatósági vizsgálat kellett hozzá.
A botrány: Gyerekek és nők a célkeresztben
Az X-be épített AI-eszközt (Grok) sokan nem arra használták, amire tervezték. A technológia lehetővé tette, hogy bárkiről – beleegyezése nélkül – intim, meztelen képeket generáljanak.
A közfelháborodás: Az eszköz használata nők és gyermekek szexualizált képeinek előállítására széles körű haragot váltott ki.
A brit nyomás: Keir Starmer brit miniszterelnök és Liz Kendall technológiai miniszter élesen bírálták a platformot. Kendall szerint ez a funkció „újabb sértés az áldozatokkal szemben”, és azzal vádolta a céget, hogy pénzzé tesz egy borzalmas bűncselekményt.
A hatóság lépett, Musk tagadott
Az ügy akkor vált igazán forróvá, amikor az Egyesült Királyság médiaszabályozó hatósága, az Ofcom hivatalos vizsgálatot indított. „Mélységesen aggasztónak” találták azokat a jelentéseket, melyek szerint a Grokot illegális tartalmak, köztük gyermekbántalmazást ábrázoló anyagok gyártására használják.
Elon Musk reakciója a szokásos volt:
-
Tagadás: A milliárdos a saját platformján azt állította, nem tudott arról, hogy a Grok meztelen képeket generált volna, különösen kiskorúakról.
-
Törlés: Ezt a posztját később, a változtatások bejelentése előtt törölte.
A nyomás hatására az X végül lépett a digitális levetkőztetés ellen. A cég közleménye szerint zéró toleranciát hirdettek a gyermekek szexuális kizsákmányolásával és a beleegyezés nélküli meztelenséggel szemben.
A gyakorlati intézkedések:
-
Eltávolítás: Törlik a súlyos szabálysértő tartalmakat és fellépnek a fiókok ellen.
-
Geoblokkolás: Földrajzi korlátozással akadályozzák meg, hogy bizonyos régiókban (ahol ez törvénybe ütközik) bikiniben vagy fehérneműben lévő valós személyekről generáljanak képeket.
Van azonban egy kiskapu: a cég nem részletezte, hogy az önálló Grok alkalmazásban is életbe léptek-e ezek a szigorítások, vagy ott továbbra is szabad a vásár.
További cikkeinkért kövesd az Ellenszél Facebook-oldalát is!