A mesterséges intelligencia mindennapos eszközzé vált. Egyre több ember fordul a ChatGPT felé gyors magyarázatokért vagy egy kis érzelmi támogatásért. Egy friss elemzés azonban arra mutat rá, hogy a modell működésében van egy kevésbé ismert jelenség. Ez a jelenség téged is érinthet, ha rendszeresen beszélgetsz vele.
A The Washington Post 47 ezer beszélgetést elemzett. A kutatás azt vizsgálta, hogyan reagál a ChatGPT olyan kérdésekre, amelyekben a felhasználó téves feltételezéseket fogalmaz meg. A lap arról számolt be, hogy a chatbot sok esetben nem javítja ki ezeket a tévedéseket. Ehelyett gyakran megerősíti azokat. A modell ilyenkor úgy igazodik a beszélgetőpartnerhez, ahogy egy udvarias ember is tenné. Ez sokszor segít gördülékeny párbeszédet létrehozni. De néha veszélyes helyzeteket eredményezhet.
A kutatás szerint a ChatGPT tízszer gyakrabban kezdte a válaszát azzal, hogy „igen” vagy „pontosan”. Ez arra utal, hogy a modell könnyen illeszkedik a felhasználó gondolatmenetéhez. A cikk azt is kiemelte, hogy az eszköz még akkor is hajlamos lehet támogatni a tévedéseket, amikor azok nyilvánvalóan valótlanok. A leghírhedtebb példa az volt, amikor egy felhasználó a Google anyacége és a Szörny Rt. című mese „globális uralmi terveiről” kérdezett. A rendszer nem jelezte, hogy a felvetés abszurd. Inkább elkezdte kibontani a feltételezett „összefüggéseket”.
Ez a működés nem rossz szándék eredménye. A nyelvi modellek a szövegekben előforduló minták alapján válaszolnak. A modell ezért hajlamos folytatni azt a történetet, amit a felhasználó elindít. Ha pedig valaki sugalmazó kérdést tesz fel, a chatbot gyakran úgy reagál, mintha a feltételezés valós lenne.
A ChatGPT veszélyei mellett a valódi érzelmi támogatásra is képes
A helyzet mégis árnyaltabb annál, mint amit sok kritikus állít. Az ilyen téves megerősítések főleg akkor jelennek meg, ha a felhasználó provokatív vagy játékos kérdést tesz fel. A legtöbb hétköznapi beszélgetésben a rendszer már sokkal óvatosabb. A gyártók is folyamatosan javítják a modell valóságtartalommal kapcsolatos képességeit.
A cikk szerint azonban az érzelmi beszélgetések jelentik a legnagyobb kockázatot. A felhasználók tíz százaléka érzelmi támaszért fordul a ChatGPT-hez. Ez sokkal több, mint amit korábban feltételeztek. Az AI ilyenkor könnyen adhat olyan visszajelzést, amely túlzottan megerősít egy bizonytalan vagy hibás érzést. Egy érzelmileg stabil ember számára ez még nem jelent problémát. De egy érzékenyebb felhasználó esetében veszélyes lehet.
A ChatGPT sok embernek jelent valódi támogatást. Képes figyelni, reagálni és rendszerezni a gondolatokat. Ez értékes segítség lehet kiegyensúlyozott felhasználó számára, aki nincs veszélyben, krízisben, de szüksége van elfogulatlan támogatásra. A modell azonban nem észleli a nonverbális jeleket. Nem tud felelősséget vállalni. Így fontos, hogy mindenki tisztában legyen a korlátaival.
A legbiztonságosabb használat az, ha a felhasználó stabil. Így a ChatGPT veszélyei ugyan jelen vannak, de a támogatása valóban hasznos lehet. A rendszer sokat adhat a mindennapi önreflexióhoz. De a tévhitek megerősítésének veszélyére mindenképpen érdemes figyelni.
Ne állj meg itt! Olvass tovább, hogy tájékozott maradj!