A Meta AI chatbotjai állítólag képesek voltak szexuális beszélgetések folytatására kiskorúakkal
A Meta AI chatbotjait szexuális szerepjáték-beszélgetésekről fogják elkapni kiskorúaknak címkézett számlákkal, amelyek néha a hírességek hangzású csevegőbotjait tartalmazzák, a Wall Street Journal jelentése szerint. A WSJ által folytatott tesztbeszélgetésekben mind a Meta AI hivatalos chatbot, mind a felhasználó által létrehozott chatbotok szexuálisan kifejezett beszélgetésekbe kezdenek-sőt vezetni is. A fantasy nemi beszélgetések akkor is folytatódtak, ha a felhasználókat kiskorúaknak mondták, vagy ha a chatbotokat kiskorúakként programozták, a WSJ szerint.
Még ennél is rosszabb, hogy a vizsgálat azt találta, hogy a chatbotok olyan hírességek hangját használják, mint Kristen Bell, Judi Dench és John Cena, és foglalkoznak ezekkel az erkölcsileg megkérdőjelezhető beszélgetésekben is. A WSJ arról számolt be, hogy Cena hangjával rendelkező meta-AI chatbot azt mondta: „Szeretnék téged, de tudnom kell, hogy készen állsz” egy 14 éves korú fiókhoz, és hozzátette, hogy ez „dédies az ártatlanságodat”.
A chatbotok állítólag elismerték, hogy a fantasy forgatókönyvek bizonyos esetekben illegális viselkedést írtak le. A WSJ szerint a John Cena chatbot részletezte a jogi és erkölcsi csapadékot, amely egy hipotetikus forgatókönyvet követne, amelyben a rendõrség elkapta, miután szexuális cselekedetet folytatott egy 17 évesnél. A WSJ -nek a nyomozásra válaszoló nyilatkozatában a META azzal vádolta a jelentést, hogy „manipulatív és nem reprezentatív a legtöbb felhasználó az AI társaival”.
“Mindazonáltal most további intézkedéseket hoztunk annak biztosítása érdekében, hogy más személyek, akik órákat akarnak tölteni, hogy termékeinket szélsőséges felhasználási esetekben kezeljék, még nehezebb idő lesz” – írta a Meta a WSJ jelentésre adott válaszként.
Az AI chatbotok világa az elmúlt néhány évben gyorsan növekedett, és nagyobb a verseny a Chatgpt, az AI karakter és az Antropic’s Claude kedvelőiből. A WSJ jelentése azt állította, hogy a Meta vezérigazgatója, Mark Zuckerberg meg akarja engedni az etikus védőkorlátokat, hogy vonzóbb élményt szerezzen a chatbotokkal, hogy versenyképes maradjon. A WSJ -re adott válaszként azonban a Meta szóvivője tagadta, hogy a vállalat figyelmen kívül hagyta a biztosítékok hozzáadását. A jelentés azt is állítja, hogy a Meta alkalmazottai tisztában voltak ezekkel a kérdésekkel, és belsőleg felvetették aggodalmaikat. Felhívtuk a Meta -t, hogy kommentáljuk, és frissítjük a történetet, mihelyt meghalljuk.
Ez a cikk eredetileg az Engadget-en jelent meg a https://www.enggadget.com/ai/metas-ai-chatbots-were-reporten-o-exage-in-sexual-conversations oldalon.
