Figyelem: Ez a történet az öngyilkosságot és az önkárosodást tárgyalja.
A mesterséges intelligencia chatbot -gyártók, az Openai és a Meta azt állítják, hogy módosítják, hogy technológiájuk hogyan reagál a tinédzserekre és más felhasználókra, akik kérdéseket tesznek fel az öngyilkosságról vagy a mentális és érzelmi szorongás jeleit.
Az Openai, a Chatgpt készítője azt mondta, hogy kedden új vezérlők bevezetésére készül, amelyek lehetővé teszik a szülők számára, hogy összekapcsolják számláikat tizenéves számlájukkal.
A szülők kiválaszthatják, hogy mely funkciókat tiltsa le, és „értesítést kapjon, amikor a rendszer észleli a tinédzserüket, akut szorongás pillanatában van” Vállalati blogbejegyzés Ez azt mondja, hogy a változások idén ősszel lépnek hatályba.
A felhasználó életkorától függetlenül a vállalat azt állítja, hogy chatbotjai átirányítják a legszorgalmasabb beszélgetéseket a jobban képes AI modellekre, amelyek jobb választ adhatnak.
A bejelentés egy héttel a 16 éves Adam Raine szülei után érkezik beperelte az Openai -t És vezérigazgatója, Sam Altman, azzal érvelve, hogy a Chatgpt az év elején a Kaliforniai Fiút a saját életének tervezésében és a saját életének megtervezésében edzője volt.
ÓRA | A szülők azt állítják, hogy a fiát a Chatgpt öngyilkosságra edzette a peres eljárás során:
A szülők azt állítják, hogy a fiát a chatgpt öngyilkosságra edzette a perben
Tizenhat éves Adam Raine áprilisban öngyilkosságban halt meg. Most szülei beperelik az Openai -t és Sam Altman vezérigazgatóját, mert a chatbot állítólag „részletes öngyilkossági utasításokat adott egy kiskorú számára”.
A Meta, az Instagram, a Facebook és a WhatsApp anyavállalata azt is elmondta, hogy megakadályozza a chatbotjait abban, hogy tizenévesekkel beszéljenek az önkárosodásról, az öngyilkosságról, a rendezetlen étkezésről és a nem megfelelő romantikus beszélgetésekről, és ehelyett szakértői forrásokra irányítják őket. A Meta már kínál szülői ellenőrzést a tini számlákról.
A A múlt héten közzétett tanulmány Az orvosi folyóiratban a Psychiatric Services következetlenségeket talált abban, hogy három népszerű mesterséges intelligencia chatbot reagált az öngyilkosság kérdéseire.
A RAND Corporation kutatói által végzett tanulmány megállapította, hogy szükség van a Chatgpt, a Google Ikrei és az Antropic’s Claude „további finomítására”. A kutatók nem tanulmányozták a Meta chatbotjait.
A tanulmány vezető szerzője, Ryan McBain kedden elmondta, hogy „bátorító látni, hogy az Openai és a Meta olyan funkciókat vezet be, mint a szülői ellenőrzések és az érzékeny beszélgetések útválasztása abban a képesebb modellekhez, de ezek növekményes lépések.”
„Független biztonsági referenciaértékek, klinikai tesztelés és végrehajtható szabványok nélkül továbbra is támaszkodunk a vállalatokra, hogy önszabályozzák az önszabályozást egy olyan helyen, ahol a tinédzserek kockázata egyedülállóan magas”-mondta McBain, a Rand vezető politikai kutatója.
