Egy tinédzser szülei, akik öngyilkossággal haltak meg, miután Chatgpt kedden edzője volt az önkárosodás módszereivel és Sam Altman vezérigazgatóval, mondván, hogy a vállalat tudatosan a profitot tette a biztonság fölé, amikor tavaly elindította a mesterséges intelligencia chatbotjának GPT-4O verzióját.
A 16 éves Adam Raine április 11 -én halt meg, miután hónapok óta megvitatta az öngyilkosságot a CHATGPT -vel, a San Francisco Állami Bíróságon benyújtott peres eljárás szerint.
A chatbot validálta Raine öngyilkossági gondolatait, részletes információkat adott az önkárosító halálos módszerekről, és utasította őt, hogyan kell elrejteni a szüleitől a cselekedeteket, és elrejteni a sikertelen öngyilkossági kísérlet bizonyítékait. A Chatgpt még öngyilkossági jegyzet készítését is felajánlotta – mondta a szülők, Matthew és Maria Raine.
A pert arra törekszik, hogy az OpenAI -t a jogellenes halálért és a termékbiztonsági törvények megsértéséért felelősségre vonja, és meg nem határozott pénzbeli károkat kér.
Az Openai szóvivője elmondta, hogy a társaságot Raine elhaladása szomorúan veszi fel, és hogy a CHATGPT olyan biztosítékokat tartalmaz, mint például az emberek válságsegélyre irányítása.
„Noha ezek a biztosítékok a legjobban működnek, a rövid csereprogramok, az idő múlásával megtanultuk, hogy néha kevésbé megbízhatóvá válhatnak a hosszú interakciókban, ahol a modell biztonsági képzésének egyes részei romlanak” – mondta a szóvivő, és hozzátette, hogy az Openai folyamatosan javul a védelmein.
Figyelj | A mesterséges általános intelligencia károsítja -e az emberiséget?
A jelenlegi, hogy mi az AGI, és károsítja -e az emberiség?
A mesterséges általános intelligencia, vagy az AGI olyan számítógépekre utal, amelyek tudatban vannak, hasonlóan az emberekhez. Egyes technikai szakértők azt állítják, hogy ez egy hatalmas lépés az AI -n túl, de nem vagyunk olyan messze, hogy elérjük azt, míg mások azt állítják, hogy ez egy kitalált koncepció, amelynek sehol sem vagyunk. Piya Chattopadhyay, a vendégfogadó két szakértővel beszél arról, hogy az AGI mit jelent, és milyen kockázatokkal jár a számítógépek intelligensebb, mint az emberek, a.chon
Az Openai nem foglalkozott kifejezetten a pert állításaival. Mivel az AI chatbotok élethűbbé válnak, a vállalatok megismerték képességüket, hogy bizalmasakként szolgáljanak, és a felhasználók elkezdenek támaszkodni rájuk az érzelmi támogatás érdekében.
A szakértők azonban figyelmeztetik, hogy a mentálhigiénés tanácsok automatizálására támaszkodva veszélyeket hordoznak, és azok a családok, akiknek szeretteit a chatbot interakció után halt meg, kritizálta a biztosítékok hiányát.
Az Openai egy blogbejegyzésben elmondta, hogy a szülői ellenőrzéseket tervezi hozzáadni és feltárni a felhasználók válságba való csatlakoztatásának módját a valós forrásokhoz, ideértve az engedélyezett szakemberek hálózatának potenciális felépítését is, akik maga a Chatgpt révén tudnak reagálni.
Az Openai 2024 májusában indította el a GPT-4O-t annak érdekében, hogy előre maradjon az AI versenyen. A vállalat tudta, hogy az emlékezetes tulajdonságok, amelyek emlékeznek a múltbeli interakciókra, utánozták az emberi empátiát, és a sziszterációs érvényesítési szintet mutatják, veszélyezteti a sebezhető felhasználókat védekezés nélkül, de egyébként elindították – mondta a Raines a perben.
„Ennek a döntésnek két eredménye volt: az Openai értékelése 86 milliárd dollártól 300 milliárd dollárig terjedt, és Adam Raine öngyilkossággal halt meg” – mondták. A Raines peres eljárása azt is megköveteli, hogy az OpenAI-t megkövetelje a CHATGPT-felhasználók korának ellenőrzésére, az önkárosító módszerek megtagadására, és figyelmezteti a felhasználókat a pszichológiai függőség kockázatára.
Ha Ön vagy valaki, akit ismersz, küzd, itt kell keresni a segítséget:
