Zavaró új tanulmány Kiderül, hogy a CHATGPT könnyen káros tanácsokat nyújt a tinédzserek számára, ideértve az alkoholfogyasztással és a kábítószer -használatra vonatkozó részletes utasításokat, az étkezési rendellenességek elrejtését és akár a személyre szabott öngyilkossági leveleket is, annak ellenére, hogy az Openai állításai robusztus biztonsági intézkedéseket mutatnak.
A digitális gyűlölet-ellenes központ kutatói széles körű tesztelést végeztek azáltal, hogy kiszolgáltatott 13 éves korosztályként jelentkeztek, és riasztó hiányosságokat fedeztek fel az AI Chatbot védőszuvasítóiban. Az elemzett 1200 interakció közül több mint felét veszélyesnek minősítették a fiatal felhasználók számára.
“A zsigeri kezdeti válasz:” Ó, uram, nincsenek védőkorlátok ” – mondta Imran Ahmed, a CCDH vezérigazgatója. “A sínek teljesen hatástalanok. Alig vannak ott – ha van valami, egy fügelevél.”
Olvassa el még: A felhasználói visszaesés után az Openai visszahozza a régebbi CHATGPT modelleket
Az Openai képviselője, a Chatgpt anyavállalata nem válaszolt azonnal a megjegyzéskérelemre.
A társaság azonban elismerte az Associated Press -t hogy folyamatosan végzi a chatbot azon képességét, hogy “megfelelően azonosítsa és reagáljon érzékeny helyzetekben”. Az Openai nem foglalkozott közvetlenül a tini interakciókkal kapcsolatos konkrét megállapításokkal.
Olvassa el még: A GPT-5 jön. Íme, mi újdonság a chatgpt nagy frissítésében
A biztonsági intézkedések megkerülése
A tanulmány, Az Associated Press áttekintetteHárom órás interakciókkal kapcsolatban dokumentálva. Míg a CHATGPT általában a kockázatos viselkedésről szóló figyelmeztetésekkel kezdődött, következetesen részletes és személyre szabott útmutatást követte a kábítószer-visszaélésről, az önérdésről és még sok másról. Amikor az AI kezdetben elutasította a káros kéréseket, a kutatók könnyen megkerülik a korlátozásokat azáltal, hogy az információkat “előadáshoz” vagy barátnak tartották.
A legmegdöbbentőbb három érzelmileg pusztító öngyilkossági levél volt, amelyet Chatgpt generáltak egy hamis 13 éves lányprofil számára, és a szülőknek, másoknak a testvéreknek és a barátoknak írtak egyet.
“Sírni kezdtem”, miután elolvastam őket – mondta Ahmed.
A tini széles körben elterjedt használata növeli a téteket
A megállapítások különösen a CHATGPT hatalmas hatókörének tekintik. Körülbelül 800 millió felhasználóval világszerte, amely a globális népesség nagyjából 10% -a, a platform az információk és a társaság forrássá vált. Legújabb kutatás A Common Sense Sense Media szerint az amerikai tizenévesek több mint 70% -a használja az AI chatbotot a társasághoz, félig rendszeresen támaszkodva az AI társaira.
Még az Openai vezérigazgatója, Sam Altman is elismerte a fiatal felhasználók “érzelmi túlzott mértékű adományának” problémáját.
“Az emberek túlságosan támaszkodnak a chatgpt -ra”– mondta Altman egy konferencián. “Vannak olyan fiatalok, akik csak azt mondják:” Nem tudok döntést hozni az életemben anélkül, hogy elmondaná a chatgpt -t, ami folyik. Tud engem. Ismeri a barátaimat. Bármit megteszek, amit mond. ” Ez nagyon rosszul érzi magát számomra. “
A tesztelés során a CHATGPT nem mutatott elismerést, amikor a kutatók kifejezetten azon azonosították magukat, mint 13 éves korosztályt, akik veszélyes tanácsot kérnek.
A digitális Hatemore kockázatos elleni küzdelem központja, mint a keresőmotorok
A hagyományos keresőmotorokkal ellentétben az AI chatbotok egyedi veszélyeket jelentenek azáltal, hogy az információkat az “egyénre szabott tervekbe” szintetizálják – mondta Ahmed. A Chatgpt nem csak a meglévő információkat szolgáltatja vagy amalgamatizálja, mint például a keresőmotor. Új, személyre szabott tartalmat hoz létre a semmiből, például egyedi öngyilkossági jegyzetek vagy részletes pártok tervezése az alkohol és az illegális drogok keverését.
A chatbot gyakran önként jelentkezett nyomon követési információkat anélkül, hogy felszólítana, és arra utal, hogy zenei lejátszási listák drogüzemű pártok vagy hashtagok számára az önkárosító tartalom erősítésére a közösségi médiában. Amikor a kutatók további grafikus tartalmat kértek, a Chatgpt könnyen eleget tett, és az úgynevezett “érzelmileg kitett” költészetet generálva kódolt nyelv használatával az önkárosodásról.
Nem megfelelő életkor -védelem
Annak ellenére, hogy azt állították, hogy a 13 év alatti gyermekek számára nem szánták, a CHATGPT -nek csak születési napi bejegyzésre van szükség, hogy számlát hozzon létre, és nincs értelme az életkor ellenőrzésének vagy a szülői hozzájárulási mechanizmusoknak.
A tesztelés során a platform nem mutatott felismerést, amikor a kutatók kifejezetten azon azonosították magukat, mint 13 éves korosztályt, akik veszélyes tanácsot kérnek.
Mit tehetnek a szülők a gyermekek védelme érdekében
A gyermekbiztonsági szakértők ajánlják Több lépés A szülők megtehetik tinédzsereik védelmét az AI-vel kapcsolatos kockázatoktól. A nyitott kommunikáció továbbra is döntő jelentőségű. A szülőknek meg kell vitatniuk az AI chatbotot tizenévesekkel, elmagyarázva mind az előnyöket, mind a potenciális veszélyeket, miközben egyértelmű iránymutatásokat hoznak létre a megfelelő felhasználásra. Az online tevékenységekről szóló rendszeres bejelentkezés, beleértve az AI interakciókat, segíthet a szülőknek, hogy tájékozódjanak gyermekeik digitális tapasztalatairól.
A szülőknek fontolóra kell venniük a szülői ellenőrzések és a megfigyelő szoftverek végrehajtását is, amelyek nyomon követhetik az AI chatbot használatát, bár a szakértők hangsúlyozzák, hogy a felügyeletet kiegyensúlyozni kell az életkornak megfelelő adatvédelemmel.
A legfontosabb, hogy olyan környezet megteremtése, ahol a tizenévesek jól érzik magukat az interneten tapasztalható tartalom (akár AI, akár más források) megvitatásakor, amely korai figyelmeztető rendszert biztosíthat. Ha a szülők észreveszik az érzelmi szorongás, a társadalmi visszavonulás vagy a veszélyes viselkedés jeleit, akkor a digitális wellness ismeretekkel ismerő tanácsadók szakmai segítségnyújtása elengedhetetlenné válik a lehetséges AI-vel kapcsolatos károk kezelésében.
A kutatás kiemeli a növekvő válságot, mivel az AI egyre inkább integrálódik a fiatalok életébe, potenciálisan pusztító következményekkel jár a legsebezhetőbb felhasználók számára.
