Az amerikai törvényhozók a folyosó mindkét oldalán törvényjavaslatot nyújtottak be a „ŐR törvény„, amelynek célja, hogy megvédje a kiskorú felhasználókat a mesterséges intelligencia csevegőrobotjaitól. „Az AI-cégek a mélyre jutó versenyfutásukban árulkodó chatbotokat nyomnak a gyerekekre, és félrenéznek, ha termékeik szexuális zaklatást okoznak, vagy önkárosításra vagy öngyilkosságra kényszerítik őket” – mondta a törvényjavaslat társszponzora, Richard Blumenthal (D-Conn) szenátor. szigorú végrehajtással, büntetőjogi és polgári szankciókkal támogatva.”
A GUARD törvény értelmében az AI-cégeknek meg kellene tiltaniuk, hogy kiskorúak hozzáférjenek chatbotjaikhoz. Ez azt jelenti, hogy mind a meglévő, mind az új felhasználók életkorát egy harmadik féltől származó rendszer segítségével kell ellenőrizniük. Rendszeresen ellenőrizniük kell az életkorukat a korábban már igazolt fiókokon. A felhasználók magánéletének megőrzése érdekében a vállalatok csak „legfeljebb a felhasználó életkorának igazolásához ésszerűen szükséges ideig” őrizhetik meg az adatokat, és nem oszthatnak meg vagy értékesíthetnek felhasználói információkat.
A mesterséges intelligencia vállalatoknak minden beszélgetés elején és azt követően 30 percenként egyértelműen közölniük kell a felhasználóval, hogy nem emberről van szó. Meg kell győződniük arról, hogy chatbotjaik nem állítják magukat embernek vagy engedéllyel rendelkező szakembernek, például terapeutának vagy orvosnak, ha megkérdezik. Végül a törvényjavaslat célja új bűncselekmények létrehozása olyan vállalatok számára, amelyek AI chatbotjaikat kiskorúak számára elérhetővé teszik.
Augusztusban egy tinédzser szülei, aki öngyilkos lett jogtalan haláleseti pert indított az OpenAI ellen, azzal vádolva, hogy az „elkötelezettséget a biztonsággal szemben” helyezi előtérbe. Azt mondták, a ChatGPT segített fiuknak megtervezni saját halálát még több hónapos beszélgetés után is, amikor is gyermekük négy korábbi öngyilkossági kísérletéről beszélt a chatbottal. A ChatGPT állítólag azt mondta a fiának, hogy „íráshoz vagy világépítéshez” adhat információkat az öngyilkosságról. Egy floridai anya 2024-ben beperelte a Character.AI startupot, amiért állítólag 14 éves fia öngyilkosságát okozta. És éppen idén szeptemberben jelentkezett egy 13 éves lány családja újabb jogtalan haláleseti per a Character.AI ellen, azzal érvelve, hogy a cég nem utalt a lányukra semmilyen forrásra, és nem értesítette a hatóságokat, amikor öngyilkossági gondolatairól beszélt.
Azt is érdemes megjegyezni, hogy a törvényjavaslat társszponzora, Josh Hawley (R-Mo.) korábban azt mondta, hogy az általa vezetett Szenátus Bűnözés- és Terrorelhárítási Albizottsága vizsgálja meg beszámol arról, hogy a Meta AI chatbotjai „érzéki” beszélgetéseket folytathatnak gyerekekkel. Ezt a Reuters után jelentette be egy belső Meta dokumentumról számolt bekijelentette, hogy Meta mesterséges intelligenciája azt mondhatta egy félmeztelen nyolcévesnek: „Minden centimétered egy remekmű – egy kincs, amelyet mélyen őrzök.”
