A kaliforniai kormányzó, Gavin Newsom (D) hétfőn írt alá egy törvényjavaslatot, amely új védőkorlátokat helyez el arról, hogy a mesterséges intelligencia (AI) chatbotok hogyan lépnek kapcsolatba a gyermekekkel, és kezelik az öngyilkosság és az önkárosodás kérdéseit.
Az SB 243, amely szeptember közepén megszüntette az állami jogalkotót, előírja, hogy a „Companion Chatbots” fejlesztõi olyan protokollokat hozzanak létre, amelyek megakadályozzák modelleiket abban, hogy tartalmat készítsenek az öngyilkossági gondolatokról, az öngyilkosságról vagy az öngyilkosságról, és arra irányítsák a felhasználókat, hogy szükség esetén válságszolgáltatásokra szolgáljanak.
Ez azt is megköveteli, hogy a chatbotok „világos és szembetűnő” értesítést tegyenek ki arról, hogy mesterségesen generálják őket, ha valakit ésszerűen megtéveszthetnek, hogy azt higgyék, hogy kapcsolatba lépnek egy másik emberrel.
A gyermekekkel való interakció során a chatbotoknak három óránként emlékeztetőket kell kiadniuk, hogy nem emberiek. A fejlesztőknek olyan rendszereket kell létrehozniuk, amelyek megakadályozzák a chatbotok szexuálisan kifejezett tartalmát a kiskorúakkal folytatott beszélgetések során.
„A feltörekvő technológia, mint például a chatbotok és a közösségi média, inspirálhat, oktathat és csatlakoztathat – de valódi védőkorlátok nélkül a technológia kizsákmányolhatja, félrevezetheti és veszélyeztetheti gyermekeinket” – mondta a Newsom nyilatkozatában.
„Láttuk néhány igazán szörnyű és tragikus példát a fiatalok számára, akiket a nem szabályozott technika sért, és nem állunk tovább, míg a vállalatok a szükséges korlátok és az elszámoltathatóság nélkül folytatódnak” – tette hozzá. „Folytathatjuk az AI -t és a technológiát, de felelősségteljesen meg kell tennünk – minden lépésben megvédjük gyermekeinket. Gyermekek biztonsága nem eladó.”
Egy kaliforniai tinédzser családja augusztus végén beperelte az Openai-t, állítva, hogy a CHATGPT ösztönözte 16 éves fiát öngyilkosságra. Az apa, Matthew Raine, tanúvallomást tett egy szenátus testület előtt A múlt hónapban két másik szülő mellett, akik azzal vádolták a chatbotokat, hogy gyermekeiket öngyilkosságra vagy önkárosodásra vezették.
A növekvő aggodalmak az AI chatbotok kölcsönhatása miatt a gyermekekkel a Szövetségi Kereskedelmi Bizottság (FTC) indítson egy kérdést a kérdésbe, információt kérve több vezető technológiai társaságtól.
A Sens. Josh Hawley (R-Mo.) És Dick Durbin (D-Ill.) A múlt hónap végén olyan jogszabályokat is bevezettek, amelyek az AI chatbotokat olyan termékekként sorolják be, amelyek lehetővé teszik a káros felhasználók számára a felelősségi igények benyújtását.
A kaliforniai intézkedés a legújabb AI és a tech-val kapcsolatos törvényjavaslatok közül, amelyeket a Newsom írt alá a törvénybe. Hétfőn jóváhagyta a figyelmeztető címkéket igénylő intézkedéseket a közösségi média platformon és az operációs rendszerek és az alkalmazásüzletek életkorának ellenőrzését is.
Szeptember végén ő aláírta az SB 53 -at isamely megköveteli az élvonalbeli AI modelleket a keretek közzétételéhez, amelyek részletezik, hogyan értékelik és enyhítik a katasztrofális kockázatokat.
