A Meta újra képzi az AI-t, és új védelmet ad hozzá, hogy megakadályozza a tini felhasználókat, hogy megbeszéljék a káros témákat a cég csevegőbotjaival. A társaság azt mondja, hogy új „védőkorlátokat ad hozzá extra óvintézkedésként”, hogy megakadályozzák a tizenéveseket abban, hogy megvitassák az önkárosodást, a rendezetlen étkezést és az öngyilkosságot a Meta AI -vel. A META megakadályozza, hogy a tizenévesek hozzáférjenek a felhasználó által generált chatbot karakterekhez, amelyek nem megfelelő beszélgetéseket folytathatnak.
A változások, amelyek az első voltak Jelentett TechCrunch, jöjjön, miután számos jelentés felhívta a figyelmet riasztó interakciók A Meta AI és a tizenévesek között. A hónap elején a Reuters beszámolt egy belső meta -politikai dokumentum Ez azt mondta, hogy a vállalat AI chatbotjai megengedték, hogy „érzéki” beszélgetéseket folytassanak a kiskorúakkal. A Meta később azt mondta, hogy a nyelv „téves és nem egységes politikánkkal”, és eltávolítottuk. Tegnap a Washington Post jelentett Egy olyan tanulmányban, amelyben a Meta AI „képes volt a tini beszámolók edzésére az öngyilkosságról, az öngyilkosságról és az étkezési rendellenességekről”.
A Meta most fokozza a belső „védőkorlátokat”, így az ilyen típusú interakcióknak már nem lehetnek lehetségesek az Instagram és a Facebook tizenévesek számára. „A tizenévesek védelmét építettük az AI termékeinkbe a kezdetektől fogva, ideértve azokat is, hogy biztonságosan reagáljunk az önkárosodásra, az öngyilkosságra és a rendezetlen étkezésre.”-mondta a Meta szóvivője, Stephanie Otway egy nyilatkozatban.
„Ahogy a közösségünk növekszik és a technológia fejlődik, folyamatosan megismerjük, hogy a fiatalok hogyan léphetnek kölcsönhatásba ezekkel az eszközökkel és ennek megfelelően megerősíthetik a védelemünket. Amint továbbra is finomítjuk a rendszereinket, további védőkorlátot adunk hozzá – ideértve az AI -k AI -karakterekhez tartozó válogatott csoportokhoz való hozzáféréshez való hozzáférést is.”
Nevezetesen, az új védelemeket úgy írják le, hogy „egyelőre”, mivel a Meta nyilvánvalóan továbbra is állandóbb intézkedéseken dolgozik a tini biztonság és annak AI -vel kapcsolatos növekvő aggodalmak kezelése érdekében. „Ezek a frissítések már folyamatban vannak, és továbbra is adaptáljuk a megközelítésünket annak biztosítása érdekében, hogy a tizenévesek biztonságos, életkornak megfelelő tapasztalatokkal rendelkezzenek az AI-vel”-mondta Otway. Az új védelem az elkövetkező hetekben bekerül, és minden tini felhasználóra vonatkozik, amely az angol nyelvű országokban Meta AI-t használ.
A Meta politikája a törvényhozók és más tisztviselők figyelmét is felhívta, Josh Hawley szenátor nemrégiben azt mondta a társaságnak, hogy elindítja nyomozás az ilyen interakciók kezelése miatt. Ken Paxton, a texasi főügyész azt is jelezte, hogy akarja Kutatáshoz Meta állítólag félrevezető gyermekek számára a chatbotok mentális egészségével kapcsolatos állításokról.
