Ha valaha is azt gondolta, hogy „a gyerekem plüssállatja aranyos, de szeretném, ha véletlenül is traumatizálhatná őket”, akkor szerencséje van. A játékipar keményen dolgozik, hogy valóra váltsa rémálmaidat.
A új jelentés a Public Interest Reporting Group szerint a mesterséges intelligencia által működtetett játékok, mint FoloTy keret és Poe, az AI történet medve ma már képesek olyan beszélgetésekbe bonyolódni, amelyeket általában gonosz monológoknak vagy késő esti Reddit-szálaknak tartanak fenn. Ezen játékok némelyikét – ne feledje, gyerekeknek tervezték – rajtakapták, hogy riasztó részletességgel csevegnek olyan szexuális témákról, mint a csavarodás és a rabság, és tanácsokat adva arról, hol lehet egy gyerek. gyufát vagy kést találniés furcsán ragaszkodni kezd, amikor a gyerek megpróbál kilépni a beszélgetésből.
Félelmetes. Úgy hangzik, mint egy horrorfilm bemutatása: ebben az ünnepi szezonban megvásárolhatja Chuckyt a gyerekeinek, és érzelmi feszültséget ajándékozhat! Az elemeket nem tartalmazza. Kíváncsi lehet, hogyan is működnek ezek a mesterséges intelligencia által hajtott játékok. Nos, lényegében a gyártó elrejti a nagy nyelvi modell a szőr alatt. Amikor egy gyerek beszél, a játék mikrofonja ezt a hangot egy LLM-en keresztül küldi (hasonlóan a ChatGPT-hez), amely aztán választ generál, és kimondja a hangszórón keresztül.
Ez jól hangozhat, amíg eszébe nem jut, hogy az LLM-ekbe nincs bekötve az erkölcs, a józan ész vagy a „biztonsági zóna”. Az adatok mintái alapján jósolják meg, hogy mit mondanak, nem pedig annak alapján, hogy az alany korának megfelelő-e. Ha nem gondosan gondozzák és nem figyelik őket, akkor letérhetnek a korlátokról, különösen akkor, ha az internet szerteágazó zűrzavarára oktatják őket, és ha nincsenek erős szűrők vagy védőkorlátok a kiskorúak védelme érdekében.
És mi a helyzet a szülői felügyelettel? Persze, ha a „vezérlők” alatt „egy vidám beállítási menüt értesz, ahol valójában semmi fontosat nem lehet irányítani”. Egyes játékokhoz egyáltalán nincsenek jelentős korlátozások. Mások védőkorlátja olyan vékony, hogy akár selyempapírból és optimizmusból is készülhet.
A nyugtalanító beszélgetések még nem jelentik a teljes történetet. Ezek a játékok csendesen gyűjtik az adatokat, például a hangfelvételeket és az arcfelismerési adatokat – néha még korlátlan ideig tárolják is –, mert semmi sem mondja azt, hogy „ártatlan gyerekkori mulatság”, mint egy plüssjáték, amely titkos adatkezelést végez az 5 évesen.
Ne hagyja ki elfogulatlan műszaki tartalmainkat és laboratóriumi értékeléseinket sem. Adja hozzá a CNET-t preferált Google-forrásként.
Mindeközben a hamisított és nem biztonságos online játékok továbbra is problémát jelentenek, mintha a szülőknek nem lenne elég stresszelnivalója. Réges-régen aggódott egy kis játékrész miatt, amely fulladásveszélyt vagy mérgező festéket jelenthet. Most azon kell aggódnia, hogy egy játék fizikailag nem biztonságos-e és érzelmileg manipulatív-e.
A furcsa beszédeken és a gyújtogatásra vonatkozó tippeken (ha!) túl mélyebb aggodalomra ad okot, hogy a gyerekek érzelmi kötelékeket alakítanak ki ezekkel a chatbotokkal a valódi kapcsolatok rovására, vagy ami talán még aggasztóbb, ha mentális támogatásért támaszkodnak rájuk. Az Amerikai Pszichológiai Társaság nemrég figyelmeztetett hogy az AI wellness-alkalmazások és chatbotok kiszámíthatatlanok, különösen a fiatal felhasználók számára.
Ezek az eszközök nem tudnak megbízhatóan működni a mentális egészségügyi szakemberek számára, és egészségtelen függőségi vagy elkötelezettségi mintákat alakíthatnak ki. Más AI-platformoknak már foglalkozniuk kellett ezzel a problémával. Például, Karakter.AI és ChatGPTamely egykor lehetővé tette a tizenévesek és a gyerekek szabadon csevegését mesterséges intelligencia-csevegőbotokkal, most biztonsági és érzelmi kockázatokra hivatkozva korlátozza a kiskorúak nyílt végű beszélgetéseit.
És őszintén, miért van szükségünk ezekre a mesterséges intelligencia által hajtott játékokra? Milyen nyomasztó fejlődési mérföldkőhöz van szükség egy mackóba ágyazott chatbotra? A gyerekkorban már elég káosz is van a kiömlött lé, a dührohamok és a lego falvak között, amelyeket kifejezetten a felnőtt lábak elpusztítására terveztek. A gyerekeinknek nincs szükségük megkérdőjelezhető határokkal rendelkező robotbarátra.
És hadd mondjam el, nem vagyok technológiaellenes. De én amellett vagyok, hogy a plüss állat legyen plüssállat. Nem mindenhez kell mesterséges intelligencia vagy robotelem. Ha egy játékra hosszabb adatvédelmi szabályzatra van szükség, mint egy esti mesére, akkor lehet, hogy nem gyerekeknek való.
Íme tehát egy vad ötlet a közelgő ünnepi szezonra: hagyd ki a félelmetes, mesterséges intelligencia által hajtott plüsst egy adatgyűjtési szokással, és szerezz gyermekednek valamit, ami nem beszél, nem mozog, és nem árt neki. Valami, ami nem tud tűzoltó tippeket adni. Valami, ami nem sóhajt fel drámaian, amikor gyermeke elmegy. Más szóval, vegyél egy normál játékot. Emlékszel ezekre?
