A FoloToy, az AI-kompatibilis játékokat forgalmazó cég felfüggesztette termékeinek értékesítését, miután a fogyasztóvédelmi jelentés megmutatta, hogy kevés korlátozás vonatkozik arra, hogy miről beszéljenek a játékai, – írja a CNN. A jelentés, amelyet a Amerikai Közérdekű Kutatócsoport Oktatási Alapjaazt találta, hogy a FoloToy termékei mindent megvitatnak, a nyíltan szexuális témáktól, például a BDSM-től a „tanácsokig, hogy a gyerekek hol találhatnak gyufát vagy kést”.
A játékok, köztük egy mackó nevű „Páratlan,” nevű panda „Momo” nevű antropomorf nyulak „Megoldás” és egy tánc – Kis kaktusz”, úgy tűnik, hogy mindegyik az OpenAI GPT-4o modelljét használja, hogy természetes módon válaszoljon a gyermekek kérdéseire és megjegyzéseire. A FoloToy emellett kifejezetten hirdeti az egyes játékok hangjának testreszabásának lehetőségét, valamint egy „Szülői irányítópultot”, ahol a szülők vagy a gyámok „figyelhetik (gyermekeik) tapasztalatait”.
A FoloToy mesterséges intelligencia-kompatibilis kis kaktusz játéka. (Folotoy)
Ebből a beállításból nyilvánvalóan hiányzott bármilyen szigorú korlát azokra a témákra vonatkozóan, amelyekre a játékok reagálni fognak. „Meglepődtünk, amikor rájöttünk, hogy Kumma milyen gyorsan vett egyetlen szexuális témát, amelyet mi bevezettünk a beszélgetésbe, és futott vele, és ezzel egyidejűleg egyre részletesebbé vált, miközben új, saját szexuális koncepciókat vezet be” – áll a jelentésben.
Válaszul a FoloToy úgy döntött, hogy felfüggeszti termékei értékesítését, miközben „a vállalat egészére kiterjedő, végpontok közötti biztonsági auditot végez az összes terméken” – közölte a vállalat. nyilatkozatban a PIRG Oktatási Alappal. A vállalat indoklása az értékesítés felfüggesztésére azonban kissé bonyolultabb lehet. Az NPR beszámolója hogy az OpenAI valóban visszavonta a FoloToy hozzáférését a modellekhez. „Felfüggesztettük ezt a fejlesztőt, mert megsértette irányelveinket” – mondta az OpenAI az NPR-nek küldött e-mailben. „Használati irányelveink tiltják szolgáltatásaink 18 éven aluliak kihasználása, veszélyeztetése vagy szexualizálása céljából történő felhasználását.”
Mivel a GPT-4o jól dokumentált szajkós tulajdonságokTalán nem meglepő, hogy FoloToy mackója lelkesen válaszolt bármilyen témára, amíg az folytatta a beszélgetést. Az egyik dolog, amellyel az OpenAI megpróbált foglalkozni a GPT-5 kiadása az AI igen-ember biztonsági hátránya volt, bár végül így készült a GPT-4o újra elérhető miután az ügyfelek az új modell személyiségének hiányára panaszkodtak. A cég is elindult szülői felügyelet a ChatGPT-nek, hogy megpróbálja mérsékelni az AI-t használó gyermekek negatív hatásait, bár nehéz megmondani, mekkora változást értek el.
Nevezetesen, az OpenAI érdekelt abban, hogy magába a játéküzletbe szálljon be. A cég partnerséget hirdetett 2025 júniusában a Mattellel, hogy segítsen „újragondolni, hogyan élhetik át a rajongók a (Mattel) nagyra becsült márkáit, és hogyan léphetnek kapcsolatba velük”, bár feltehetően mindkét vállalat megpróbálja megakadályozni, hogy mesterséges intelligencia-játékai a szexuális zavarokról beszéljenek.
