A Character.AI többé nem engedi meg a tinédzserek számára, hogy interakcióba lépjenek chatbotjaival, mivel az AI-cégekre egyre nagyobb nyomás nehezedik, hogy jobban megvédjék a fiatalabb felhasználókat a károktól. Az a nyilatkozatA cég megerősítette, hogy megszünteti a 18 éven aluli felhasználók számára a nyílt végű csevegés lehetőségét az AI-val a platformján, ami a felhasználó és a chatbot közötti oda-vissza beszélgetésekre utal.
A változások november 25-én lépnek életbe, és addig a dátumig a Character.AI új, 18 éven aluli felhasználói élményt kínál. Arra fogja ösztönözni felhasználóit, hogy csevegőbotokat használjanak kreatív célokra, amelyek magukban foglalhatják például videók vagy streamek készítését, nem pedig társak keresését. Az átállás lebonyolítása érdekében a 18 éven aluliak már csak napi két órán keresztül kommunikálhatnak a robotokkal, a cég szerint ezt az időtartamot lerövidítik a november végi határidőig.
A Character.AI egy új, saját fejlesztésű életkor-ellenőrző eszközt is bemutat, amely szerinte „biztosítja, hogy a felhasználók életkoruknak megfelelő élményt kapjanak”. A fiatalabb felhasználóknak szánt új védelem mellett a vállalat létrehozta az „AI Safety Lab”-ot, amely reményei szerint lehetővé teszi majd más vállalatoknak, kutatóknak és akadémikusoknak, hogy megosszák egymással tapasztalataikat, és együttműködjenek az AI biztonsági intézkedéseinek javításán.
A Character.AI azt mondta, hogy meghallgatta a szabályozó hatóságok, az iparági szakértők és az érintett szülők aggályait, és reagált az új intézkedésekre. Ezek a Szövetségi Kereskedelmi Bizottság (FTC) után jöttek a közelmúltban elindított hivatalos vizsgálat az olyan AI-cégeknél, amelyek hozzáférést biztosítanak a felhasználóknak chatbotok társként, a Character.AI egyike volt annak a hét vállalatnak, amelyet felkérték a részvételre. Meta, OpenAI és Snap is bekerült.
A Meta AI és a Character AI is szembekerült alapos vizsgálat Ken Paxton texasi főügyésztől nyáron, aki szerint a chatbotok mindkét platformon „professzionális terápiás eszközként mutatkozhatnak be” a szükséges képesítések nélkül. Karandeep Anand, a Character.AI vezérigazgatója, úgy tűnik, hogy véget vessen az ilyen vitáknak. TechCrunch hogy a vállalat új stratégiai irányvonala azt fogja mutatni, hogy a mesterséges intelligencia-társból egy „szerepjáték-platform” lesz, amely a puszta elköteleződés-gazdálkodási beszélgetés helyett az alkotásra összpontosít.
Az AI chatbotokra támaszkodó fiatalok útmutatást nyújtó fiataljainak veszélyeit széles körben tárgyalták jelentéstétel az elmúlt hónapokban. A múlt héten Adam Raine családja, aki követelés hogy a ChatGPT lehetővé tette 16 éves fiuk életének öngyilkosságát, benyújtott egy módosított pert az OpenAI ellen, amiért állítólag gyengítette önsérülési biztosítékait a halála előtt.
