A Character.AI azt tervezi, hogy a jövő hónaptól megtiltja a gyerekeknek, hogy beszéljenek mesterséges intelligencia-csevegőbotjaival, miközben egyre jobban megvizsgálják, hogyan kommunikálnak a fiatal felhasználók a technológiával.
A mesterséges intelligencia-karakterek széles skálájáról ismert cég november 25-ig megszünteti a 18 év alatti felhasználók számára a „nyílt végű” beszélgetések lehetőségét az MI-vel. A tervek szerint a következő hetekben megkezdi a hozzáférés csökkentését, kezdetben napi két óra csevegésre korlátozva a gyerekeket.
A Character.AI megjegyezte, hogy egy „18 éven aluli élmény” kidolgozását tervezi, amelyben a tizenévesek videókat, történeteket és streameket készíthetnek AI-karaktereivel.
„A 18 éven aluliak platformjain ezeket a változtatásokat a mesterséges intelligencia és a tinédzserek körül kialakult helyzet fényében hajtjuk végre” – mondta a cég egy blogbejegyzésében, hangsúlyozva a közelmúltban megjelent híreket és a szabályozó hatóságok kérdéseit.
A cég és más chatbot-fejlesztők a közelmúltban több, a technológiához köthető tinédzser öngyilkosságot követően vizsgálat alá kerültek. A 14 éves Sewell Setzer III édesanyja tavaly novemberben beperelte a Character.AI-t, azzal vádolva a chatbotot, hogy öngyilkosságba kergette fiát.
Az OpenAI-val szemben a 16 éves Adam Raine szülei is pert indítanak, aki a ChatGPT-vel való kapcsolata után öngyilkos lett. Mindkét család a múlt hónapban a szenátusi testület előtt tanúskodott, és arra szólította fel a törvényhozókat, hogy helyezzenek védőkorlátokat a chatbotokra.
A Szövetségi Kereskedelmi Bizottság (FTC) szintén vizsgálatot indított szeptemberben az AI chatbotokkal kapcsolatban, és információkat kért a Character.AI-tól, az OpenAI-tól és több más vezető technológiai cégtől.
„Miután kiértékeltük ezeket a jelentéseket és a szabályozó hatóságoktól, biztonsági szakértőktől és szülőktől kapott visszajelzéseket, úgy döntöttünk, hogy végrehajtjuk ezt a változtatást, hogy új élményt teremtsünk 18 éven aluli közösségünk számára” – közölte szerdán a Character.AI.
„Ezek rendkívüli lépések cégünk számára, és olyanok, amelyek sok tekintetben konzervatívabbak társainknál” – tette hozzá. – De úgy gondoljuk, hogy ők a helyesek.
Amellett, hogy korlátozza a gyerekek chatbotjaihoz való hozzáférését, a Character.AI azt is tervezi, hogy bevezeti az új korszak biztosítási technológiáját, és új non-profit szervezetet hoz létre és finanszíroz, AI Safety Lab néven.
A chatbotokkal kapcsolatos növekvő aggodalmak közepette szenátorok egy kétpárti csoportja kedden olyan jogszabályt vezetett be, amely megtiltja a mesterséges intelligencia kísérőit a gyermekek számára.
Josh Hawley (R-Mo.), Richard Blumenthal (D-Conn.), Katie Britt (R-Ala), Mark Warner (D-Va.) és Chris Murphy (D-Conn.) törvényjavaslata azt is megkövetelné, hogy az AI chatbotok ismételten közöljék, hogy nem emberek, amellett, hogy bűncselekménynek minősül a gyermekeknek szóló szexuális tartalom fejlesztése.
Kalifornia kormányzója, Gavin Newsom (D) a múlt hónap végén írt alá egy hasonló intézkedést, amely arra kötelezi a Golden State-beli chatbot-fejlesztőket, hogy olyan protokollokat hozzanak létre, amelyek megakadályozzák, hogy modelljeik öngyilkosságról vagy önsértésről szóló tartalmat állítsanak elő, és szükség esetén krízisszolgálatokhoz irányítsák a felhasználókat.
Elutasította egy olyan szigorúbb intézkedés jóváhagyását, amely megtiltotta volna a fejlesztőknek, hogy chatbotokat tegyenek elérhetővé a gyermekek számára, hacsak nem tudják biztosítani, hogy ne keveredjenek káros megbeszélésekbe a gyerekekkel.
