Ken Paxton texasi ügyvédje van bejelentette a kivizsgálás tervét Mind a Meta AI stúdió, mind a karakter.ai ai chatbotok kínálatáért, amelyek állítólag egészségügyi eszközök lehetnek, és potenciálisan visszaélnek a kiskorúak felhasználóitól összegyűjtött adatokkal.
Paxton azt mondja, hogy az AI bármelyik platformon található chatbotok „professzionális terápiás eszközként” mutathatnak be magukat, hogy a képesítéseikkel hazudjanak. Ez a viselkedés, amely a fiatalabb felhasználókat kiszolgáltatottnak bizonyíthatja a félrevezető és pontatlan információkkal szemben. Mivel az AI platformok gyakran a felhasználói utasításokra támaszkodnak, mint egy másik képzési adatok forrása, bármelyik vállalat megsértheti a fiatal felhasználó magánéletét és az adatok visszaélését. Ez különösen érdekes Texasban, ahol a Hatókör Különleges korlátokat helyez el arra vonatkozóan, hogy a vállalatok mit tudnak tenni a kiskorúakból összegyűjtött adatokkal, és megköveteli a platform ajánlati eszközeit, hogy a szülők kezelhessék gyermekeik számláinak adatvédelmi beállításait.
Jelenleg a főügyész polgári nyomozási követelményeket (CIDS) nyújtott be mind a Meta, mind a karakter.ai számára, hogy megtudja, hogy bármelyik társaság megsérti -e a texasi fogyasztóvédelmi törvényeket. Ahogyan a TechCrunch megjegyziSem a Meta, sem a karakter.AI nem állítja, hogy az AI chatbot platformokat mentálhigiénés eszközként kell használni. Ez nem akadályozza meg, hogy többszörös „terapeuta” és „pszichológus” chatbotok legyenek a caracter.ai oldalon. Azt sem akadályozza meg, hogy a társaságok chatbotjait sem állítják, hogy engedéllyel rendelkező szakemberek, mint 404 média jelentette Áprilisban.
„A weboldalunkon készített felhasználók által létrehozott karakterek kitaláltak, szórakoztatásra szánták őket, és robusztus lépéseket tettünk, hogy ezt világossá tegyük”-mondta egy karakter.ai szóvivő, amikor arra kérték, hogy kommentálják a texasi vizsgálatot. „Például minden csevegésben kiemelkedő nyilatkozatunk van, hogy emlékeztesse a felhasználókat, hogy egy karakter nem valódi ember, és hogy minden, amit egy karakter mond, fikciónak kell tekinteni.”
A Meta hasonló érzetet osztott meg a megjegyzésében. „Világosan címkézzük az AIS -t, és hogy segítsünk az embereknek jobban megérteni korlátaikat, beillesztjük azt a nyilatkozatot, hogy a válaszokat az AI generálja – nem az emberek” – mondta a cég. A Meta AI -knek azt is állítják, hogy „a felhasználókat arra irányítják, hogy adott esetben minősített orvosi vagy biztonsági szakembereket keressenek”. Jó az emberek valódi erőforrásokhoz való elküldése, de végül maguk a nyilatkozatokat könnyű figyelmen kívül hagyni, és nem cselekszenek annyira akadályt.
A magánélet és az adatok felhasználása szempontjából mindkettő Meta adatvédelmi irányelve És a CARACTY.AI adatvédelmi irányelve Tudomásul veszi, hogy az adatokat a felhasználók AI -vel való interakciójából gyűjtik. A Meta összegyűjti az AI teljesítményének javítására szolgáló utasításokat és visszajelzéseket. A CARACTY.AI olyan dolgokat naplóz, mint az azonosítók és a demográfiai információk, és azt mondja, hogy az információk felhasználhatók a reklámhoz, többek között az alkalmazások között. Az, hogy a politika hogyan vonatkozik a gyermekekre, és illeszkedik a texasi hatókörről, úgy tűnik, hogy attól függ, hogy mennyire könnyű beszámolót készíteni.
