A Roblox egy népszerű online játékplatform a gyermekek számára. De ez egy olyan hely is, ahol az emberek, akik kiaknázni akarják a gyermekeket, tudják, hogy megtalálnak közönséget. Csütörtökön a Roblox bejelentette a Roblox Sentinel -t, egy mesterséges intelligencia rendszert, amelyet úgy terveztek, hogy a csevegési funkciójában nem megfelelő üzeneteket jelöljön. A Roblox már tiltja a valós képek és személyes információk megosztását, például a telefonszámokat és a felhasználóneveket. A társaság reméli, hogy Sentinel hamarabb több üzenetet fog megjelölni a vizsgálat céljából. 2024 vége óta fut a platformon, de csak ezen a héten jelentették be.
A Roblox képviselője nem válaszolt azonnal a megjegyzéskérelemre.
Hogyan működik a Roblox Sentinel
A Roblox létrehozta a Roblox Sentinel -t, egy AI rendszert, amely segíti a gyermekek veszélyeztetésének jeleit. Miután a Roblox tisztában van a problémákkal, a képviselők kivizsgálhatják és jelentést tesznek a bűnüldözésnek.
Egy lio/cnet
A Sentinel valós időben elemzést végez minden nap több mint hat milliárd csevegési üzenetben. Folyamatosan egy perces pillanatképeket igényel, és ezeket az üzeneteket az AI automatikusan elemzi, hogy azonosítsa a gyermekek számára káros üzeneteket. Ezeket az üzeneteket az idő múlásával is összeállítják, hogy megmutassák a tovább vizsgálható és bejelenthető mintákat.
A Sentinel zászlói üzenetek képzése alapján. Képzették arra, hogy megtanulják a biztonságos üzenetek és a korábban beszámoltak közötti különbséget, mert megsértették a Roblox gyermekkori politikáját.
A Roblox Sentinel elérhető nyílt forráskódú
A Roblox szerint eddig 2025 -ben Sentinel segített észlelni a lehetséges gyermekek kizsákmányolásáról szóló 1200 jelentést, amelyeket az eltűnt és kizsákmányolt gyermekek nemzeti központjának jelentettek. A Roblox azt reméli, hogy a Roblox Sentinelt nyílt forráskódon keresztül elérhetővé teszi más vállalatok számára, hogy integrálódjanak a rendszerükbe. A kód most elérhető a Roblox webhelyén.
Ez nem a Roblox első kísérlete az AI használatára a tartalom nyomon követésére és az online biztonság javítására. Július elején megosztotta, hogyan használja az AI-t a 25 nyelven való valós időben történő mérsékelt tartalomhoz. És az életkor ellenőrzése már elérhető a tizenévesek számára, akik csevegni akarnak.
