A Meta végül megsemmisíti a “Nudify” alkalmazásokat, amelyek az AI -t használják a nem konszenzusos meztelen és kifejezett képek előállításához a hírességek, befolyásolók és mások. A vállalat beperel egy alkalmazáskészítőt, amelyet gyakran hirdetnek az ilyen alkalmazásokat a Facebookon és az Instagram -on, és új lépéseket tesznek a hasonló szolgáltatások hirdetéseinek megelőzése érdekében.
A fellépés hónappal azután érkezik, hogy több kutató és újságíró felvetette az ilyen alkalmazások riasztását. A CBS News legfrissebb jelentése legalább „száz” hirdetéseket azonosított a Meta platformon, amely elősegíti az alkalmazásokat, amelyek lehetővé teszik a felhasználók számára, hogy “eltávolítsák a ruhákat” a hírességek és mások képeiből. Különösen az egyik alkalmazás, a Crush AI néven, nyilvánvalóan termékeny hirdető volt a Facebookon és az Instagram -on. Alexios Mantzarlis kutató, a Cornell Tech Biztonsági, Trust- és Biztonsági Kezdeményezésének igazgatója januárban számolt be arról, hogy a Crush AI több mint 8000 hirdetést futtatott a Facebook -on és az Instagram -on tavaly ősszel.
Most, a Meta azt állítja, hogy pert indított a Joy Timeline HK Limited, a hongkongi székhelyű társaság ellen a Crush AI és más Nudify alkalmazások mögött. “Ez a Joy Timeline HK Limited több kísérletét követi a Meta hirdetési felülvizsgálati folyamatának megkerülésére és a hirdetések elhelyezésére, miután ismételten eltávolították a szabályok megsértése érdekében” – írta a cég egy blogbejegyzésben. A Joy Timeline HK Limited nem válaszolt azonnal a megjegyzéskérelemre.
A Meta azt is mondja, hogy új lépéseket tesz annak megakadályozására, hogy az ilyen alkalmazások hirdetjenek a platformon. “Új technológiát fejlesztettünk ki, amelyet kifejezetten az ilyen típusú hirdetések azonosítására terveztek – még akkor is, ha maguk a hirdetések nem tartalmazzák a meztelenséget -, és a megfelelő technológiát használják, hogy segítsünk a Copycat hirdetések gyorsabb megtalálásában és eltávolításában” – írta a Meta. “Együtt dolgoztunk a külső szakértőkkel és a saját speciális csapatainkkal, hogy kibővítsük a biztonsággal kapcsolatos kifejezések, kifejezések és hangulatjelek listáját, amelyeket rendszereink kiképzésére képeznek ezen hirdetésekben.” A közösségi hálózat szerint más technológiai platformokkal, köztük az App Store -tulajdonosokkal is tervezi együttműködni, hogy megosszák a releváns részleteket az entitásokról, amelyek visszaélnek a platformjával.
A Nudify alkalmazások nem az egyetlen olyan entitás, amely kihasználta a Meta hirdetési platformját, hogy hirdetéseket futtasson, amelyek hírességek mélyfajtait tartalmazzák. A Meta is küzdött az árnyékos hirdetők tárolására is, amelyek a közszereplők Ai-manipulált videóját használják a csalások előmozdításához. A vállalat független felügyeleti testülete, amely a Facebook és az Instagram-ot érintő tartalom moderálási problémáit mérlegeli, nemrégiben kritizálta a META-t azért, hogy szabályai alulteljesítik az ilyen hirdetéseket.
