A külföldi propagandisták továbbra is használják a CHATGPT -t a befolyási kampányokban
A kínai propaganda és a szociális mérnöki műveletek a CHATGPT -t használják hozzászólások, megjegyzések létrehozására és az elkötelezettség előmozdítására otthon és külföldön. Az Openai elmondta, hogy a közelmúltban megszakította a négy kínai rejtett befolyásolási műveletet, amelyek eszközét a közösségi média hozzászólásainak és válaszának generálására használják, olyan platformokon, mint a Tiktok, a Facebook, a Reddit és az X.
A hozzászólások az amerikai politikától több téma körül forogtak egy tajvani videojátékig, ahol a játékosok harcolnak a kínai kommunista párt ellen. A CHATGPT -t arra használták, hogy olyan közösségi média hozzászólásokat hozzanak létre, amelyek mind támogatták, mind elítélték a különböző forró gombokkal kapcsolatos kérdéseket, hogy felgyorsítsák a félrevezető politikai diskurzust.
Ben Nimmo, az Openai fő nyomozója azt mondta az NPR -nek: “Amit Kínából látunk, az egyre növekvő taktikát használó rejtett műveletek széles skálája.” Míg az Openai azt állította, hogy ez egy maroknyi műveletet is megszakított, amelyről úgy véli, hogy Oroszországból, Iránból és Észak -Koreából származik, Nimmo a kínai műveletekről kidolgozta, mondván, hogy “sok különböző országot és témát céloztak meg (…), amelyek közül néhány a befolyásolási műveletek, a szociális mérnöki munka és a megfigyelés elemeit.”
Ez messze nem az első alkalom, amikor ez történt. 2023-ban a Mandiant kiberbiztonsági cég kutatói megállapították, hogy az AI által generált tartalmat 2019 óta számos esetben alkalmazták a politikai indíttatású online befolyási kampányokban.
2024-ben az OpenAi blogbejegyzést tett közzé, amelyben felvázolta erőfeszítéseit öt állami kapcsolt művelet megzavarására Kínában, Iránban és Észak-Koreában, amelyek Openai modelleket használtak a rosszindulatú szándékhoz. Ezek az alkalmazások magukban foglalják a hibakeresési kódot, a szkriptek generálását és a tartalom létrehozását az adathalász kampányokhoz való felhasználáshoz.
Ugyanebben az évben az Openai azt mondta, hogy megszakítja az iráni műveletet, amely a CHATGPT -t használja hosszú formájú politikai cikkek készítésére az amerikai választásokról, amelyeket akkoriban a hamis hírportálásokon tettek közzé, amelyek mind konzervatív, mind progresszív üzletekként szerepelnek. A művelet megjegyzéseket fűzött az X -en és az Instagram -on hamis számlákon keresztül történő közzétételhez is, ismét az ellenkező szempontok mellett.
“Általában nem láttuk, hogy ezeket a műveleteket az AI használata miatt nagyobb elkötelezettséggel kapjuk meg” – mondta Nimmo az NPR -nek. “Ezeknek a műveleteknek a jobb eszközök nem feltétlenül jelentik a jobb eredményeket.”
Ez kevés kényelmet kínál. Mivel a generációs AI olcsóbbá és okosabbá válik, indokolt, hogy képessége a tartalom tömeges előállítására az ilyen könnyebben és megfizethetőbbé teszi az ilyen kampányokat, még akkor is, ha hatékonyságuk változatlan marad.
