Amióta az év elején beszámoltam arról, milyen könnyű ez becsapni egy ügynökböngészőtKövetem a modern AI és az old-school csalások metszéspontját. Most egy új konvergencia van a láthatáron: a hackerek nyilvánvalóan mesterséges intelligencia-parancsokat használnak, hogy veszélyes parancsokkal látják el a Google keresési eredményeit. Ha ismeretlen felhasználók hajtják végre, ezek a parancsok arra kérik a számítógépeket, hogy biztosítsák a hackerek számára a rosszindulatú programok telepítéséhez szükséges hozzáférést.
A figyelmeztetés úgy érkezik egy friss jelentés a Huntress észlelési és válaszadási cégtől. Íme, hogyan működik. Először a fenyegetés szereplője beszélget egy mesterséges intelligencia asszisztenssel egy gyakori keresési kifejezésről, amely során arra kéri az MI-t, hogy javasoljon egy bizonyos parancs beillesztését a számítógép termináljába. Nyilvánosan láthatóvá teszik a csevegést, és fizetnek azért, hogy növeljék a Google-on. Ettől kezdve, amikor valaki a kifejezésre keres, a rosszindulatú utasítások a találatok első oldalán magasan jelennek meg.
Huntress teszteket futtatott a ChatGPT-n és a Grokon is, miután felfedezte, hogy az AMOS nevű, Mac-et célzó adatszivárgási támadás egy egyszerű Google-keresésből származik. A fertőzött eszköz felhasználója a „lemezterület felszabadítása Mac rendszeren” kifejezésre keresett, rákattintott egy szponzorált ChatGPT hivatkozásra, és – mivel nem volt elég képzett ahhoz, hogy lássa, hogy a tanács ellenséges – végrehajtotta a parancsot. Ez lehetővé teszi a támadók számára, hogy telepítsék az AMOS kártevőt. A tesztelők felfedezték, hogy mindkét chatbot megismételte a támadási vektort.
Amint Huntress rámutat, ennek a támadásnak a gonosz zsenije, hogy megkerüli szinte az összes hagyományos vörös zászlót, amelyet megtanítottak keresni. Az áldozatnak nem kell letöltenie egy fájlt, telepítenie egy gyanús végrehajtható fájlt, és még csak egy árnyékos hivatkozásra sem kell kattintania. Az egyetlen dolog, amiben bízniuk kell, az a Google és a ChatGPT, amelyeket vagy korábban használtak, vagy folyamatosan hallottak róluk az elmúlt néhány évben. Felkészültek arra, hogy bízzanak abban, amit ezek a források mondanak nekik. Még rosszabb, hogy bár a ChatGPT beszélgetés linkjét azóta eltávolították a Google-ról, legalább fél napig fent volt, miután Huntress közzétette a blogbejegyzését.
Ez a hír olyan időben érkezik, amely már mindkét mesterséges intelligencia számára tele van. Grok már egy ideje elragadtatja magát aljas módon szívja meg Elon Muskotmíg a ChatGPT létrehozója, az OpenAI lemaradva a versenytársakról. Egyelőre nem világos, hogy a támadás megismételhető-e más chatbotokkal, de egyelőre határozottan javaslom az óvatosságot. A másik mellett józan ész kiberbiztonsági lépéseiügyeljen arra, hogy soha ne illesszen be semmit a parancstermináljába vagy a böngésző URL-sávjába, ha nem biztos abban, hogy mit fog tenni.
