A WIRED beszámolt az új kiberbiztonsági kutatásokról, amelyek bebizonyították a Google Gemini mesterséges intelligencia asszisztensét. A kutatók a csatlakoztatott intelligens otthoni eszközöket képesek voltak irányítani a Google Naptár meghívók közvetett gyors injekcióinak felhasználásával. Amikor egy felhasználó kérte a naptáruk összefoglalását, és megköszönte az Ikrek eredményeit, a rosszindulatú utasítás elrendelte a Google otthoni AI ügynökének, hogy tegyenek olyan tevékenységeket, mint például a Windows vagy a Lights kikapcsolása, amint azt a fenti videó mutatja.
Mielőtt a támadásokat ezen a héten bemutatták a Black Hat kiberbiztonsági konferencián, a csapat februárban közvetlenül megosztotta eredményeit a Google -val. Andy Wen, a Google Workspace biztonsági termékmenedzsment vezető igazgatója beszélt a Wired -rel a megállapításaikról.
“Ez egy ideig velünk lesz, de reméljük, hogy eljuthatunk olyan pontra, ahol a mindennapi felhasználó nem igazán aggódik amiatt,” mondta az azonnali injekciós támadásokról, és hozzátette, hogy a valós világban szereplő hackerek példái “rendkívül ritkák”. A nagy nyelvi modellek növekvő bonyolultsága azonban azt jelenti, hogy a rossz színészek új módszereket kereshetnek azok kiaknázására, megnehezítve a megközelítést. Wen szerint a Google a kutatók által fedezett sebezhetőségeket “rendkívül komolyan” fedezte fel, és az eredményeket arra használta, hogy felgyorsítsa a jobb eszközök felépítését az ilyen típusú támadások blokkolására.
