Sokat hallottunk ebben az évben az AI új csalások engedélyezéséről, a Celebrity Deepfakes a Facebookon -hoz Hackerek a kormánytisztviselőket megszemélyesítik– Egy új jelentés azonban azt sugallja, hogy az AI a másik irányból is csalási kockázatot jelent – könnyen esik a csalások miatt, amelyeket az emberi felhasználók sokkal nagyobb valószínűséggel fognak el.
A jelentés, “Scamlexity” címet viselő A Guardio nevű kiberbiztonsági indításból származik, amely böngészőhosszabbítást készít, amelynek célja a csalások valós időben történő elkapása. Megállapításai az úgynevezett “Agentic AI” böngészőkkel foglalkoznak, mint például Opera neonamelyek böngészik az internetet az Ön számára, és visszatérnek az eredményekkel. Az Agentic AI azt állítja, hogy képes összetett feladatokon dolgozni, például weboldal felépítését vagy utazás megtervezését, miközben a felhasználók visszarúgnak.
Van egy hatalmas probléma itt biztonsági szempontból: bár az emberek nem mindig nagy a csalások a valóságból való rendezésében, az AI még rosszabb. A látszólag egyszerű feladat, például az e -mailek összefoglalása vagy az online vásárlás, számtalan lehetőséggel jár a csúszáshoz. A józan ész hiánya miatt az agentikus AI hajlamos lehet a nyilvánvaló csapdákba való bombázásra.
A Guardio kutatói ezt a hipotézist tesztelték A PLOGEXITY COMET AI böngészőjeJelenleg az egyetlen széles körben elérhető ügynöki böngésző. Egy másik AI segítségével egy hamis weboldalt forgattak, mintha Walmart lenne, majd navigáltak rá, és azt mondták a Comet -nek, hogy vásároljon nekik egy Apple Watch -ot. Ha figyelmen kívül hagyta több nyomot, miszerint a webhely nem volt legitim, beleértve egy nyilvánvalóan csiszoló logót és URL -t, az üstökös befejezte a vásárlást, és átadta a pénzügyi részleteket a folyamat során.
Egy másik tesztben a tanulmányi szerzői e -mailt küldtek maguknak, akik úgy tették, hogy a Wells Fargo -ból származnak, amely valódi adathalász URL -t tartalmaz. Az üstökös megnyitotta a linket, anélkül, hogy riasztást emelne, és egy bank felhasználónevét és jelszavát dobta be az adathalász webhelyre. Egy harmadik teszt üstökösnek bizonyult egy gyors befecskendezési átfedésre, amelyben egy adathalász oldalon elrejtett szövegdoboz megrendelte az AI -t egy fájl letöltésére.
Ez csak egy tesztkészlet, de a következmények józanulnak. Nemcsak az ügynöki AI böngészők hajlamosak az új típusú csalásokra, hanem egyedülállóan kiszolgáltatottak a könyv legrégebbi csalásaival szemben. Az AI -t úgy építették fel, hogy bármit megtehessen, amit a prompter akar, tehát ha egy emberi felhasználó nem veszi észre a csalás jeleit, amikor először néznek ki, az AI nem fog védőkorlátként szolgálni.
Ez a figyelmeztetés az, hogy a terep minden vezetője nagy az Agentic AI -re. A Microsoft az Copilot hozzáadása az Edge -hezOpenai Januárban debütált az operátor eszközéreÉs a Google’s Tengerészgyalogos tavaly óta dolgozik a munkákban. Ha a fejlesztők nem kezdenek jobb csalások felismerését a böngészőikbe építeni, akkor az ügynöki AI kockázatok a legjobb esetben hatalmas vak helyré válnak – és a legrosszabb esetben új támadási vektor.
