ÜstökösA zavarás új AI-hajtású webes böngészője, amelyet a közelmúltban jelentős biztonsági rés szenvedett, a közelmúltban blogbejegyzés a múlt héten A Brave -től, egy versengő böngésző társaságtól. A sebezhetőséget azóta rögzítették, de rámutat arra a kihívásokra, amelyek szerint a nagy nyelvi modelleket beépítik a böngészőkbe.
A hagyományos böngészőkkel ellentétben az üstökös beépített AI asszisztenssel rendelkezik. Ez az asszisztens beolvashatja a vizsgált oldalt, összefoglalhatja annak tartalmát vagy elvégzi az Ön számára feladatokat. A probléma az, hogy az üstökös AI asszisztense ugyanazon a technológiára épül, mint más AI chatbotok, mint például a CHATGPT.
Az AI chatbotok nem tudnak ugyanúgy gondolkodni és indokolni, hogy az emberek képesek, és ha elolvasnak egy olyan tartalmat, amelynek célja a kimenet manipulálása, akkor ez véget vethet. Ezt az néven ismerték gyors tervezés–
(Nyilvánosság: Ziff Davis, a CNET anyavállalata áprilisban pert indított az Openai ellen, állítva, hogy megsértette a ZIFF Davis szerzői jogait az AI rendszerek képzésében és üzemeltetésében.)
A Brave képviselője nem válaszolt azonnal a megjegyzéskérelemre.
Az AI vállalatok megpróbálják enyhíteni az AI chatbotok manipulálását, de ez trükkös lehet, mivel a rossz színészek mindig a védelem áttörésének új módjait vizsgálják.
„Ez a sebezhetőség rögzítve van” – mondta Jesse Dwyer, a Puszexity kommunikációs vezetője nyilatkozatában. „Van egy nagyon robusztus fejlécünk, és közvetlenül a Brave -vel dolgoztunk annak azonosításában és javításában.”
A teszt használt rejtett szöveget használt a reddit -en
A tesztelés során a Brave beállított egy Reddit oldalt láthatatlan szöveggel a képernyőn, és felkérte a Comet-t, hogy foglalja össze a képernyőn megjelenő tartalmat. Amint az AI feldolgozta az oldal tartalmát, nem tudta megkülönböztetni a rosszindulatú utasításokat, és elkezdett etetni a Brave tesztelők érzékeny információkat.
Ebben az esetben a Rejtett szöveg lehetővé tette az Comet AI asszisztense számára, hogy navigáljon a felhasználó zavarási fiókjába, kibontsa a hozzá tartozó e -mail címet, és navigáljon egy Gmail -fiókhoz. Az AI ügynök lényegében tényleges felhasználóként működött, azaz a hagyományos biztonsági módszerek nem működtek.
Brave figyelmezteti, hogy az ilyen típusú gyors befecskendezés tovább haladhat, bankszámlákhoz, vállalati rendszerekhez, privát e -mailekhez és egyéb szolgáltatásokhoz.
A Brave vezető mobil biztonsági mérnöke, Artem Chaikin, valamint a magánélet és a biztonság alelnöke, Shivan Kaul Sahib feltette a lehetséges javítások listáját. Először: az AI böngészőknek mindig az oldal tartalmát megbízhatatlannak kell kezelniük. Az AI modelleknek ellenőrizniük kell, hogy ellenőrizzék -e a felhasználói szándékot. A modellnek mindig ellenőriznie kell a felhasználót, hogy biztosítsa az interakciókat, hogy az interakciók helyesek legyenek, és az ügynöki böngészési módnak csak akkor kell bekapcsolnia, amikor a felhasználó azt akarja.
A Brave blogbejegyzése az első egy sorozatban az AI böngészőkkel szembeni kihívásokkal kapcsolatban. Brave -nak AI asszisztense is van, OroszlánBeágyazva a böngészőjébe.
Az AI egyre inkább beágyazódik a technológia minden részébe, a Google keresések -hoz fogkefék– Noha az AI asszisztens használata praktikus, ezeknek az új technológiáknak eltérő biztonsági rések vannak.
A múltban a hackereknek szakértői kódolóknak kellett lenniük a rendszerekbe való betöréshez. Az AI-vel való foglalkozáskor azonban a mókus természetes nyelvet használhatjuk a beépített védelem elõtt történő felhasználásához.
Továbbá, mivel sok vállalat támaszkodik a fő AI modellekre, például az Openai, a Google és a META programjaira, az ezen rendszerek bármely sebezhetősége kiterjedhet az ugyanazon modelleket használó vállalatokra. Az AI -társaságok nem voltak nyitottak az ilyen típusú biztonsági résekkel kapcsolatban, mivel ezáltal a hackereket le lehet dobni, és új utakat adhat nekik a kiaknázáshoz.
