Hamarosan még könnyebben integrálhatja az antropikus chatbotot az online életébe. Claude a krómértEgy új kiterjesztés, amely az AI modellt közvetlenül a webböngészőbe implantálja, lehetővé teszi a felhasználók számára, hogy elemezzék és összefoglalják a képernyőn megjelenő weboldalakat – mondta a cég kedden sajtóközleményben.
A kiterjesztés, amelyet jelenleg 1000 előfizetővel kísérnek a Max Plan -en, amely havonta 200 dollárba kerül, mind elemzési, mind ügynöki képességekkel rendelkezik. Nem csak összefoglalja az e -maileket, és elemzi az online vásárlás termékeit, hanem az Ön nevében is felléphet. Ez magában foglalja a naptárak kezelésének segítését, az ütemtervek ütemezését vagy az új weboldal funkcióinak tesztelését.
Ennek oka az antropikus, a Claude alkotója óvatos a szélesebb kiadás: a biztonság szempontjából.
Olyan erőteljes, mint az AI rendszerek, nem sebezhetőség nélkül. Bátor, egy másik böngésző AI képességekkel, Jelentést tett közzé A múlt héten ez a Pousbity Comet AI webböngészője hajlamos volt az azonnali injekciós támadásokra. (A zavarosság azóta javította a kérdést.) Az antropikus elismeri ugyanazt a kockázatot.
Gyors befecskendezés egy olyan módszer, amellyel valaki megpróbál egy AI -t csinálni olyan dolgokat, amelyeket nem programoztak. Az okos nyelv használatával a rossz színész megkerülheti a biztosítékokat, és az AI véletlenül átadhatja a bejelentkezési hitelesítő adatokat vagy más érzékeny információkat. A rosszindulatú utasításokat láthatatlan szövegként lehet elrejteni a webhelyeken, tehát amikor az AI elemzi a weboldal tartalmát, akkor be tudta venni és aktiválni ezt az útmutatást anélkül, hogy tudta volna.
Az antropikus tesztelés során azt találta, hogy Claude a Chrome számára, biztonsági enyhítés nélkül, az idő 23,6% -át követi a rosszindulatú utasításokat. Ennek leküzdése érdekében az antropikus hozzáadott webhely-szintű engedélyek, hogy a felhasználók visszavonják a hozzáférést az egyes webhelyekhez a beállításokban.
Sőt, a Claude a Chrome-nak megkérdezi a felhasználókat, mielőtt nagy kockázatú tevékenységeket hajt végre, például vásárol valamit vagy megosztja a személyes adatot. Óvintézkedésként az Antropikus azt állítja, hogy blokkolja Claude-t a magas kockázatú kategóriák, például a pénzügyi szolgáltatások, a felnőtt tartalom és a kalóz tartalom kidolgozásában. Ezek a biztonsági enyhítések a támadás sikerességi arányát 23,6% -ról 11,2% -ra csökkentették.
„Megkezdtük a fejlett osztályozók felépítését és tesztelését a gyanús utasítások és a szokatlan adat -hozzáférési kérelmek észlelése érdekében -még akkor is, amikor látszólag legitim kontextusban merülnek fel” -mondta az Antropic blogbejegyzésében.
Az antropikus a blogbejegyzésére utalt, amikor megjegyzést kértek.
A Claude for Chrome az AI verseny más játékosai, amelyek elkezdenek építeni eszközöket, hogy az AI -t a böngészőkbe hozzák. Az AI keresőmotor-zavarás kiadta saját króm-alapú AI webes böngészőjét, Üstökös, A felhasználók kiválasztása az év elején. A Google is bejelentette Ikrek krómban Ez év elején elérhető a Google AI Pro és az Ultra előfizetők számára. A Microsoft Edge beépítve van a Copilot, csakúgy, mint a Leo -val és az Opera -val az ARIA -val.
Mivel az AI vállalatok versenyeznek hasonló termékekkel, a felhasználók végül megtalálják az AI -t, amelyet a legjobban szeretnek, és ragaszkodnak hozzá. Azáltal, hogy beágyazza kedvenc chatbotját az internetes böngészésbe, az a konkrét AI jobban integrálódik a napi tevékenységbe, valószínűleg megterhelővé teszi a váltást. Az AI a böngészőhasználat révén sok adatot is felvehet rólad Jobban tájékoztassa a hirdetésekkel való célzás módját–
