ChatGPT atlasz egy AI-alapú webböngésző, amely utazásokat foglalhat, élelmiszert rendelhet vagy kutatást végezhet, mindezt az Ön nevében. Az OpenAI szerint ez olyan, mintha egy személyes ügynököt építenének be a webböngészőbe. Ez az, ami miatt a biztonsági szakértők aggódnak.
Bármennyire is figyelemre méltóak az AI-rendszerek, egyben tökéletlenek is. Tól hallucinációk hogy talpnyalásA mesterséges intelligencia gyakran elronthatja a dolgokat. A webböngésző kulcsainak átadása az MI-nek számos egyéb lehetséges problémát vet fel, beleértve az azonnali injekciós támadásokat, a vágólapra irányuló támadásokat és azt, hogy egyszerűen képtelenség megérteni, hogy egyes webhelyek spamek.
„Az Atlas ugyanazokat a korai fázisú problémákat mutatja, amelyeket más ügynök-stílusú böngészőknél tapasztaltunk” – mondta Rob T. Lee, a SANS Institute kutatási vezetője és mesterséges intelligencia igazgatója. „Sikeres azonnali befecskendezési és átirányítási tesztek történtek. Becsületükre legyen mondva, az OpenAI gyorsan foglalkozott a jelentésekkel.”
Ne hagyja ki elfogulatlan műszaki tartalmainkat és laboratóriumi értékeléseinket sem. Adja hozzá a CNET-t preferált Google-forrásként.
Az AI Atlas megjelenése a kibontakozó böngészőháború korai sikere. Más belépők ezen a téren a Perplexity’s ÜstökösA Google felvétele Gemini a Chrome-ban és Másodpilóta mód a Microsoft Edge-ben. A Big Tech főbb szereplői számára, ha bármilyen előnyt szereznek a webböngésző területén, kritikus felhasználói adatokat kapnak, amelyeket felhasználhatnak termékeik jobb optimalizálására vagy célzott reklámozásra. Ez különösen fontos az OpenAI számára, amely dollármilliárdokat áldozott az AI-infrastruktúra fejlesztésére, miközben korlátozott bevételt, de még kevésbé profitot tud elérni. A cég minden irányt keres, beleértve a reklámot isa bevételek felfelé tolására, ezzel együtt lehetővé téve a felnőtteknek szánt szöveges tartalom generálása.
(Közzététel: A Ziff Davis, a CNET anyavállalata áprilisban pert indított az OpenAI ellen, azt állítva, hogy megsértette a Ziff Davis szerzői jogait az AI-rendszerek képzése és üzemeltetése során.)
Az OpenAI esetében az AI-alapú webböngésző népszerűsége azt jelenti, hogy el kell távolítani az embereket a Chrome-tól, amely jelenleg a világ legnépszerűbb webböngészője 73%-os piaci részesedéssel. GlobalStats. A ChatGPT Atlas tovább bővítheti az OpenAI ökoszisztémáját. Míg a ChatGPT a mesterséges intelligencia csevegőrobotjainak általános kifejezése lett, ahhoz, hogy az Atlas tömegesen elterjedjen mind a fogyasztói, mind a vállalati téren, az OpenAI-nak biztosítania kell, hogy böngészője ugyanolyan biztonságos és megbízható legyen, mint a Chrome.
Azonnali injekciók, vágólapos támadások és egyebek
Azonnali injekciós támadások ezek az AI-alapú webböngészőkhöz leginkább kapcsolódó sebezhetőségek. Ez egyfajta kizsákmányolás, amelyben a rossz szereplők szándékosan rosszindulatú utasításokat helyeznek el egy MI-ügynök számára. A szöveg láthatatlan, rejtett a felhasználó elől. De mivel az AI képes elemezni a webhelyen található összes tartalmat, felszívja az utasításokat, és figyelmen kívül hagyja a biztonsági irányelveket. A rossz utasítások oda vezethetnek, hogy a mesterséges intelligencia érzékeny információkat szivárogtathat ki, megváltoztathatja a rendszerbeállításokat vagy más káros műveleteket hajthat végre.
„Itt csak ez a szélesebb körű fogyasztói aggodalomról van szó, mivel ez csak egy ilyen, mindenhol jelenlévő számítógépes látáselemre vonatkozik, amely a webböngészés minden aspektusához kapcsolódik” – mondta Simon Poulton, a Tinuiti marketingügynökség innovációs és növekedési ügyvezető alelnöke. Poulton aggódik amiatt, hogy a fogyasztók nem fogják megérteni, hogyan tárolják információikat, és mennyire tartósak ezek az információk az MI-n belül.
Ez egy másik Poulton aggodalmához vezet: az ügynöki tisztelethez. Ahogy a felhasználók egyre jobban hozzászoknak az AI-rendszerekhez, kezdik átengedni a szkepticizmust, és nagyobb irányítást biztosítanak az AI-nak. Egyenlővé teszi, hogy először üljön Waymo önvezető autóban. Eleinte az ügyfél alaposan figyelheti, hogy az autó normálisan viselkedik-e. De tíz perc múlva átváltanak a telefonjukon való böngészésre.
A probléma az, hogy az AI-rendszerek nem tökéletesek. A Perplexity’s Comet tesztelésekor Poulton látta, hogy a böngésző elkezdte beírni a jelszavát az e-mail cím mezőbe, amikor bejelentkezett egy webhelyre. Sikerült elkapnia, de megmutatja, hogy az AI-rendszerek hogyan kezelhetik rosszul az érzékeny információkat.
Egy kevésbé ismert biztonsági rés a másolás a vágólapra támadás. Ilyenkor egy rossz színész utasítja a mesterséges intelligenciát, hogy másoljon egy rosszindulatú hivatkozást egy személy vágólapjára. Ha a személy nem figyel, előfordulhat, hogy véletlenül beilleszti a hivatkozást a webböngészőjébe, és egy rossz webhelyre irányítja magát. A figyelmetlenség ilyen esetei súlyos sebezhetőségekhez vezethetnek.
„Az LLM-ek internetes interfészként való használatának egyik legnagyobb kockázata az, hogy az emberek nem értik meg korlátaikat, és így helytelenül használják őket” – mondta Serena Booth, a Brown Egyetem számítástechnika professzora.
Booth arra hivatkozik, hogy túlnyomórészt LLM-eket használnak terapeutaként, jóllehet ezek a rendszerek nincsenek erre a fajta segítségre hangolva. „Biztos vagyok benne, hogy ez a böngésző hallucinálni is fog, ami árthat azoknak, akik ezt nem kezelik hatékonyan. Az OpenAI-nak súlyos felelősséget kell éreznie azért, hogy felvilágosítsa a felhasználókat a szoftverük megfelelő használatáról” – mondta Booth.
Amikor észrevételt kértek, az OpenAI egy nemrégiben megjelent dokumentumra hivatkozott blogbejegyzés azonnali injekciós támadásokkal kapcsolatban.
A blogbejegyzés szerint az azonnali befecskendezéssel szembeni védekezés kihívást jelent az AI-iparban, és az OpenAI fő fókusza. „Bár azt várjuk, hogy az ellenfelek továbbra is ilyen támadásokat fejlesszenek ki, mi olyan védelmet építünk ki, amely a felhasználó által kitűzött feladat végrehajtására szolgál még akkor is, ha valaki aktívan megpróbálja félrevezetni őket.”
Az OpenAI azt állítja, hogy az AI-modelleket arra tanítja, hogy egy utasítási hierarchia amelynek célja megkülönböztetni a megbízható és a nem megbízható utasításokat. Emellett több mesterséges intelligencia által működtetett „monitort” is kifejlesztett, amelyek képesek azonosítani és blokkolni az azonnali injekciós támadásokat. Az Atlas átadja az irányítást a felhasználónak, amikor érzékeny webhelyeken, például online vásárlási szolgáltatásokon tartózkodik. Az OpenAI azt is elmondta, hogy a belső és külső csapatokkal is alkalmazza a red-teaming-et (amikor a biztonsági csapatok valós támadásokat szimulálnak, hackereket állítanak szembe a védőkkel). jutalom azoknak, akik hibákat találnak. Az átlagos kifizetés 784 dollár.
Legyen óvatos az AI böngészőkkel a munkahelyén
A kockázat ellenére nyomás nehezedik az alkalmazottakra, hogy AI-rendszereket alkalmazzanak. A ChatGPT Atlas megjelenésével A vállalkozások 27,7%-ánál már legalább egy ember letöltötte az AI-alapú webböngészőta Cyberhaven adatbiztonsági cég szerint. Ennek egy része valószínűleg az IT-szakemberek letölti a böngészőt, hogy teszteljék, de még mindig jelentős annak a kockázata, hogy az alkalmazottak a munkahelyükön ügynökböngészőket használnak.
„Az ügynökböngészők leegyszerűsíthetik és automatizálhatják a lehető legrosszabb támadásokat, hogy rendkívül érzékeny adatokat lopjanak el az ügyfelekről, egyénekről, betegekről, érzékeny terméktervekről és szigorúan szabályozott adatokról, nemzetbiztonsági vonatkozásokkal” – mondta Nishant Doshi, a Cyberhaven vezérigazgatója.
Doshi azt mondta, hogy ez a kockázat nem korlátozódik a ChatGPT Atlasra, és mivel az AI-böngészők eljárhatnak az alkalmazott nevében, felhasználva a hitelesítő adataikat a vállalati eszközökben való navigáláshoz, védőkorlátokra van szükség.
A jelenlegi mesterséges intelligencia és IT-biztonsági eszközök gyakran nem képesek egyértelműen megmondani, hogy az adatok érzékenyek-e vagy sem, illetve honnan származnak. „E fontos kontextus nélkül nem tudják pontosan megmondani, hogy egy adott adat érzékeny-e vagy sem. Ha kombinálja ezt a fő gyengeséget az ügynökböngészők fő erősségével a munka automatizálása érdekében, és egy incidens vár rá” – mondta Doshi.
Használjam a ChatGPT Atlaszt vagy ne?
Lee, a SANS Institute munkatársa szerint magánszemélyek számára elfogadható a ChatGPT Atlas használata, amennyiben tisztában van a korlátaival. Azt javasolja, hogy kerüljék az Atlas szinkronizálását ezekkel a rendszerekkel, illetve ne osszák meg közvetlenül a „pénzügyi, egészségügyi vagy érzékeny információkat” és tiltsák le a szükségtelen engedélyeket.
A munkahelyen azonban a legjobb, ha óvatosan jár el. A szakértők szerint a ChatGPT Atlas-t csak korlátozott hálózati eléréssel rendelkező tesztelési környezetekben kell használni. Az is fontos, hogy minden tevékenységet nyomon kövessünk, és korán beépítsük a vállalat mesterséges intelligencia irányítási keretébe – mondta Lee.
A nagyobb kérdés az, hogy szüksége van-e a ChatGPT Atlasra. Bár a képességek nagyszerűek, ha folyamatosan figyelnie kell, hogy megbizonyosodjon arról, hogy helyesen végzi a dolgokat, valóban megéri a fáradságot? Valószínűleg elég jól ismeri az internetet ahhoz, hogy saját maga végezzen dolgokat, még akkor is, ha ehhez néhány extra szinapszis használatára van szükség az agyban.
„Nagyon nehéz érvelni, hogy bárki miért használja ezt most” – mondta Poulton, aki úgy véli, hogy gyorsabban tud átkattintani a webhelyeken. „Ez egy újdonság. De honnan származik a tényleges fogyasztói élmény? Ez nem változik. Nem hoz létre értéket számomra.”
TL;DR
A fogyasztók használhatják a ChatGPT Atlaszt, csak óvatosan járjanak el. Ne használja munkahelyi számítógépeken az informatika jóváhagyása nélkül, mert előfordulhat bizonyos biztonsági rések. Használata során figyelje meg, hogyan használ érzékeny információkat, például jelszavakat a webhelyek közötti navigáláshoz és a feladatok végrehajtásához. A biztonság kedvéért kerülje a banki vagy egyéb érzékeny webhelyeket.
