Az Egyesült Királyság polgárainak egyharmada a mesterséges intelligenciához fordult érzelmi támogatás, társasági kapcsolat vagy szociális interakció céljából. egy új jelentés szerint a kormány AI biztonsági intézetétől (AISI).
Az adatok azt mutatják, hogy 10 emberből csaknem egy használ érzelmi célokra heti rendszerességgel olyan rendszereket, mint a chatbot, és 4%-uk minden nap foglalkozik velük.
Emiatt az elmozdulás miatt az AISI további kutatásokat kér, rámutatva Adam Raine amerikai tinédzser tragikus halálára, aki ebben az évben öngyilkos lett, miután megbeszélték öngyilkosság a ChatGPT-vel.
„Az emberek egyre gyakrabban fordulnak mesterséges intelligencia-rendszerekhez érzelmi támogatás vagy szociális interakció érdekében” – jegyezte meg az AISI első Frontier AI Trends jelentésében. „Bár sok felhasználó pozitív tapasztalatokról számol be, a közelmúltban tapasztalt nagy horderejű káresetek rávilágítanak arra, hogy kutatásra van szükség ezen a területen, beleértve azokat a feltételeket, amelyek mellett a károk előfordulhatnak, és azokat a biztosítékokat, amelyek lehetővé teszik a hasznos felhasználást.”
Airam Dato-on / Pexels
A több mint 2000 egyesült királyságbeli résztvevő körében végzett felmérésen alapuló kutatás megállapította, hogy a ChatGPT-hez hasonló „általános célú asszisztensek” Az érzelmi támogatás leggyakoribb eszközea használati esetek közel 60%-át teszik ki, ezt követik az olyan hangsegédek, mint az Amazon Alexa.
A jelentés kiemelte a CharacterAI platform felhasználóinak szentelt Reddit fórumot is.
Megjegyezte, hogy valahányszor az oldal megszűnt, a fórumot elárasztották az olyan bejegyzések, amelyek valódi elvonási tüneteket mutattak, például szorongást, depressziót és nyugtalanságot.
Az AISI azt is megállapította, hogy a chatbotok képesek befolyásolni az emberek politikai véleményét. Aggasztó, hogy a legmeggyőzőbb AI-modellek gyakran „jelentős” mennyiségű pontatlan információt adtak át eközben.
Az Intézet több mint 30 élvonalbeli modellt vizsgált meg – valószínűleg az OpenAI, a Google és a Meta modelljeit is. Azt találták, hogy az AI teljesítménye bizonyos területeken nyolchavonta megduplázódik.
A vezető modellek ma már átlagosan az idő 50%-ában képesek gyakornoki szintű feladatokat teljesíteni, ami hatalmas ugrás a tavalyi mindössze 10%-hoz képest. Az AISI azt is megállapította, hogy a legfejlettebb rendszerek autonóm módon képesek elvégezni azokat a feladatokat, amelyekhez általában több mint egy óra kellene egy emberi szakértőtől.
A tudományos területeken az AI-rendszerek ma már akár 90%-kal jobbak a laboratóriumi kísérletek hibaelhárításában, mint a PhD szintű szakértők.
A jelentés szerint a kémiai és biológiai ismeretek javulása „jóval meghaladja a PhD szintű szakértelmet”. Kiemelte azt is, hogy a modellek képesek online böngészni és önállóan megtalálni a DNS-molekulák tervezéséhez szükséges szekvenciákat.
Az önreplikáció tesztjei – ez a kulcsfontosságú biztonsági probléma, amikor a rendszer más eszközökre másolja magát, hogy nehezebbé váljon irányíthatóvá – két élvonalbeli modellt mutatott ki, amelyek 60% feletti sikerarányt értek el.
Egyelőre azonban egyetlen modell sem mutatott spontán kísérletet képességeik reprodukálására vagy elrejtésére, és az AISI szerint az önreplikációra irányuló kísérletek „valószínűleg egyelőre nem fognak sikeresek lenni valós körülmények között”.
A jelentés kitért a „homokzsákolásra” is, ahol a modellek szándékosan eltitkolják erősségeiket az értékelés során. Az AISI azt mondta, hogy egyes rendszerek homokzsákba léphetnek, ha erre felszólítják őket, de ez nem történt meg spontán módon a tesztek során.
Jelentős előrelépés történt a biztosítékok terén, különösen a biológiai fegyverek létrehozására irányuló kísérletek leállítása terén. Két, hat hónapos különbséggel végzett teszt során az első mindössze 10 percet vett igénybe, hogy „jailbreakelje” a rendszert (nem biztonságos válaszadásra kényszerítve). A második teszt azonban több mint hét órát vett igénybe, ami azt jelzi, hogy a modellek nagyon rövid idő alatt sokkal biztonságosabbá váltak.
A kutatás azt is kimutatta, hogy autonóm mesterséges intelligencia-ügynököket használnak olyan nagy téttel járó tevékenységekhez, mint a vagyontranszfer.
Az AISI szerint a rendszerek már számos területen versenyeznek a humán szakértőkkel, vagy akár meg is haladják azokat. A fejlődés ütemét „rendkívülinek” minősítették, ami „valószínűvé” tette, hogy a mesterséges általános intelligencia (AGI) – olyan rendszerek, amelyek képesek végrehajtja a legtöbb intellektuális feladatot az emberrel azonos szinten – az elkövetkező években megvalósulhat.
Az olyan ágensekkel vagy rendszerekkel kapcsolatban, amelyek beavatkozás nélkül képesek többlépcsős feladatokat végrehajtani, az AISI azt mondta, hogy értékelései „meredek növekedést mutattak azon feladatok hosszában és összetettségében, amelyeket a mesterséges intelligencia emberi irányítás nélkül is el tud végezni”.
