A közelmúltig a generatív AI chatbotok nem voltak a legjobb emlékek: mondod el valamit, és amikor később visszatérsz, újra egy üres palával indulsz. Már nem.
Az Openai tavaly megkezdte az erősebb memóriát a Chatgpt -ben, és ebben a hónapban javításokat hajtott végre. Grok, az Elon Musk XAI zászlóshajója, szintén jobb emlékezetet kapott.
A matematika és a technológia jelentős javulása volt, hogy ide érjen, de a valós előnyök elég egyszerűnek tűnnek: következetesebb és személyre szabott eredményeket érhet el anélkül, hogy meg kell ismételnie magát.
“Ha képes beépíteni minden korábban folytatott csevegést, akkor nem kell, hogy az összes információt legközelebb megadjam” – mondta Shashank Srivastava, az észak -karolinai egyetem számítógépes tudományának professzora a Chapel Hillnél.
Ezek a hosszabb emlékek segíthetnek a chatbotok néhány frusztrációjának megoldásában, de új kihívásokat is jelentenek. Mint amikor egy emberrel beszélsz, az, amit tegnap mondtál, befolyásolhatja az Ön interakcióit ma.
Íme egy pillantás arra, hogy a botok hogyan kerültek jobb emlékekre, és mit jelent ez az Ön számára.
Az AI modell memóriájának fejlesztése
A kezdők számára ez nem egészen “memória”. Leginkább ezek az eszközök úgy működnek, hogy a múltbeli beszélgetéseket beépítik a legújabb lekérdezésed mellett. “Valójában ez olyan egyszerű, mintha csak az összes múltbeli beszélgetést vette volna, és egy nagy utasításba kombinálta őket” – mondta Aditya Grover, az UCLA számítógépes tudományának docens.
Ezek a nagy utasítások most már lehetséges, mert a legújabb AI modellek lényegesen nagyobb “kontextusú ablakokkal” rendelkeznek, mint elődeik. A kontextusablak lényegében az, hogy mekkora szöveget tud egy modellnek egyszerre mérlegelni, tokenekben mérve. A token lehet egy szó szó vagy része (az Openai egy tokent kínál egy szó háromnegyedének hüvelykujjszabályként).
A korai nagy nyelvi modellek kontextusú ablakai 4000 vagy 8000 token voltak – néhány ezer szó. Néhány évvel ezelőtt, ha valamit megkérdezne a Chatgpt -től, akkor nagyjából annyi szöveget vehet figyelembe, mint a Smart Termosztátok legutóbbi CNET borító történetében. A Google Gemini 2.0 Flash most egy millió token kontextusú ablaka van. Ez egy kicsit hosszabb, mint Leo Tolstoy epikus regénye háborúja és békéje. Ezeket a fejlesztéseket az LLMS működésének néhány technikai előrelépése hajtja végre, és gyorsabb módszereket hoz létre a szavak közötti kapcsolatok létrehozására – mondta Srivastava.
Más technikák fellendíthetik a modell memóriáját és a kérdés megválaszolásának képességét is. Az egyik a visszakereséssel ellátott generáció, amelyben a modell keresést futtathat, vagy más módon behúzhatja a dokumentumokat egy kérdés megválaszolásához, anélkül, hogy az összes információt mindig a kontextus ablakban tartaná. Ahelyett, hogy mindig hatalmas mennyiségű információ állna rendelkezésre, csak tudnia kell, hogyan kell megtalálni a megfelelő erőforrást, mint például a könyvtár kártyakatalógusát áttekintő kutató.
Bővebben: AI Essentials: 27 módja annak, hogy az AI generáljon az Ön számára, szakértőink szerint
Miért számít a chatbot kontextusa?
Minél több LLM tud rólad a múltbeli interakcióitól, annál jobban megfelel az Ön igényeinek. Ez az a cél, hogy egy chatbot legyen, amely emlékszik a régi beszélgetéseire.
Például, ha olyan LLM -et kérdez, amelyben nincs emlékezeted, mi az időjárás, akkor valószínűleg először nyomon követi, ha megkérdezi, hol vagy. Az egyik, amely emlékszik a múltbeli beszélgetésekre, akkor tudja, hogy gyakran tanácsot kér az éttermekről vagy más dolgokról San Franciscóban, és feltételezze, hogy ez a helyed. “Ez felhasználóbarátabb, ha a rendszer többet tud rólad”-mondta Grover.
A hosszabb memóriával rendelkező chatbot pontosabb válaszokat adhat Önnek. Ha azt kéri, hogy javasoljon ajándékot egy családtag születésnapjára, és mondjon el néhány részletet a családtagról, akkor nem lesz szüksége annyi kontextusra, amikor a következő évben ismét megkérdezi. “Ez azt jelentené a simább beszélgetéseket, mert nem kell megismételnie magát” – mondta Srivatava.
A hosszú memória azonban hátránya lehet.
Meg tudod mondani (és talán kellene) megmondani az AI -t, hogy felejtse el
Ha chatbotot ajánlunk, egy ajándékot jelent, amely olyan összevonást jelent, amely túlságosan gyakori az emberi emlékekben: elmondtad a nagynénjének, hogy tetszett a repülőgépek 12 éves korában, és évtizedekkel később még mindig kapsz repülőgép-témájú ajándékokat tőle. Egy LLM, amely emlékszik a dolgokra, túlságosan torzíthatja magát valami felé, amit korábban elmondtál.
“Határozottan van ez a lehetőség, hogy elveszítheti az irányítást, és hogy ez a személyre szabás kísérthet téged” – mondta Srivastava. “Ahelyett, hogy elfogulatlan, friss perspektívát kapna, megítélését mindig a korábbi interakciók színezhetik.”
Az LLMS általában lehetővé teszi, hogy elmondja nekik, hogy elfelejtsék bizonyos dolgokat, vagy kizárják néhány beszélgetést a memóriájukból.
Ön is foglalkozhat olyan dolgokkal is, amelyekre nem akarja, hogy az AI modell emlékezzen. Ha olyan privát vagy érzékeny információkkal rendelkezik, amelyeket egy LLM -mel kommunikál (és egyáltalán kétszer is gondolkodnia kell erre), akkor valószínűleg ki akarja kapcsolni a memória funkciót az interakciókhoz.
Olvassa el az útmutatást az Ön által használt eszközön, hogy megbizonyosodjon arról, hogy tudja, mi emlékszik, hogyan lehet be- és kikapcsolni, és hogyan lehet törölni az elemeket a memóriájából.
Grover elmondta, hogy ez egy olyan terület, ahol a gener AI fejlesztőknek átláthatónak kell lenniük, és egyértelmű parancsokat kell kínálniuk a felhasználói felületen. “Úgy gondolom, hogy több olyan vezérlőt kell biztosítaniuk, amelyek láthatók a felhasználó számára, mikor kell bekapcsolni, mikor kell kikapcsolni” – mondta. “Adjon sürgősséget a felhasználói bázis számára, hogy ne zárják be azokat az alapértelmezéseket, amelyeket nehéz megtalálni.”
Hogyan lehet kikapcsolni a gener memória funkcióit
Így lehet kezelni a memória jellemzőit néhány általános AI eszközben.
Chatgpt
Az Openai modelljeiben van néhány típusú memória. Az egyiket “Referencia mentett emlékek” -nek hívják, és olyan részleteket tárol, amelyeket kifejezetten a CHATGPT -t kér, mint például a neve vagy az étkezési preferenciák. Egy másik, a “Referencia csevegési előzmény”, emlékszik a múltbeli beszélgetésekről (de nem mindenre).
Ezen funkciók bármelyikének kikapcsolásához léphet a beállításokhoz és a személyre szabáshoz, és válthatja ki az elemeket.
Megkérdezheti a Chatgpt -t, hogy mi emlékszik rólad, és kérje meg, hogy felejtsen el valamit, amire emlékezett. Ezen információk teljes törléséhez törölheti a mentett emlékeket a beállításokban és a csevegésben, ahol mentette ezt az információt.
Ikrek
A Google Ikrek modellje emlékszik a tárgyalt dolgokra, vagy összefoglalja a múltbeli beszélgetéseket.
Ezen emlékek módosításához vagy törléséhez, vagy a szolgáltatás teljes kikapcsolásához beléphet a Gemini Apps tevékenység menübe.
Morcol
Elon Musk Xai ebben a hónapban bejelentette a memória funkcióit a Grokban, és alapértelmezés szerint bekapcsolják őket.
Kikapcsolhatja őket a beállítások és az adatkezelések alatt. A konkrét beállítás különbözik a Grok.com, ahol “személyre szabja a Grok -t a beszélgetés előzményeivel”, valamint az Android és iOS alkalmazásokon, ahol “személyre szabja az emlékeket”.
