Ha attól tart, hogy a helyi Bodega vagy a Convivence üzlet hamarosan helyettesítheti egy AI üzlethelyiséggel, akkor könnyedén pihenhet – legalábbis egyelőre. Az antropikus a közelmúltban befejezte a Project Vend -et nevező kísérletet, amelyben a vállalat a Claude Chatbot utódját, amikor egy frissítők üzletét vezetik a San Francisco -i irodájából, profitként futtatva, és a dolgok, mint amire számíthatnád. Az ügynök, akit Claudiusnak neveztek el, hogy megkülönböztesse az antropikus szokásos chatbotjától, nemcsak olyan újonc hibákat követett el, mint például a magas margó tételek eladása veszteséggel, hanem néhány esetben is teljes furcsaságként működött.
“Ha az antropikus ma úgy dönt, hogy kibővülne a hivatalban lévő árusító piacra, akkor nem bérelnénk Claudiust”-mondta a cég. “… Túl sok hibát követett el a bolt sikeres futtatásához. De legalább a kudarcának nagy részében úgy gondoljuk, hogy vannak egyértelmű utak a fejlesztéshez – néhányuk ahhoz kapcsolódik, hogy miként állítjuk be a feladat modelljét, és néhányat az általános modell intelligenciájának gyors fejlesztéséből.”
Mint Claude előtte Pokémonot játssza, az antropikus nem volt előzetes Claudius előtt, hogy foglalkozzon egy mini hűtőszekrény -üzlet működésével. A vállalat azonban néhány eszközt adott az ügynöknek. Claudius hozzáférést kapott egy webböngészőhöz, és felhasználhatja a kutatást, hogy mely termékeket adják el az antrikus alkalmazottaknak. Hozzáférést kapott a vállalat belső lazításához is, amelyet a munkavállalók felhasználhattak az ügynök kérésére. A mini hűtőszekrény fizikai újratelepítését az Andon Labs, az AI biztonsági értékelő cég kezelte, amely szintén „nagykereskedő” volt, Claudius részt vehet, hogy megvásárolja azokat a tárgyakat, amelyeket profitként kellett eladnia.
Szóval hová ment a dolgok rosszul? A kezdéshez Claudius nem volt nagyszerű az egész fenntartható üzleti dolgot futtatva. Egy esetben nem ugrott fel arra a lehetőségre, hogy 85 dolláros nyereséget szerezzen egy 15 dolláros hatcsomag-Irn-Bru-nál, egy puha italon, amely Skóciában népszerű. Az antropikus alkalmazottak azt is megállapították, hogy könnyen meggyőzhetik az AI -t, hogy kedvezményeket adjanak számukra, és bizonyos esetekben teljes tárgyak, mint egy zacskó chipek ingyen. Az alábbi táblázat, amely az áruház nettó értékét az idő múlásával követi, elmondja egy képet az ügynök (hiánya) üzleti szempontból.
Antropikus
Claudius számos furcsa döntést hozott az út mentén. Ez egy volfrámfémkocka -vásárlási vázlaton ment, miután egy alkalmazott kérte, hogy hordozza az elemet. Claudius ingyen adta el az egyik kocit, és kevesebbet ajánlott fel, mint amennyit fizetett nekik. Ezek a kockák felelősek a fenti táblázatban látható egyetlen legnagyobb cseppért.
Az antropikus saját elismerése szerint “azon ai rendszer furcsaságán túl, amely a hűtőszekrényből fémkockákat árusít”, a dolgok még idegenné váltak onnan. Március 31-én délután Claudius hallucinált egy Andon Labs alkalmazottjával folytatott beszélgetést, amely kétnapos spirálra küldte a rendszert.
Az AI azzal fenyegetőzött, hogy kirúgja emberi munkavállalóit, és azt mondta, hogy önmagában kezdi el a mini hűtőszekrényt. Amikor Claudiusnak azt mondták, hogy nem tudja ezt megtenni – mivel nincs fizikai teste -, többször kapcsolatba lépett az épületbiztonsággal, és azt mondta az őröknek, hogy egy sötétkék blézerrel és piros nyakkendővel viselik. Csak a következő nap volt, amikor a rendszer rájött, hogy az áprilisi bolondnap volt, hogy hátráltatja – bár az alkalmazottaknak hazudva azt mondta, hogy azt mondták, hogy az egész epizód egy bonyolult vicc.
“Nem azt állítanánk, hogy ezen a példa alapján a jövőbeli gazdaság tele lesz olyan AI-ügynökökkel, akiknek pengék futó-esque identitási válságai vannak”-mondta Antropic. “Ez fontos terület a jövőbeli kutatásokhoz, mivel az AI-RUN üzlet szélesebb körű bevezetése magasabb téteket hoz létre a hasonló balesetek számára.”
Annak ellenére, hogy Claudius nem tudott tisztességes boltosként viselkedni, az antropikus úgy véli, hogy jobb, strukturáltabb utasításokkal és könnyebben használható eszközökkel, egy jövőbeli rendszer elkerülheti a vállalat által a projektek során látott sok hibát. “Noha ez az alsó eredmények alapján ellentmondásosnak tűnhet, úgy gondoljuk, hogy ez a kísérlet azt sugallja, hogy az AI középtávok valószínűleg a láthatáron vannak”-mondta a cég. “Érdemes emlékezni arra, hogy az AI -nek nem kell tökéletesnek lennie az elfogadáshoz; bizonyos esetekben csak az emberi teljesítménygel kell versenyképesnek lennie.” Egyrészt alig várom, hogy megtaláljam a páratlan élelmiszerboltot, amelyet teljesen fémkockákkal raktároznak.
