Ebben a hónapban közzétették egy új AAAI -t (a mesterséges intelligencia előmozdításához), több száz közreműködő AI -kutatóval, és a fő elvitel a következő: Az AI jelenlegi megközelítése valószínűleg nem vezet minket a mesterséges általános intelligenciához.
Az AI már jó pár éve szóbeszéd, de a mesterséges intelligencia, mint kutatási terület, évtizedek óta létezik. Alan Turing híres „számítástechnikai gépei és intelligencia” papírját és a Turing -tesztet, amiről még ma is beszélünk, 1950 -ben tették közzé.
Az AI, amelyről mindenki beszél, a mai évtizedekből született, de ez is eltér. Ahelyett, hogy tudományos üldözés lenne, most már van egy mesterséges intelligencia eltérő ága, amelyet „Commercial AI -nek” nevezhetünk.
Agancs
A kereskedelmi AI erőfeszítéseit olyan nagy technológiai monopóliumok vezetik, mint a Microsoft, a Google, a Meta, az Apple és az Amazon – és elsődleges célja az AI termékek létrehozása. Ennek nem kellene problémának lennie, de jelenleg úgy tűnik, hogy lehet.
Először is, mivel a legtöbb ember soha nem követte az AI kutatását, csak néhány évvel ezelőtt, minden, amit az átlagos ember tud az AI -ről, inkább ezekből a vállalatokból származik, nem pedig a tudományos közösségből. A tanulmány ezt a témát az „AI észlelése és a valóság” fejezetben foglalja magában, és a tudósok 79% -a azt hitte, hogy az AI képességek jelenlegi észlelése nem felel meg az AI kutatásának és fejlesztésének valóságával.
Más szavakkal, az, amit a nagyközönség szerint az AI megtehet, nem egyezik meg azt, amit a tudósok szerint az AI megtehet. Ennek oka annyira egyszerű, mint sajnálatos: amikor egy nagy technológiai képviselő nyilatkozatot tesz az AI -ről, ez nem tudományos vélemény – az a termékmarketing. Fel akarják hanyatolni az új termékek mögött meghúzódó technológiát, és gondoskodni arról, hogy mindenki érezze, hogy szükség van erre a szalagkocsira.
Amikor Sam Altman vagy Mark Zuckerberg szerint a szoftverfejlesztési feladatokat például az AI váltja fel, az azért van, mert befolyásolni akarják a mérnököket, hogy megtanulják az AI készségeket, és befolyásolják a technológiai vállalatokat, hogy befektessenek a drága vállalati tervekbe. Mindaddig, amíg el nem kezdik kicserélni a saját mérnökeiket (és előnyben részesítik azt), én személy szerint nem hallgatnék egy szót sem, amelyet a témában mondanak.
Nem csak a közvélemény felfogása, hogy a kereskedelmi AI befolyásolja. A tanulmány résztvevői úgy vélik, hogy a Big Tech által gyártott „AI hype” károsítja a kutatási erőfeszítéseket. Például 74% egyetért azzal, hogy az AI kutatás irányát a hype vezeti – ez valószínűleg azért van, mert a kereskedelmi AI -célokhoz igazodó kutatás könnyebben finanszírozható. 12% -uk azt is hiszi, hogy ennek eredményeként az elméleti AI kutatás szenved.
Szóval, mekkora probléma ez? Még akkor is, ha a nagy technológiai vállalatok befolyásolják az általunk elvégzett kutatást, azt gondolnád, hogy a rendkívül nagy pénzösszegeknek, amelyeket a mezőre pumpálnak, pozitív hatással kell lenniük. A sokféleség azonban kulcsfontosságú a kutatás során – mindenféle különféle utat kell végrehajtanunk, hogy lehetőséget kapjunk a legjobbak megtalálására.
De a Big Tech jelenleg csak egy dologra összpontosít – a nagy nyelvű modellek. Ez a rendkívül specifikus AI -modell az, ami a legújabb AI -termékek szintjén szerepel, és olyan figurák, mint Sam Altman, úgy vélik, hogy ezeknek a modelleknek a további és tovább történő méretezése (azaz több adatot ad nekik, több edzési időt és nagyobb számítási erőt) végül mesterséges általános intelligenciát ad nekünk.
Ez a skálázási hipotézisnek nevezett hit azt mondja, hogy minél több energiát táplálunk egy AI -vel, annál inkább növekszik kognitív képességei, és annál inkább csökken a hibaarány. Egyes értelmezések azt is mondják, hogy az új kognitív képességek váratlanul megjelennek. Tehát, annak ellenére, hogy az LLM -ek jelenleg nem nagyszerűek a problémák megtervezésében és gondolkodásában, ezeknek a képességeknek valamikor megjelennek.
Nincs fal
– Sam Altman (@sama) 2024. november 14 -én
Az elmúlt néhány hónapban azonban a skálázási hipotézis jelentős tűz alá került. Egyes tudósok úgy vélik, hogy az LLM -ek méretezése soha nem vezet AGI -hez, és úgy vélik, hogy az új modelleket tápláló összes extra erő már nem eredményez eredményt. Ehelyett egy „méretezési fal” vagy „méretezési határértéket” értünk el, ahol nagy mennyiségű extra számítási teljesítmény és adatok csak kis javításokat eredményeznek az új modellekben. Az AAAI -tanulmányban részt vevő tudósok többsége az érv ezen oldalán található:
A válaszadók többsége (76%) azt állítja, hogy „a jelenlegi AI -megközelítések növelése” az AGI elérése érdekében „valószínűtlen” vagy „nagyon valószínűtlen” a sikerhez, ami arra utal, hogy a jelenlegi gépi tanulási paradigmák elegendőek -e az általános intelligencia eléréséhez.
A jelenlegi nagy nyelvi modellek nagyon releváns és hasznos választ adhatnak, ha a dolgok jól mennek, de a matematikai alapelvekre támaszkodnak. Sok tudós úgy véli, hogy új algoritmusokra lesz szükségünk, amelyek érvelést, logikát és valós ismereteket használnak a megoldás eléréséhez, ha közelebb akarunk haladni az AGI céljához. Itt van egy fűszeres idézet az LLM -ekről és az AGI -ról Jacob Browning és Yann Lecun 2022 -es papírból.
Egy önmagában a nyelven képzett rendszer soha nem fogja megközelíteni az emberi intelligenciát, még akkor is, ha mostantól az univerzum meleg haláláig képzésben részesülnek.
Nincs azonban valódi módja annak, hogy megtudjuk, ki van itt – még nem. Egyrészt az AGI meghatározása nem áll kőbe, és nem mindenki célozza meg ugyanazt a dolgot. Egyes emberek úgy vélik, hogy az AGI-nak emberszerű módszerek révén kell emberi válaszokat hoznia-tehát megfigyelniük kell a körülöttük lévő világot, és a problémákat hasonló módon kell kitalálniuk. Mások úgy vélik, hogy az AGI-nak inkább a helyes válaszokra kell összpontosítania, mint az emberszerű válaszokra, és hogy az általuk alkalmazott módszerek nem számítanak.
Sok szempontból azonban nem igazán számít, hogy az AGI melyik verziója érdekli, vagy ha a méretezési hipotézis ellen vagy ellen – továbbra is diverzifikálnunk kell a kutatási erőfeszítéseinket. Ha csak az LLM -ek méretezésére összpontosítunk, akkor nulláról kell kezdenünk, ha nem sikerül, és nem tudunk felfedezni az új, hatékonyabb vagy hatékonyabb módszereket. A tanulmányban szereplő sok tudós attól tart, hogy a kereskedelmi AI és az azt körülvevő hype lelassítja a valós előrehaladást – de csak annyit tehetünk, hogy reméljük, hogy aggodalmaikkal foglalkoznak, és az AI kutatás mindkét ága megtanulhatja együttélni és együtt haladni. Nos, remélheti azt is, hogy az AI buborék és az összes AI-meghajtású technológiai termék nem releváns, ha úgy tetszik.
