Hír

Az NVIDIA új eszközei szellővé teszik az AI futtatását a számítógépen

Az NVIDIA új AI eszközökkel rendelkezik, amelyek lehetővé teszik az RTX hardverrel rendelkező emberek számára, hogy könnyebben futtassák az AI modelleket a számítógépükön – mondta a Chip Giant kedden egy blogbejegyzésben.

Az NVIDIA NIM Microservices nevű RTX grafikus kártyákkal rendelkező felhasználók, köztük a nemrégiben kiadott 50 sorozatú felhasználók könnyen telepíthetik az AI-ket a gépeikre, hogy segítsenek a szöveg, a kép és a kódgenerálás érdekében. Egyéb felhasználási esetek közé tartozik a beszédfeldolgozás, a PDF extrahálás és a számítógépes látás. A cél itt az, hogy a dolgok a lehető legkönnyebbé tegyék. Ha RTX-alapú gépe van, akkor csak annyit kell tennie, hogy letölti a kívánt NIM alkalmazást és futtassa azt. Például, ha van egy osztály előadása, amelyet átírni kíván, csak töltse le a Parakeet -t. Vagy ha a felvett dal éneke sáros, akkor csak töltse le a Studiovoice -t. Ezeknek a helyi AI -modelleknek a közelgő NVIDIA DGX DIGICE AI számítógépek vonalán kell működniük.

A modellek helyi futtatásának előnye, hogy hosszú távon pénzt takarít meg. Ha az AI -t olyan szolgáltatásokkal használja, mint az Openai Chatgpt vagy a Google Gemini, akkor vannak korlátok arra, hogy hány dolgot generálhat a felhasználók, mielőtt fel kell fizetniük. Az általános feladatok esetében a legtöbb ember nem fogja elérni ezeket a korlátokat. De bizonyos felhasználási esetekben a költségek összeadódhatnak. A helyi modellek kevesebb korlátozással rendelkeznek a létrehozható tartalom típusaira, és az adatok az eszközön maradnak, ami hasznos, ha érzékeny anyagokkal foglalkozik.

Az NVIDIA nem válaszolt azonnal a megjegyzéskérelemre.

Az NVIDIA az egyik leginkább, ha nem a legfontosabb társaság az AI világában. A chipek segítenek az új AI modellek, beleértve az Openai, a Google és a DeepSeek teljesítményfejlesztését. Mivel minden nagyobb technológiai vállalat az NVIDIA hardverére támaszkodik, hogy az AI előrelépéseit ösztönözze, a társaságot sztratoszférikus szintre hajtotta. Tavaly az NVIDIA 3 trillió dolláros értékelést ért el. Azóta egy “szerényebb” 2,8 trillió dollárra kerül.

De az összes AI -szolgáltatás a szervereken keresztül történő futtatása ezer mérföld távolságban is nehéz felvonó. Ez az oka annak, hogy a vállalatok néhány kisebb AI -funkciót alkalmaztak helyben az eszközökön. Például az iPhone 16 és a Google Pixel 9 képeket generálhat, szerkeszthet fényképeket vagy összefoglalni a szöveget anélkül, hogy konzultálnia kellene a felhőben lévő GPU -klaszterekkel. Ez gyorsabbá és hatékonyabbá teszi a dolgokat. A PlayStation 5 Pro az AI -t is használja a képek előkelő képeihez a jobb látvány és a teljesítmény érdekében, és pletykálják, hogy a Nintendo Switch 2 is ezt fogja megtenni. Az olyan chipkészítők, mint az NVIDIA, az AMD és a Qualcomm, mind olyan hardvereket készítenek, amelyek több AI -feladatot képesek kezelni annak érdekében, hogy továbbra is vonzzák a nagy technológiai dollárokat.

Noha a NIM -hez nem kapcsolódik, az NVIDIA néhány hírt is részletezett a játékosok számára. Van egy új kísérleti AI asszisztens az NVIDIA alkalmazásban, a Project G-Assist néven. A G-Assist jobban segíthet az alkalmazások és játékok optimalizálásában, lehetővé téve a valós idejű diagnosztika futtatását és a teljesítmény optimalizálásának ajánlásait. Tehát, ha azt akarja, hogy minden utolsó keretet kihúzzon az Assassin’s Creed Shadows-ból, amely minden számlán jelenleg az egyik legszebb játék, akkor a G-Assist segít. Van még egy Google Gemini plugin a G-Assist számára, tehát ha kérdései vannak a legjobb karakterrel kapcsolatban, amelyet az Apex Legends-ben vagy a Diablo 4 lejátszásához használhat, akkor a helyszínen válaszokat kaphat.

Back to top button