Na Sajmu potrošačke elektronike (CES) u Las Vegasu, NVIDIA je napravila hrabar korak ka demokratizaciji veštačke inteligencije (AI) lansiranjem projekta DIGITS, ličnog AI superračunara koji je dizajniran da donese najnovije AI mogućnosti istraživačima, naučnicima podataka i studentima širom sveta. Pokretan revolucionarnim NVIDIA GB10 Grace Blackwell Superchip-om, projekt DIGITS pruža impresivan petaflop računarske snage za AI, omogućavajući korisnicima da prototipušu, finetuniraju i pokreću velike AI modele direktno sa svojih radnih stolova. Ova inovacija označava ključni trenutak u razvoju AI, jer stavlja snagu superračunara na dohvat ruke milionima programera, potencijalno ubrzavajući tempo AI inovacija u industrijama.

Petaflop na vašem stolu Središnji deo projekta DIGITS je NVIDIA GB10 Superchip, sistem na čipu (SoC) zasnovan na arhitekturi Grace Blackwell. GB10 kombinuje NVIDIA Blackwell GPU sa petom generacijom Tensor Cores-a i visokoučinkovitim NVIDIA Grace CPU-om, povezanima putem NVLink-C2C međusobnog povezivanja čipova. Ova integracija omogućava do 1 petaflopa AI performansi sa FP4 preciznošću, sve to radeći na standardnoj električnoj energiji.

„AI će postati mainstream u svakoj aplikaciji za svaku industriju. Sa projektom DIGITS, Grace Blackwell Superchip dolazi do miliona programera“, rekao je Jensen Huang, osnivač i CEO NVIDIE. „Stavljanje AI superračunara na stolove svakog naučnika podataka, AI istraživača i studenta omogućava im da učestvuju i oblikuju doba AI.“

Efikasnost u potrošnji energije i performanse GB10 Superchip-a dodatno su unapređeni saradnjom sa MediaTek-om, liderom u dizajniranju Arm-baziranih SoC-ova. Svaka jedinica projekta DIGITS ima 128 GB ujedinjene memorije i do 4 TB NVMe skladišta, omogućavajući programerima da pokreću AI modele sa do 200 milijardi parametara. Za još veće modele, dva sistema projekta DIGITS mogu se povezati putem NVIDIA ConnectX umrežavanja kako bi obradili modele sa do 405 milijardi parametara.

Bešavno skaliranje od radnog stola do oblaka Jedna od najzanimljivijih karakteristika projekta DIGITS je njegova sposobnost da premosti jaz između lokalnog razvoja i velikih implementacija. Programeri mogu prototipušiti i finetunirati modele na svojim radnim stanicama koristeći Linux-bazirani NVIDIA DGX OS, a zatim ih bešavno implementirati na NVIDIA DGX Cloud, ubrzane oblake ili infrastrukturu u centrima podataka. Ova fleksibilnost osigurava da AI projekti mogu efikasno skalirati bez potrebe za značajnim promenama u osnovnoj arhitekturi.

Sistem takođe omogućava pristup opsežnoj NVIDIA AI softverskoj ekosistemu, uključujući NVIDIA NeMo okvir za finetuniranje modela, RAPIDS biblioteke za ubrzanje nauke o podacima, i popularne okvire poput PyTorch-a i Jupyter notebook-a. Pored toga, programeri mogu koristiti NVIDIA Blueprints i NIM mikroservise za izgradnju agentnih AI aplikacija, uz podršku na nivou preduzeća putem NVIDIA AI Enterprise licence.

AI inovacije za mase Lansiranje projekta DIGITS deo je šire strategije NVIDIE da odgovori na rastuće zahteve generativnog AI-a i velikih jezičkih modela (LLM). Arhitektura Grace Blackwell, koja je dobila ime po matematičaru Davidu H. Blackwellu, predstavlja značajan iskorak u AI računarstvu. Sa 208 milijardi tranzistora—više od 2,5 puta više nego što ih imaju NVIDIA-ini prethodni Hopper GPU-ovi—Blackwell arhitektura je najveći GPU ikada napravljen, sposoban da pruži 20 petaflopa računarske snage.

Druga generacija Transformer Engine-a i napredni NVLink međupoveznici arhitekture omogućavaju neviđene performanse za obuku i inferenciju, podržavajući modele sa trilionima parametara. Ove inovacije su ključne jer industrije od zdravstvene zaštite do automobilske industrije sve više oslanjaju na generativni AI za aplikacije u realnom vremenu.

Projekt DIGITS biće dostupan od maja 2024. godine, sa cenama počevši od 3.000 dolara. Ova pristupačnost, u kombinaciji sa njegovim revolucionarnim performansama, pozicionira projekt DIGITS kao promena igara za razvoj AI. Donošenjem superračunarske moći pojedinačnim programerima, NVIDIA ne samo da demokratizuje pristup AI-u, već i podstiče talas inovacija koji bi mogao preoblikovati industrije i redefinisati mogućnosti u eri AI-a.