Sara Smolović
Zahvaljujući svom prethodno najbržem AI i računskom akceleratoru Hopper H100, Nvidia je postala višebilionski (američki trilion) vredna kompanija, ali sada su tu novi čipovi koji bi mogli da je poteraju još dalje. Na svojoj godišnjoj GTC konferenciji, Nvidia je predstavila Blackwell B200 GPU koji tako postaje najmoćniji čip za AI na svetu, napravljen da podrži AI modele sa bilion (američki trilion) parametara i GB200 „superčip“ koji nudi 30 puta bolje performanse u radnim opterećenjima.
Novi Blackwell B200 čip nudi do 20 petaflopsa FP4 snage sa svojih 208 milijardi tranzistora, dok GB200 superčip kombinuje dva B200 GPU čipa sa jednim Grace CPU-om koji navodno može da ponudi 30 puta bolje performanse za LLM radna opterećenja, a istovremeno je potencijalno znatno efikasniji.
„On smanjuje troškove i potrošnju energije do 25 puta u odnosu na H100“, kaže Nvidia.
Obuka modela veštačke inteligencije sa 1,8 biliona parametara ranije bi zahtevala 8.000 Hopper računskih akceleratora i 15 megavata energije, ali danas, izvršni direktor kompanije Džensen Huang tvrdi da 2.000 Blackwell B200 GPU čipova to mogu da postignu uz potrošnju od samo četiri megavata.
Na GPT-3 LLM testu sa 175 milijardi parametara, Nvidia tvrdi da GB200 nudi sedam puta više performansi od H100, uz četiri puta bržu obuku.
Nvidia je novinarima rekla da je jedno od ključnih unapređenja druga generacija hardvera koji zajedno sa upravljačkim softverom udvostručuje računsku snagu, propusni opseg i veličinu modela korišćenjem četiri bita za svaki neuron umesto osam, podešavajući rad čitavog akceleratora. Druga ključna razlika dolazi tek kada se poveže ogroman broj ovih grafičkih procesora: NVLink kontroler sledeće generacije koji omogućava 576 GPU čipova da komuniciraju jedan s drugim, sa 1,8 terabajta po sekundi dvosmernog propusnog opsega.
To je zahtevalo od kompanije Nvidia da izgradi potpuno nov čip za mrežnu kontrolersku logiku, sa 50 milijardi tranzistora i nekim sopstvenim računskim kapacitetom: 3,6 teraflopsa FP8, tvrdi Nvidia. Ranije, ističe kompanija, grupa od samo 16 GPU-ova bi provodila 60 posto vremena komunicirajući međusobno, a samo 40 odsto u stvarnom računarstvu.
Nvidia računa da će kompanije kupiti velike količine novih Blackwell B200 GPU procesora i upakovati ih u veće dizajne, kao što je GB200 NVL72, koji uključuje 36 CPU jedinica i 72 GPU jeidnica u jednom rashladnom kućištu za ukupno 720 petaflopsa performansi obuke za AI ili 1.440 petaflopsa (1,4 egzaflopsa) AI zaključivanja. U GB200 NVL72 ima gotovo tri kilometra kablova, sa 5.000 pojedinačnih kablova.
Svako ležište u kućištu sadrži ili dva GB200 čipa ili dva NVLink kontrolera, sa 18 prvih i devet drugih po tzv. reku. Ukupno, Nvidia tvrdi da jedan od ovih rekova može da podrži model sa 27 biliona (američkih triliona) parametara. Poređenja radi, GPT-4 model se kreće u opsegu od 1,7 biliona parametara. Kompanija kaže da Amazon, Google, Microsoft i Oracle već planiraju da ponude NVL72 u svojim servisnim ponudama u oblaku, mada nije jasno koliko njih kupuju.
U ostatku konferencije verovatno nećemo čuti ništa novo o grafičkim kartama, jer vesti dolaze sa Nvidia GPU Technology Conference (GTC) događaja koji je uglavnom fokusiran na AI i računske akceleratore, a ne na gejming i standardne grafičke karte. Ipak, ne treba zaboraviti da će Blackwell GPU arhitektura verovatno pokretati predstojeću liniju desktop grafičkih karti RTX 50 serije.
