Intel izaziva Nvidiju niskim cenama Gaudi 3 AI akceleratora

Intel je izazvao Nvidiju u žestokoj borbi za dominaciju u AI hardveru. Na Computexu ove nedelje, izvršni direktor Pat Gelsinger otkrio je cene za Intelove naredne generacije Gaudi 2 i Gaudi 3 AI akceleratorskih čipova, a brojevi izgledaju disruptivno.

Cene za proizvode poput ovih obično se skrivaju od javnosti, ali Intel je prekinuo taj trend i pružio zvanične cifre. Flagship Gaudi 3 akcelerator će koštati oko 15.000 dolara po jedinici kada se kupi pojedinačno, što je 50% jeftinije od Nvidia-inog konkurentskog H100 GPU-a za data centre.

Gaudi 2, iako manje moćan, takođe drastično snižava cenu u poređenju sa Nvidia-inim proizvodima. Kompletan kit sa 8 Gaudi 2 čipova prodavaće se za 65.000 dolara sistemskim dobavljačima. Intel tvrdi da je to samo trećina cene sličnih konfiguracija od Nvidia i drugih rivala.

Za Gaudi 3, isti komplet sa 8 akceleratora košta 125.000 dolara. Intel insistira da je to dve trećine jeftinije od alternativnih rešenja u tom segmentu vrhunskih performansi.

Intel Gaudi 3 drži korak ili nadmašuje Nvidia H100 u važnim AI scenarijima

Da bismo pružili kontekst za cene Gaudi 3, sveže predstavljeni Nvidia Blackwell B100 GPU košta oko 30.000 dolara po jedinici. U međuvremenu, visokoperformantni Blackwell CPU+GPU kombo, B200, prodaje se za približno 70.000 dolara.

wccftech

Naravno, cena je samo jedan deo jednačine. Performanse i softverski ekosistem su podjednako ključni faktori. Na tom frontu, Intel insistira da Gaudi 3 drži korak sa ili nadmašuje Nvidia H100 u raznim važnim AI treninzima i inferencijskim radnim opterećenjima.

Testovi performansi koje citira Intel pokazuju da Gaudi 3 pruža do 40% brže vreme treniranja od H100 u velikim klasterima od 8.192 čipa. Čak i manji setup sa 64 Gaudi 3 čipa nudi 15% veći protok od H100 na popularnom LLaMA 2 jezičkom modelu, prema kompaniji. Za AI inferenciju, Intel tvrdi da ima 2x prednost nad H100 na modelima poput LLaMA i Mistral.

Međutim, iako Gaudi čipovi koriste otvorene standarde poput Ethernet-a za lakše implementacije, nedostaju im optimizacije za Nvidia-in sveprisutni CUDA platformu na koju se oslanja većina AI softvera danas. Ubeđivanje preduzeća da refaktorišu svoj kod za Gaudi moglo bi biti teško.

Da bi podstakao usvajanje, Intel kaže da je okupio najmanje 10 velikih server dobavljača – uključujući nove partnere za Gaudi 3 poput Asus, Foxconn, Gigabyte, Inventec, Quanta i Wistron. Poznata imena poput Dell, HPE, Lenovo i Supermicro su takođe među partnerima.

Ipak, Nvidia je sila s kojom treba računati u svetu data centara. U poslednjem kvartalu 2023, osvojili su 73% tržišnog udela u procesorima za data centre, a taj broj nastavlja da raste, smanjujući udeo i Intel-a i AMD-a. Tržište GPU-ova za potrošače nije mnogo drugačije, sa Nvidia koja kontroliše 88% tržišnog udela. Za Intel je ovo teška borba, ali ove ogromne razlike u cenama mogu pomoći u smanjenju razlike u prisutnosti na tržištu, prenosi Techspot.