Meta je za korak ispred drugih, testira svoj prvi RISC-V AI čip za obuku veštačke inteligencije 

Meta je, prema izveštajima, započela testiranje svog prvog RISC-V baziranog akceleratora namenjenog obuci AI modela. Ovaj potez dolazi nekoliko godina nakon što je kompanija razvila sopstvene RISC-V čipove za AI inferenciju, smanjujući zavisnost od Nvidijinih GPU-ova. Sada, uz podršku Broadcoma, Meta je dizajnirala specijalni, namenski procesor za obuku veštačke inteligencije, koji je proizveden u TSMC pogonima. 

Ako novi čip ispuni očekivanja, Meta bi mogla značajno da smanji potrebu za korišćenjem Nvidia GPU-ova, poput H100/H200 i B100/B200, koji se trenutno koriste za treniranje velikih jezičkih modela. 

Specifikacije čipa i arhitektura 

Meta nije otkrila detalje o specifikacijama čipa, ali se pretpostavlja da koristi arhitekturu sistoličkog niza, koja je standardna za AI treniranje. Ova arhitektura omogućava efikasnu obradu velikih količina podataka kroz mrežu identičnih procesorskih elemenata. 

S obzirom na zahteve AI obuke, čip će najverovatnije koristiti HBM3 ili HBM3E memoriju, a Meta je mogla prilagoditi podržane formate velikih baza podataka i instrukcije kako bi optimizovala veličinu, potrošnju energije i performanse. Da bi ovaj procesor imao tržišni uspeh, morao bi da pruži konkurentne performanse u odnosu na Nvidia AI GPU-ove, poput B200 ili sledećeg B300. 

Izazovi i Meta-in plan za budućnost 

Program Meta Training and Inference Accelerator (MTIA), u okviru kojeg je razvijen ovaj čip, imao je prethodne neuspehe. Meta je 2022. godine morala da obustavi razvoj svog procesora za inferenciju, jer nije ispunio očekivanja u pogledu performansi i potrošnje energije, što je kompaniju primoralo da naruči velike količine Nvidia GPU-ova. 

Uprkos tim izazovima, Meta nastavlja da razvija sopstvena rešenja. Već je uvela MTIA čip za inferenciju prošle godine, a planira da počne sa korišćenjem svojih čipova za AI treniranje do 2026. godine. Ako novi čip ispuni ciljeve, kompanija će postepeno povećavati njegovu primenu, smanjujući potrebu za kupovinom eksternih rešenja. 

RISC-V je ključ za fleksibilnost 

Meta MTIA akceleratori za inferenciju već koriste RISC-V jezgra, što omogućava kompaniji da prilagođava arhitekturu procesora bez plaćanja licenci drugim kompanijama. Ako se potvrdi da i novi AI trening akcelerator koristi RISC-V, Meta bi mogla da postane lider u razvoju RISC-V čipova visokih performansi za veštačku inteligenciju, dodatno učvršćujući svoj dugoročni cilj hardverske samostalnosti, piše Tomshardware.