Samsung predstavio HBM3e memoriju većeg kapaciteta za bržu obuku i zaključivanje veštačke inteligencije

Ljubitelji akronima HBM će se obradovati pošto je Samsung predstavio HBM3e memoriju, odnosno novi DRAM memorijski čip sa naprednom TC NCF tehnologijom. Šta to, međutim, znači za sve ostale? HBM kao akronim enegleskih reči „high namdwidth memory“ predstavlja memoriju visokog propusnog opsega, a u ovom slučaju, ona će sa narednom TC NCF tehnologijom doneti poboljšana termička svojstva uređajima koja će im pomagati u hlađenju.

U oktobru prošle godine, južnokorejski tehnološki div je predstavio HBM3e Shinebolt, unapređenu verziju treće generacije memorije visokog propusnog opsega koja postiže 9,8 Gbps u maksimlanoj brzini transfera podataka i 1,2 TB u sekundi kada je u pitanju ceo paket.

Sada dolazi HBM3e 12H DRAM memorijski čip, koji u stvari predstavlja broj čipova koji su vertikalno složeni u svakom modelu, 12 u ovom slučaju. To je način da se više memorije stavi u modul, a Samsung je dostigao 36 GB sa svojim 12H kućištem, što je 50 posto više od 8H dizajna. Propusni opseg, međutim, ostaje na 1,2 terabajta u sekundi.

Na strani TC NCF tehnologije, koja je takođe akronim od reči „Thermal Compression Non-Conductive Film“, imamo u stvari materijal koji se nalazi između slojeva čipova. Samsung radi na tome da ga učini tanjim, sada je debljine 7 µm, pa je 12H stek otprilike iste visine kao i 8H, što omogućava upotrebu istog HBM pakovanja.

Samsung

Dodatna korist od TC NCF je poboljšanje termalnih svojstava kako bi se poboljšalo hlađenje. Još bolje, metoda korišćena u ovom novom HBM3E 12H DRAM čipu takođe poboljšava prinos u proizvodnji.

Ova memorija koristiće se u aktuelnom trendu, koji je naravno veštačka inteligencija. To je stvar koja zahteva veliki RAM, a u prilog tome koliko je on bitan govori i to da je Nvidia prošle godine dodala Samsung na svoju listu dobavljača HBM memorije.

Samsung

Nvidia H200 Tensor Core GPU, na primer, ima 141 GB HBM3e koji radi na ukupno 4,8 terabajta u sekundi. Ovo je daleko iznad onoga što imamo prilike da vidimo na komercijalnim grafičkim procesorima sa GDDR memorijom. Na primer, grafička karta Nvidia GeForce RTX 4090 ima GDDDR6 od 24 GB koji radi na „samo“ jedan terabajt u sekundi.

U svakom slučaju, prema različitim medijiskim izveštajima, H200 koristi šest 24 GB HBM3E 8H modula od kompanije Micron. Isti taj kapacitet može se postići sa samo četiri 12H modula, ili alternativno, 216 GB kapaciteta može se postići sa šest 12H modula.

Prema Samsung procenama, dodatni kapacitet njegovog novog 12H dizajna ubrzaće obuke veštačke inteligencije za 34 posto i omogućiće AI modelima bolje zaključivanje, dajući im priliku da obrade „više od 11,5 puta“ veći broj korisnika.

Više o novitetima sa ovogodišnjeg MWC sajma pratite na našem sajtu, kao i u direktnom izveštavanju redakcije na društvenim mrežama i YouTube kanalu.