Samsung predstavio hibridnu memoriju koja kombinuje DRAM i NAND

Novi CXL uređaj kompanije Samsung nazvan CMM-H TM (CXL Memory Module-hybrid for Tiered Memory) predstavlja hibridnu memoriju koja kombinuje DRAM i NAND. On ima dodatni RAM i fleš memoriju kojoj procesori i akceleratori mogu daljinski da pristupe.

Kombinacija DRAM i NAND fleš memorije u ovoj postavci treba da pruži ekonomičan način za povećanje kapaciteta memorije za servere bez korišćenja lokalno instalirane DDR5 memorije, što često nije opcija u preopterećenim serverima.

Samsung rešenje koristi Compute Express Link (CXL), otvoreni industrijski standard koji pruža koherentnu interkonekciju između procesora i akceleratora, omogućavajući procesorima da koriste iste memorijske regione kao povezani uređaji koji koriste CXL. Daljinska memorija, ili u ovom slučaju, uređaj hibridne RAM/fleš memorije, dostupna je preko PCIe magistrale, što dolazi sa troškom od oko 170-250 ns latencije, što je otprilike trošak jednog NUMA (Non-uniform memory access) skoka.

CMM-H TM je odvojeni proizvod od Samsung CMM-H CXL memorije. Samsung tvrdi da je ovo prva FPGA-bazirana višeslojna CXL memorija dizajnirana da „reši izazove upravljanja memorijom, smanji vreme nedostupnosti, optimizuje raspored za višeslojnu memoriju i maksimizira performanse, sve to značajno smanjujući ukupne troškove posedovanja“.

Samsung

Iako nova CMM-H memorija nije brza kao DRAM, dodaje veliku količinu kapaciteta putem NAND fleš memorije, ali smanjuje značajnu latenciju sa pametnom memorijskom keš funkcijom ugrađenom u uređaj za proširenje. Podaci koji se često koriste premeštaju se na DRAM čipove kako bi se poboljšala brzina, dok se manje korišćeni podaci čuvaju u NAND memoriji.

Samsung kaže da se ovo ponašanje dešava automatski, ali neke aplikacije i opterećenja mogu da daju uređaju smernice kako bi poboljšali performanse putem API-ja. Ovo će prirodno dodati odrešeno kašnjenje za keširane podatke, što nije idealno za sve scenarije, piše Tom’s Hardware.

Međutim, nova Samsung kartica za proširenje memorije pružiće svojim korisnicima nove načine za proširenje kapaciteta memorije svojih servera. Ova nova dizajnerska paradigma postaje sve važnija, kako napredniji veliki jezički modeli nastavljaju da zahtevaju više memorije od svojih „host“ mašina i akceleratora.