Kinezi napravili LightGen čip koji je 100 puta brži i efikasniji od Nvidia AI procesora

Kineski naučnici razvili su optički čip LightGen koji je u testovima ostvario više od sto puta veće prednosti u odnosu na Nvidia A100 kada je reč o brzini i energetskoj efikasnosti u generativnim AI zadacima kao što su sinteza slika, kreiranje videa i 3D scena.

LightGen su zajednički razvili timovi sa univerziteta Shanghai Jiao Tong i Tsinghua, integrišući više od dva miliona fotonskih neurona na površinu od 136,5 mm².

LightGen uvodi fotonsko računanje u novu fazu generativne veštačke inteligencije

Za razliku od klasičnih elektronskih čipova, LightGen koristi pulsirajuću lasersku svetlost umesto elektrona, pa podaci putuju brzinom svetlosti uz minimalnu potrošnju energije. To omogućava kreiranje kompleksnih vizuelnih sadržaja bez tipičnih ograničenja termike, latencije i potrošnje, koja nastaju kod tradicionalnih GPU akceleratora.

U studiji objavljenoj u časopisu Science, tim je opisao ključne tehnološke iskorake: novu optičku arhitekturu za brzi prenos i procesiranje podataka u „optical latent space“ okruženju, novu generativnu metodu učenja bez potrebe za ogromnim skupovima podataka i gustu integraciju fotonskih jedinica kako bi čip mogao da procesuira sadržaje visoke rezolucije.

LightGen je demonstrirao generisanje fotografija životinja u rezoluciji 512×512 piksela, renderovanje 3D scena, stilsku transformaciju i naprednu redukciju šuma. Čip je postigao izmerenu brzinu od 3.57×10⁴ TOPS i energetsku efikasnost od 6.64×10² TOPS/W, što prema autorima predstavlja preko 100 puta bolje performanse od Nvidia A100 GPU procesora u realnim generativnim zadacima.

Iako je fotonsko računanje dugo važilo za tehnologiju budućnosti, LightGen pokazuje da se prelazak ka optičkim AI akceleratorima približava praktičnoj primeni. Naučnici smatraju da bi ovakva rešenja mogla značajno smanjiti energetske zahteve generativnih AI modela i postati osnova nove generacije hardvera za kreativne i intenzivne zadatke, prenosi MSN.