Lightmatter predstavio fotonski AI čip sa 6 jezgara i izuzetnom efikasnošću: Budućnost je u svetlu!

Kompanija Lightmatter predstavila je svoj najnoviji fotonski procesor, koji predstavlja radikalni zaokret u odnosu na tradicionalne računarske arhitekture. Novi sistem objedinjuje šest čipova u jednom trodimenzionalno upakovanom modulu, pri čemu svaki čip sadrži fotonske tenzorske jezgre i kontrolne jedinice koje zajedno ubrzavaju AI obradu.

Detaljno opisan u časopisu Nature, procesor kombinuje oko 50 milijardi tranzistora sa milion fotonskih komponenti povezanih putem brzih optičkih veza. U vreme kada su se tradicionalne metode skaliranja – poput Murovog zakona, Denardovog skaliranja i udvostručavanja DRAM kapaciteta – približile fizičkim granicama po jedinici silicijuma, Lightmatter donosi rešenje u vidu adaptivnog “block floating point” (ABFP) formata sa analognom kontrolom pojačanja.

Tokom matričnih operacija, težine i aktivacije grupišu se u blokove koji dele zajednički eksponent određen na osnovu najznačajnije vrednosti, čime se minimizuju greške kvantizacije.

Lightmatter

Procesor postiže impresivnih 65,5 triliona 16-bitnih ABFP operacija u sekundi uz svega 78 W električne i 1,6 W optičke snage. Ono što ga izdvaja jeste mogućnost pokretanja neizmenjenih AI modela gotovo identične tačnosti kao FP32 formati. Sistem bez problema izvršava modele pune veličine, poput ResNet-a za klasifikaciju slika, BERT-a za obradu prirodnog jezika i DeepMind-ovih Atari algoritama za učenje pojačanjem – i to bez dodatnog treniranja ili prilagođavanja kvantizaciji.

Ovo je prvi komercijalno dostupan fotonski AI akcelerator sposoban da pokreće modele „iz kutije“ bez dodatne optimizacije. Arhitektura zasnovana na svetlosti omogućava rešenje problema visokih troškova i energetske zahtevnosti sledeće generacije GPU-ova. Uz nativnu podršku za popularne AI okvire poput PyTorch-a i TensorFlow-a, Lightmatter cilja na brzu primenu u realnim AI okruženjima.