Intel je povećao domet veze između CPU i GPU procesora sa jednog na 100 metara. Da li verujete u svetlost?

Intel je upotrebom “svetlosti” rešio problem računske snage u eri velikih AI modela – predstavio je prvi potpuno integrisani OCI (optički računski interfejs) čip u industriji. U vreme kada AI veliki modeli prate Scaling Law i rastu u obimu, kako bi se postigli bolji rezultati, veličina modela i količina podataka moraju da budu sve veći. To dovodi do većih zahteva za računskom snagom, skladištenjem podataka i bržom komunikacijom, uključujući i I/O komunikaciju.

Intel je rešio problem komunikacije u ovom slučaju: koristeći optički I/O umesto električnog I/O za prenos podataka između CPU i GPU procesora.

Prednosti optičkog I/O

Jednostavno rečeno, prenos podataka se sada obavlja na većim udaljenostima, uz veću količinu podataka i sa manjom potrošnjom energije – sve to je pogodnije za velike AI modele.

Zašto koristiti “svetlost”?

Korišćenjem tradicionalnog električnog I/O interfejsa tj bakarne veze, mogu se postići visoka propusnost i niska potrošnja energije, ali glavni problem je kratko rastojanje prenosa (manje od 1 metra). To je prihvatljivo za jednu policu servera, ali AI veliki modeli obično zahtevaju klastere servera koji zauzimaju više prostora i prelaze nekoliko polica, gde su potrebni kablovi dužine desetina pa čak i stotina metara, što značajno povećava potrošnju energije.

Intel

Korišćenje optičkog I/O omogućava prenos podataka na udaljenostima do 100 metara putem optičkih vlakana, sa podrškom za 64 kanala od 32 Gbps.

Kako Intel ostvaruje ovu inovaciju?

Intel je iskoristio silicijumske fotonske tehnologije, integrisao silicijumski fotonski integrisani krug (PIC) sa laserskim izvorima na čipu, optičke pojačivače i elektronske integrisane krugove. Ovaj OCI čip može se kombinovati sa budućim CPU, GPU, IPU i drugim SOC (sistem na čipu) komponentama.

Performanse i prednosti

Trenutna brzina prenosa podataka dostiže 4 Tbps sa bi-direkcionim protokom podataka, kompatibilan je sa PCIe 5.0 standardom. U jednom optičkom kanalu koristi se 8 različitih talasnih dužina za prenos podataka, što omogućava visoku propusnu moć interfejsa.

OCI čipovi će naći primenu u komunikaciji, kao i u kombinaciji sa CPU i GPU za veliku propunu moć prenosa podataka I/O čipova. Ovo će omogućiti formiranje različitih vrsta računarskih i međusobno povezanih čipova sa izvanrednim potencijalom za primenu. Jasno vam je super-računari su prvo polje primene i rad mega AI modela.

Intelov silicijumski fotonski čip omogućava visoke brzine prenosa podataka na velikim udaljenostima, uz nisku potrošnju energije. Kombinovanjem silicijumskih pojačivača i visokofrekventnih lasera na samom čipu, Intel je omogućio korišćenje običnih optičkih vlakana za stabilan prenos podataka, sa vrlo niskom stopom grešaka i izuzetno niskom potrošnjom energije.

Izvor: Intel