Čip od jednog milivata igra Doom

Čipovi veoma male potrošnje se u današnje vreme koriste za razne stvari, uglavnom u situacijama gde je potrebno da rade konstantno uz što manju upotrebu energije. Ono što od njih najmanje očekujemo je da u slobodno vreme igraju Doom.

Na konferenciji podužeg imena – IEEE International Solid State Circuits Conference (ISSCC) u San Francisku ove nedelje, kompanija Syntiant bazirana u mestu Irvine u Kaliforniji, demonstrirala je svoj NDP200 always-on machine-learning čip potrošnje svega jednog miliwata. Ovaj ultraefikasni čip dizajniran je da pokreće neuralne mreže koje nadgledaju video sa sistema za nadzor i aktiviraju druge delove sistema kada uoče da za to postoji potreba. No, izgleda da se u ovom čipu krije i talenat za gaming.

David Garrett, član IEEE i do nedavno glavni arhitekta Syntianta i potpredsednik inžinjeringa, izjavio je da je ovaj čip istreniran da igra Doom kako bi se demonstriralo da je moguće postići veštu detekciju i obavljanje akcija čak i pri ovako maloj potrošnji.

Syntiant je za demonstraciju koristio VizDoom, light verziju prve generacije Doom-a koja je popularna u AI istraživanju. Tim je koristio pojačano učenje (sistem u kome mašina dobija povratnu informaciju o uspehu pokušavajući da dostigne što veću tačnost) kako bi istrenirao neuralnu mrežu koja se sastoji iz nekoliko slojeva. Prvi sloj je zadužen za razumevanje onoga što mreža vidi, a drugi za preduzimanje akcije kao odgovor na to.

Mreža se sastoji iz 600,000 parametara, ne u milijardama kao kod ChatGPT, ali i dalje znatno više od 10,000 koliko se koristi svaki put kada izgovorite “OK, Google.” NDP200 ima 640 kilobajta sopstvene memorije za parametre neuralne mreže.

Doom nivo u videu koji demonstrira ovo se zove “Defend the Circle” i u njemu se igrač prosto kreće u okviru kružne sobe pucajući na sve što vidi. Garrett kaže da je tokom treninga neuralna mreža prvo morala da identifikuje šta su protivnici, a zatim i da nauči da puca na njih. Nakon prvog ubistva NDP200 je potrošio svu municiju i ubrzo shvatio da to nije dobra strategija. Mreža je ubrzo naučila i kako da štedi municiju. Garret, koji je originalnu verziju Doom-a igrao početkom devedesetih godina prošlog veka kao student, kaže da je NDP200 sada verovatno bolji igrač od njega.

Koliko god Doom demonstracija bila zanimljiva, NDP200 je ipak pravljen za praktične primene, poput detekcije osoba, što je zadatak koji se mahom poverava znatno moćnijim procesorima. Syntiant čip bi mogao obavljati detekciju osoba kao korak za uštedu energije u kući ili alarmnim sistemima u automobilima.

Da bi demonstrirao energetsku efikasnost, Syntiant je uporedio NDP200 sa Arm Cortex A53 baziranim procesorom koji pokreće verziju MobileNetV1 sa 200,000 parametara, što je test koji koristi MLPerf u proceni kako sistemi reaguju na vizuelno. NDP200 koristi svega 166 mikrodžula za svaki sken slike, što je oko stoti deo onoga što potroši Arm procesor. Dakle, Syntiant čip skenira 6fps video trošeći 1mW.

Tajna uspeha je u ovom slučaju posebno kreirana magistrala kroz koju u čip stiže ogromna količina podataka, što po rečima Garetta, omogućuje da se računske mogućnosti čipa za mašinsko učenje iskoriste do maksimumahraneći ga sa do 9 gigabajta podataka u sekundi. On nije naveo šta je sledeće u razvoju ove Syntiant tehnologije, ali očekuje znatno zanimljivije primene. “Pola miliona parametara je dovoljno da se u Edge uređajima obavljaju zaista dobre stvari”, rekao je Garrett.