Qualcomm pokazao kako AI radi na telefonima, računarima, automobilima i drugim uređajima

Na nedavno održanom MWC 2024 sajmu u Barseloni, Qualcomm je između ostalog, pokazao i kako AI radi direktno na različitim vrstama uređaja, uz predstavljanje svih komercijalno dostupnih proizvoda koja koriste njegova rešenja zasnovana na veštačkoj inteligenciji.

Jedan od proizvoda je i Qualcomm AI Hub koji olakšava programerima integraciju veštačke inteligencije u aplikacije, a podržava više od 75 različitih AI modela. AI Hub sadrži biblioteku unapred optimizovanih modela veštačke inteligencije za „besprekornu“ primenu aplikacija i usluga na uređajima koje pokreću Qualcomm Snapdragon procesori.

Neki od modela koji spadaju u brojku od 75+ su: Baichuan 7B, ControlNet, Stable Diffusion i Whisper, koji su optimizovani da da dobro rade na lokalnim uređajima. Svaki model je optimizovan da iskoristi prednosti AI akceleratora unutar Qualcomm AI Engine sistema (CPU, GPU i NPU), što rezultira četiri puta bržim zaključivanjem. Programeri mogu lako da integrišu ove modele u svoje aplikacije, što onda dalje rezultira bržim razvojem aplikacija, većim performansama, poboljšanom optimizacijom i nižim troškovima.

Qualcomm

Optimizovani AI modeli dostupni su na sajtovima: GitHub, Hugging face kao i kroz predstavljeni Qualcomm AI Hub. Dizajner čipova naveo je i da će podrška za više AI modela biti dodata na više operativnih sistema i platformi u budućnosti.

Kako AI radi na Android telefonima i Windows laptop računarima

Kompanija je takođe demonstrirala Large Language and Vision Assistant (LLaVA) veliki jezički model (LLM) prvi put na Android pametnom telefonu. On ima preko sedam milijardi parametara i može da prihvati više tipova upita, uključujući slike i tekst. Može da generiše veće i kompleksnije razgovore sa AI asistentom o slikama. Radi sa brzim odzivom tokena, što znači da ima unapređenu privatnost i pouzdanost.

Uz to, Qualcomm je pokazao Low Rank Adaptation (LoRA) LLM na Android pametnom telefonu. Kompanija je pokrenula Stable Diffusion sa ovim modelom, što korisnicima omogućava kreiranje visokokvalitetnih slika sa tekstualnim podsticajima. Oni mogu uneti svoje lične ili umetničke preferencije kako bi dobili željene rezultate zauzvrat.

Qualcomm

Uz to, demonstracija veštačke inteligencije predstavljena je i na telefonima: Honor Magic 6 Pro, Oppo X7 Ultra kao i Xiaomi 14 Pro modelu.

Osim Android telefona, dizajner čipova je pokazao kako AI radi na Windows računaru na osnovu 7B+ parametarskog LLM-a i objasnila da on može da prihvata kako tekstualne, tako i audio upite. Laptop sa Snapdragon X Elite procesorom korišćen je za prikazivanje rada uređaja dok kreira AI-generisanu sliku u roku od sedam sekudni. To je tri puta brže od x86 rešenja konkurenata kao što su AMD i Intel, tvrdi kompanija.

Qualcomm

Qualcomm je prilikom demonstracije koristio besplatni i otvoreni softver za uređivanje slika GIMP sa Stable Diffusion ekstenzijom, primetio je SamMobile.

Potrošački IoT i funkcije veštačke inteligencije na automobilima

Na sajmu su predstavljene i generativne AI mogućnosti Snapdragon Digital Chassis platforme za „povezane“ automobile, odnosno one koji imaju mogućnosti povezivanja na internet. Ova platforma nudi personalizovana iskustva vozačima i putnicima na efikasan, moćan, siguran i pouzdan način.

Humane AI Pin je sa druge strane povezani mobilni uređaj kog pokreće Snapdragon procesor, a koristi potpuno novi način da bez ekrana doživi AI i pronađe informacija o stvarima.

Qualcomm je takođe predstavio Snapdragon X80 Modem-RF System koji koristi AI procesor druge generacije 5G za poboljšanje pokrivenosti, latencije, performansi i efikasnosti napajanja ćelijskih mreža. Zajedno sa njim predstavljen je i FastConnect 7900 sistem za mobilnu povezanost koji predstavlja prvi AI-optimizovani Wi-Fi 7 sistem na svetu, koji podiže lestvicu za prilagodljivu i nisku potrošnju bežične povezanosti o kojima smo već pisali.