AMD zvanično lansirao Instinct MI300 AI akceleratore za datacentre i ROCm 6 softverski paket

AMD je na specijalno organizovanom “Advancing_AI” događaju ugostio lidere industrije, uključujući Microsoft, Meta, Oracle, Dell Technologies, HPE, Lenovo, Supermicro, Broadcom i Cisco da pokažu kako ove kompanije sarađuju sa AMD-om na isporuci naprednih AI rešenja koja se protežu od oblaka do preduzeća i računara. AMD je na “Advancing_AI” događaju lansirao više novih proizvoda, uključujući AMD Instinct MI300 seriju AI akceleratora za datacentre, ROCm™ 6 otvoreni softverski paket sa značajnim optimizacijama i novim funkcijama koje podržavaju modele velikih jezika (LLM) i Ryzen™ 8040 seriju procesora sa Ryzen AI.

“AI je budućnost računarstva i AMD je na jedinstvenoj poziciji da pokreće infrastrukturu od kraja do kraja koja će definisati ovu AI eru, od masivnih instalacija u oblaku do poslovnih klastera i inteligentnih ugrađenih uređaja i računara s AI-om,” rekla je predsednica i AMD-ov CEO dr Lisa Su. “Vidimo veoma veliku potražnju za našim novim Instinct MI300 GPU-ovima, koji su akceleratori najvećih performansi na svetu za generativnu AI. Takođe ubrzavamo značajan zamah za naše AI rešenja za datacentre sa najvećim kompanijama u oblaku, vodećim dobavljačima servera u industriji i najinovativnijim AI startupovima sa kojima blisko sarađujemo kako bismo brzo predstavili Instinct MI300 rešenja na tržištu koja će dramatično ubrzati tempo inovacija u celokupnom AI ekosistemu .”

Instinct MI300 – Unapređenje AI centara podataka od oblaka do poslovnih datacentara i superračunara

AMD-u se pridružilo više partnera tokom događaja kako bi istakli snažno usvajanje i rastući zamah za AMD Instinct data centar AI akceleratore.

· Microsoft je detaljno opisao kako implementira AMD Instinct MI300X akceleratore za pokretanje nove Azure ND MI300x v5 serije virtuelnih mašina (VM) optimizovanih za AI radna opterećenja.

· Meta je istakla da kompanija dodaje AMD Instinct MI300X akceleratore u svoje centre podataka u kombinaciji sa ROCm 6 kako bi pokretala radna opterećenja inferencije AI i prepoznala ROCm 6 optimizacije koje je AMD uradio na porodici modela Llama 2.

AMD

· Oracle je predstavio planove za ponudu OCI golih računarskih rešenja koja sadrže AMD Instinct MI300X akceleratore, kao i planove da uključi AMD Instinct MI300X akceleratore u svoju nadolazeću generativnu uslugu AI.

· Najveći provajderi infrastrukture data centara najavili su planove za integraciju AMD Instinct MI300 akceleratora u svoje portfelje proizvoda. Dell je najavio integraciju AMD Instinct MI300X akceleratora sa njihovim PowerEdge XE9680 serverskim rešenjem kako bi pružio revolucionarne performanse za generativna AI radna opterećenja u modularnom i skalabilnom formatu za klijente. HPE je najavio planove da uvede AMD Instinct MI300 akceleratore u svoje poslovne i HPC ponude. Lenovo je podijelio planove da uvede AMD Instinct MI300X akceleratore na Lenovo ThinkSystem platformu kako bi isporučio AI  rešenja u svim industrijama, uključujući maloprodaju, proizvodnju, finansijske usluge i zdravstvenu zaštitu. Supermicro je najavio planove da ponudi AMD Instinct MI300 GPU u svom portfelju AI rešenja. Asus, Gigabyte, Ingrasys, Inventec, QCT, Wistron i Wiwynn takođe planiraju da ponude rešenja zasnovana na AMD Instinct MI300 akceleratorima.

· Specijalizovani dobavljači AI oblaka, uključujući Aligned, Arkon Energy, Cirrascale, Crusoe, Denvr Dataworks i Tensorwaves, svi planiraju da pruže ponude koje će proširiti pristup AMD Instinct MI300X GPU-ovima za programere i AI startupove.

Dovođenje otvorene, dokazane i spremne AI softverske platforme na tržište

AMD je istakao značajan napredak u širenju softverskog ekosistema koji podržava AMD Instinct data-centar akceleratore.

AMD je predstavio najnoviju verziju softverskog paketa otvorenog koda za AMD Instinct GPU, ROCm 6, koji je optimizovan za generativnu veštačku inteligenciju, posebno za velike jezičke modele. ROCm 6 se može pohvaliti podrškom za nove tipove podataka, napredne optimizacije grafova i kernela, optimizovane biblioteke i najsavremenije algoritme pažnje, koji zajedno sa MI300X isporučuju ~8x povećanje performansi za ukupno kašnjenje u generisanju teksta na Llama 2 u poređenju sa ROCm 5 koji radi na MI250.

AMD

· Databricks, Essential AI i Lamini, tri AI startupa koji grade nove modele i AI rešenja, pridružili su se AMD-u na pozornici kako bi razgovarali o tome kako koriste AMD Instinct MI300X akceleratore i otvoreni ROCm 6 softverski paket za isporuku diferenciranih AI rešenja za poslovne korisnike.

· OpenAI dodaje podršku za AMD Instinct akceleratore u Triton 3.0, pružajući gotovu podršku za AMD akceleratore koji će omogućiti programerima da rade na višem nivou apstrakcije na AMD hardveru.

Kontinuirano AMD vođstvo u unapređenju AI na PC-u

Sa milionima do sada isporučenih računara sa veštačkom inteligencijom, AMD je najavio nove vodeće mobilne procesore lansiranjem najnovije AMD Ryzen 8040 serije procesora koji pružaju još više AI računarskih sposobnosti. AMD je takođe lansirao Ryzen AI 1.0 – softverski paket koji omogućava programerima da lako implementiraju aplikacije koje koriste unapred obučene modele za dodavanje AI mogućnosti za Windows aplikacije.

AMD je takođe otkrio da će nadolazeća generacija “Strix Point” APU-a, planirana za lansiranje 2024. godine, uključivati arhitekturu XDNA™ 2 koja će isporučiti više od 3x povećanja performansi AI računara u odnosu na prethodnu generaciju što će omogućiti nova generativna AI iskustva. Microsoft se također pridružio kako bi razgovarali o tome kako blisko sarađuju sa AMD-om na budućim AI iskustvima za Windows računare.

Dodatni resursi

• Pogledajte kompletan AMD napredni AI Keynote
• Pročitajte više o najavama tokom Napretka AI ovde
• Saznajte više o AMD 30×25 inicijativi za energetsku efikasnost ovde
• Pročitajte ovde ovde više informacija o akceleratorima serije AMD Instinct MI300, ROCm 6 i rastućem ekosistemu AMD-ovih AI rešenja.