Gigabyte ima alat za lokalni trening vašeg AI modela, dizajniranog da radi sa novom linijom MB, GPU, SSD i PSU hardvera

Novi alat za AI TOP, baziran na Linux-u, radi sa hardverom koji je Gigabyte posebno dizajnirao za pokretanje AI modela. Lista uključuje matične ploče, SSD-ove sa AI TOP oznakom, grafičke kartice i napajanja. Trenutno, namenski web sajt uključuje jedno napajanje i jednu matičnu ploču, kao i dva SSD-a i tri grafičke kartice.

Prema navodima proizvođača, druge Gigabyte grafičke kartice takođe bi trebalo da rade sa AI TOP softverom. To uključuje Gigabyte Nvidia GeForce RTX 40 seriju grafičkih kartica, AMD Radeon RX 7900 serije, Radeon Pro W7900 i W7800 serije.

Gigabyte vam pomaže da sami trenirate AI model u lokalu

AI TOP je već postavljen da podržava više od 70 open-source LLM modela na Hugging Face. To uključuje Baichuan 2, Distill-GPT2, GLM4, Llama 2 i Llama 3 i mnoge druge. Dok Hugging Face ima više od 770.000 različitih modela, izbor u AI TOP je ograničen nekoliko faktora, uključujući ograničenje kapaciteta memorije u onome što je još uvek desktop PC hardver.

Gigabyte

Izvođenjem fino podešavanja AI modela lokalno, korisnici mogu biti sigurniji da njihovi osetljivi podaci ostaju sigurni i privatni tokom treninga modela. Korisnici ne moraju imati veštine programera za AI da bi koristili alat, a kontrolna tabla olakšava praćenje stanja opterećenja hardvera i kvaliteta obuke.

Gigabyte je pojednostavio ono što je nekada bio složen niz komandi za obuku AI modela kroz podešavajuće stavke i lako operativne opcije za fino podešavanje. Obezbeđuje ono što Gigabyte naziva „prijateljskim grafičkim korisničkim interfejsom“ kako bi pomogao početnicima i iskusnijim korisnicima da razumeju informacije i podešavanja.

Gigabyte-ov softver takođe uključuje AI TOP Tutor, AI tehnologiju koja pomaže sa konsultacijama za AI TOP rešenja, smernice za postavljanje i tehničku podršku za početnike i napredne operatore AI modela. Alat radi samo pod Linux-om i besplatno je dostupan za preuzimanje sa Gigabyte web stranice.