Gigabyte ima alat za lokalni trening vašeg AI modela, dizajniranog da radi sa novom linijom MB, GPU, SSD i PSU hardvera

Koristeći novi alat sa preporučenim Gigabyte hardverom, korisnici mogu lokalno obučavati i fino podešavati AI modele sa do 236 milijardi parametara ili više. Prethodno, obuka AI modela ove veličine obično je zahtevala pomoć udaljenog data centra

Gigabyte ima alat za lokalni trening vašeg AI modela, dizajniranog da radi sa novom linijom MB, GPU, SSD i PSU hardvera

Novi alat za AI TOP, baziran na Linux-u, radi sa hardverom koji je Gigabyte posebno dizajnirao za pokretanje AI modela. Lista uključuje matične ploče, SSD-ove sa AI TOP oznakom, grafičke kartice i napajanja. Trenutno, namenski web sajt uključuje jedno napajanje i jednu matičnu ploču, kao i dva SSD-a i tri grafičke kartice.

Prema navodima proizvođača, druge Gigabyte grafičke kartice takođe bi trebalo da rade sa AI TOP softverom. To uključuje Gigabyte Nvidia GeForce RTX 40 seriju grafičkih kartica, AMD Radeon RX 7900 serije, Radeon Pro W7900 i W7800 serije.

Gigabyte vam pomaže da sami trenirate AI model u lokalu

AI TOP je već postavljen da podržava više od 70 open-source LLM modela na Hugging Face. To uključuje Baichuan 2, Distill-GPT2, GLM4, Llama 2 i Llama 3 i mnoge druge. Dok Hugging Face ima više od 770.000 različitih modela, izbor u AI TOP je ograničen nekoliko faktora, uključujući ograničenje kapaciteta memorije u onome što je još uvek desktop PC hardver.

Izvođenjem fino podešavanja AI modela lokalno, korisnici mogu biti sigurniji da njihovi osetljivi podaci ostaju sigurni i privatni tokom treninga modela. Korisnici ne moraju imati veštine programera za AI da bi koristili alat, a kontrolna tabla olakšava praćenje stanja opterećenja hardvera i kvaliteta obuke.

Prijavi se na nedeljni Benchmark newsletter
Hvala!

Uspešno ste se prijavili na na naš newsletter! Proverite vaš email nalog kako bi potvrdili prijavu.

Gigabyte je pojednostavio ono što je nekada bio složen niz komandi za obuku AI modela kroz podešavajuće stavke i lako operativne opcije za fino podešavanje. Obezbeđuje ono što Gigabyte naziva „prijateljskim grafičkim korisničkim interfejsom“ kako bi pomogao početnicima i iskusnijim korisnicima da razumeju informacije i podešavanja.

Gigabyte-ov softver takođe uključuje AI TOP Tutor, AI tehnologiju koja pomaže sa konsultacijama za AI TOP rešenja, smernice za postavljanje i tehničku podršku za početnike i napredne operatore AI modela. Alat radi samo pod Linux-om i besplatno je dostupan za preuzimanje sa Gigabyte web stranice.

Ostani u toku

Prijavi se na newsletter listu i jednom nedeljno cemo ti poslati email sa najnovijim testovima i vestima iz sveta tehnologije.

Hvala!

Uspešno ste se prijavili na na naš newsletter! Proverite vaš email nalog kako bi potvrdili prijavu.

Komentari (0)

Nema komentara 😞

Trenutno nema komentara vezanih za ovu vest. Priključi se diskusiji na Benchmark forumu i budi prvi koje će ostaviti komentar na ovaj članak!

Pridruži se diskusiji
Možda vam se svidi