Nvidia predstavila NeMo Guardrails, alat za kreiranje bezbednijih AI modela

Nvidia je prošlog meseca počela da nudi AI Foundations, uslugu koja omogućava preduzećima da obučavaju velike jezičke modele (LLM) na sopstvenim vlasničkim podacima. Juče je kompanija zvanično predstavila NeMo Guardrails, alat dizajniran da pomogne programerima da njihovi generativni AI alati budu tačni, prikladni i bezbedni.

NeMo Guardrails omogućava softverskim inženjerima da primene različite vrste ograničenja na svoje interne velike jezičke modele. Nvidia je rekla da kompanije mogu da ograniče AI modele na određene teme. Primera radi, AI četbot koji je dizajniran za korisničku podršku neće moći da odgovara na pitanja o vremenu ili razgovara o bilo čemu drugom što nije njegova oblast. Pored toga, postoji mogućnost da se postave bezbednosna ograničenja koja su dizajnirana da osiguraju da jezički modeli prikupljaju tačne informacije i da se povezuju sa aplikacijama za koje se zna da su bezbedne.

Nvidia kaže da NeMo Guardrails radi sa svim velikim jezičkim modelima, uključujući ChatGPT. Štaviše, kompanija tvrdi da skoro svaki programer može da koristi ovaj softver, jer navodno nema potrebe da budete stručnjak za mašinsko učenje ili za podatke. Pošto je NeMo Guardrails otvorenog koda, Nvidia napominje da će takođe raditi sa svim alatima koje programeri već koriste.

Shutterstock

Nvidia je dodala NeMo Guardrails u svoj postojeći NeMo okvir za izgradnju generativnih AI modela. Korisnici mogu dobiti pristup NeMo-u preko softverske platforme AI Enterprise.

Ako želite da detaljno zaronite u to kako NeMo Guardrails funkcioniše, Nvidia je objavila post na svom blogu u kojem je sve detaljno objašnjeno.