Cveta crno tržište nelegalnih AI modela

ChatGPT-ovih 200 miliona nedeljnih aktivnih korisnika pomogli su da OpenAI, kompanija koja stoji iza ovog četbota, dostigne vrednost od 100 milijardi dolara. Međutim, izvan mejnstrima, postoji mnogo prostora za zarađivanje novca – posebno ako se cilja na klijentelu u podzemlju..

Nelegalni veliki jezički modeli (LLM) mogu zaraditi do 28.000 dolara za dva meseca prodajom na “sivom” tržištu, prema studiji objavljenoj prošlog meseca na *arXiv*-u, serveru za preprint publikacije u vlasništvu Univerziteta Kornel.

To je samo vrh ledenog brega, navodi se u studiji koja je istražila više od 200 primera zlonamernih LLM-ova (Malicious LLM ili MALA) navedenih na nelegalnim tržištima između aprila i oktobra 2023. godine. Ovi modeli spadaju u dve kategorije: one koji su potpuno necenzurisani, često zasnovani na otvorenim standardima, i one koji koriste “jailbreak” tehnike za izbegavanje ograničenja komercijalnih LLM-ova pomoću specifičnih uputstava.

„Verujemo da je sada pravo vreme da počnemo da proučavamo ove modele, jer ne želimo da čekamo dok se velika šteta već ne dogodi,“ kaže Sjaofeng Vang, profesor na Univerzitetu Indiana u Blumingtonu i jedan od koautora studije. „Želimo da preduhitrimo napadače pre nego što nanesu ogromnu štetu.“

AI modeli ciljaju crno tržište

Iako hakeri povremeno mogu zaobići ugrađena ograničenja u komercijalnim LLM-ovima koja sprečavaju nezakonite ili sumnjive aktivnosti, takvi slučajevi su retki. Umesto toga, da bi zadovoljili potražnju, pojavili su se nelegalni LLM-ovi. Očekivano, oni koji ih kreiraju žele na tome da zarade.

„Otkrili smo da većina MALA usluga na podzemnim forumima postoji uglavnom radi zarade,“ kaže Zilong Lin, istraživač na Univerzitetu Indiana i drugi koautor rada.

Shutterstock

Ovi zlonamerni LLM-ovi mogu se koristiti na različite načine, od pisanja fišing mejlova (druga studija procenjuje da LLM-ovi mogu smanjiti troškove proizvodnje ovakvih poruka za 96%) do razvoja malvera za napade na veb-sajtove.

Sposobnosti ovih crno-tržišnih LLM-ova da izvršavaju zadatke variraju, ali neki su posebno moćni alati. Lin i Vang su otkrili da su dva necenzurisana LLM-a, *DarkGPT* (koji košta 78 centi za svakih 50 poruka) i *Escape GPT* (pretplatnička usluga koja košta 64,98 dolara mesečno), uspešno proizvodili tačan kod u oko dve trećine slučajeva, a antivirusni alati nisu detektovali njihov kod, čime se povećava verovatnoća uspešnog napada na računar.

Pojava zlonamernih LLM-ova

Još jedan zlonamerni LLM, *WolfGPT*, koji košta 150 dolara za pristup, pokazao se kao moćan alat za kreiranje fišing mejlova, uspešno izbegavajući većinu detektora neželjene pošte, piše Fastcompany.

Prema Vangu, postojanje takvih zlonamernih AI alata ne bi trebalo da bude iznenađenje. „Skoro je neizbežno da sajberkriminalci koriste AI,“ kaže Vang. „Svaka tehnologija dolazi sa dve strane.“

Endru Hundt, istraživač sa Univerziteta Karnegi Melon, koji nije učestvovao u studiji, kaže da autori „demonstriraju kako zlonamerni korisnici uspevaju da preprodaju korporativne usluge za zlonamerne svrhe.“

Hundt veruje da bi kreatori politika trebalo da uvedu pravila po kojima AI kompanije razvijaju i implementiraju politike “poznaj svog korisnika” kako bi verifikovale identitet korisnika. „Takođe nam trebaju pravni okviri kako bismo osigurali da kompanije koje kreiraju ove modele i pružaju usluge to čine odgovornije, na način koji ublažava rizike koje predstavljaju zlonamerni činioci,“ kaže Hundt.

Vang, sa svoje strane, ističe da je istraživanje poput onog koje sprovodi njegov tim samo početak u borbi protiv sajberkriminalaca. „Možemo razvijati tehnologije i pružati uvide kako bismo pomogli,“ kaže, „ali ne možemo potpuno zaustaviti ove aktivnosti jer nemamo dovoljno resursa.“