WormGPT i FraudGPT – veštačka inteligencija u službi kriminalaca

Na mračnom delu interneta, takozvanom dark webu, hakeri i sajber kriminalci promovišu sopstvene modele veštačke inteligencije WormGPT i FraudGPT, piše Wired. Ovi jezički modeli, mogli bi da povećaju sposobnost prevaranata da pišu fišing poruke, odnosno da lakše izvode internet prevare, ali i da kreiraju malvere, zlonamerne softvere koji mogu zaraziti uređaje.

Međutim, kako to obično biva u svetu prevara, postoji mogućnost i da su ovi četbotovi zapravo sami po sebi prevara. Naime, iako oni koji trguju uslugama ovih modela, tvrde da su to alati koji zaista mogu pomoći u prevarama, to možda i ne mora da bude slučaj. Često se dešava da je u pitanju još jedan proizvod koji ne nudi ono što “bi trebalo”. S obzirom na to da kriminalci nisu baš ljudi od poverenja, to bi zapravo mogla da bude zamka, odnosno pokušaj zarade brzog novca varanjem drugih kriminalaca.

Uprkos tome, istraživanje analitičara sajber bezbednosti pokazuje da se alat WormGPT izgleda zaista koristi i da su rezultati testiranja njegovog rada prilično uznemirujući.

Činjenica je da najmanje od početka jula ove godine, na mračnom delu interneta sajber kriminalci reklamiraju dva velika jezička modela za koje tvrde da su ih sami proizveli. Ovi četbotovi, kako tvrde, rade na istom principu kao popularni modeli tehnoloških kompanija kao što su ChatGPT, Bing Chat, Google Bard i drugi, ali bez ograničenja koje služe da sprečavaju zloupotrebe.

Ukoliko zamolite ove popularne botove da za vas generišu malver ili napišu fišing poruku, oni će to uglavnom odbiti. WormGPT i njemu slični modeli neće.

Rezultati testiranja WormGPT i FraudGPT modela

Naime, samostalni sajber analitičar Danijel Keli zajedno sa firmom NextSlash primetio je WormGPT model na dark webu i odlučio je da ga isproba i testira. Botu su tražili da smisli mejl koji bi mogao da se koristi kao deo prevare o kompromitovanju poslovnih podataka, pri čemu je navodni izvršni direktor pisao menadžeru da mu je zbog toga potrebna hitna uplata.

Shutterstock

Rezultati su bili uznemirujući. Sistem je uspeo da proizvede mejl koji je bio ne samo izuzetno ubedljiv, već i strateški lukav, tvrdi Keli.

U objavama na forumu, programer WormGPT bota tvrdi da je sistem izgrađen na GPTJ jezičkom modelu otvorenog koda koji je razvila istraživačka grupa EleutherAI još tokom 2021. Oni koji model promovišu i prodaju njegove usluge, odbili su pak, da otkriju koji su skupovi podataka korišćeni za obuku bota.

S druge strane, kreator FraudGPT modela tvrdi da je njegov sistem bolji i pruža veći potencijal u prevarama. On bi navodno, kako kaže, mogao da stvori „malver koji se ne može otkriti“ kao i da pronađe ranjivosti uređaja, a uz to i da generiše tekstove koji se mogu koristiti u internet prevarama.

Shutterstock

Istraživač Rakeš Krišnan koji je otkrio FraudGPT na mračnom delu interneta, kaže da osoba koja prodaje njegove usluge reklamira proizvod na više dark web foruma, ali i na Telegram kanalima. Kreator ovog sistema objavio je video koji prikazuje kako četbot radi dok generiše lažne e-mail poruke, a pristup sistemu je moguć za 200 dolara mesečno ili 1.700 dolara, ako platite za celu godinu.

Međutim, Krišnan kaže da su to projekti koji su i dalje u razvoju i da je teško dobiti mnogo povratnih informacija o tome da li ljudi zaista kupuju i koriste ove sisteme, iako njegovi kreatori tvrde da imaju više stotina pretplatnika.

Prevaranti varaju prevarante

Iako uvek postoji mogućnost da prevaranti varaju prevarante, istraživači kažu da kada je u pitanju WormGPT postoje nagoveštaji da ga ljudi zapravo koriste i da je to pravi alat koji nije predmet podvale, dok su u autentičnost FraudGPT modela manje uvereni.

Međutim, istraživački tvrde i da za sada nema znakova da je bilo koji od ovih alata napredniji od komercijalnih četbotova, ali, uz brzi razvoj veštačke inteligencije, definitvno rastu i opasnosti koje ona sa sobom nosi, a ovo je samo jedna od njih.

Naprotiv, do sada je prijavljeno više slučajeva prevare na osnovu slave ChatGPT i drugih modela. Naime, prevaranti su uspeli da nateraju ljude da preuzmu malver za krađu lozinki tako što su kreirali lažne reklame za ChatGPT, Bard i druge generativne AI sisteme na društvenoj mreži Facebook.

Upravo zbog toga, iako četbotovi u službi sajber kriminalaca možda i dalje nisu toliko napredni, internet prevare i hakovanja i dalje postoje, stoga pazite šta klikćete.