Veštačka inteligencija će ratovati umesto nas

Palantir, kompanija milijardera Pitera Tiela, lansira Palantir Artificial Intelligence Platform (AIP), softver namenjen za pokretanje velikih jezičkih modela kao što je GPT-4 na privatnim mrežama u čijoj je osnovi veštačka inteligencija. Kompanija je demonstrirala kako vojska može da koristi AIP za vođenje rata.

U jednom videu, operater je koristio četbota sličnog ChatGPT-u da naredi izviđanje dronom, generiše nekoliko planova napada i organizuje ometanje neprijateljskih komunikacija.

U Palantirovom scenariju, “vojni operater odgovoran za praćenje aktivnosti u istočnoj Evropi” dobija upozorenje od AIP-a da neprijatelj gomila vojnu opremu u blizini prijateljskih snaga. Operater zatim traži od četbota da mu pokaže više detalja, nakon što je dobio malo više informacija, pitao je veštačku inteligenciju da pogodi kakve vojne jedinice ima neprijatelj.

Nakon što je veštačka inteligencija pružila malo bolju sliku o tome šta se dešava, operater je zatražio bolje fotografije bojnog polja. AI u tom trenutku pokreće drona koji odlazi u izviđanje i pronalazi tenk T-80, rusko vozilo iz sovjetske ere, u blizini prijateljskih snaga, piše Motherboard.

Operater zatim pita veštačku inteligenciju šta da radi u vezi s tim. Kako se navodi u snimku, AIP mu je generisao tri moguća načina za gađanje neprijatelja, a zatim je poslao ove opcije uz komandni lanac. Opcije su bile artiljerija velikog dometa ili Javelin projektili. Ovaj AI će čak obavestiti sve da li obližnje prijateljske trupe imaju dovoljno Javelin raketa za ovu misiju.

Ljudi su praktično nebitni u celom procesu

Palantirov projekat je, naravno, neverovatno opasan i čudan. Iako postoji “ljudski faktor” u AIP demonstraciji, čini se da ljudi ne rade ništa više od toga da pitaju četbota šta da rade, a zatim da odobre njegove akcije. Rat dronovima je već apstrahovao ratovanje, olakšavajući ljudima da ubijaju sa velike udaljenosti samo pritiskom na dugme. Posledice tih sistema su dobro dokumentovane. U Palantirovoj viziji budućnosti vojske, više sistema bi bilo automatizovano i apstrahovano.

Nije nemoguće da veštačka inteligencija proceni da je, recimo, autobus pun penzionera zapravo elitna neprijateljska jedinica

Palantir ovde takođe ne prodaje veštačku inteligenciju stvorenu konkretno za vojsku, već nudi integraciju već postojećih sistema u kontrolisano okruženje. Problem sa tim je da ovi već postojeći sistemi nisu savršeni i skloni su ozbiljnim greškama, “halucinacijama” i drugim problematičnim stvarima.

Iluzija sigurnosti i kontrole

Ono što Palantir nudi je iluzija sigurnosti i kontrole za Pentagon koji počinje da usvaja AI. “Veliki jezički modeli i algoritmi moraju biti kontrolisani u ovom visoko regulisanom i osetljivom kontekstu kako bi se osiguralo da se koriste na zakonit i etički način”, naveo je Palantir u prezentaciji.

Prema Palantiru, ova kontrola uključuje tri osnove. Prva tvrdnja je da će AIP moći da rasporedi ove sisteme u klasifikovane mreže i “uređaje na taktičkoj ivici”. Tvrdi da će moći da analizira i poverljive podatke i podatke u realnom vremenu na odgovoran, legalan i etički način. Korisnici će, navodno, imati kontrolu nad onim što svaki veliki jezički model u Palantirovom sistemu može da uradi.

Palantir, međutim, ni u jednom trenutku nije objasnio kako će rešiti razne probleme koje trenutni AI modeli imaju i kakve bi posledice mogle da budu u vojnom kontekstu. Izvan “okvira” i “zaštitnih ograda” nisu pružili ni jedno rešenje za te probleme, a obećavaju da će upotrebu vojne veštačke inteligencije učiniti “etičkom” i “zakonitom”.