PhotoGuard je antiAI alat koji vara veštačku inteligenciju ne dajući joj da menja fotografije

Istraživači sa Univerziteta MIT u okviru laboratorije za nauku i veštačku inteligenciju (CSAIL) napravili su antiAI alat PhotoGuard koji čuva fotografije od, danas široko rasprostranjene manipulacije sadržajem, piše GizmoChina.

Druga strana medalje brzog razvoja veštačke inteligencije je i to da postaje sve lakše napraviti takozvane “deep-fake” lažirane sadržaje, menjati fotografije i na taj način širiti dezinformacije i lažne vesti. Uz to mnogi ljudi tako mogu postati žrtva krađe identiteta, posebno dok živimo u doba društvenih mreža kada ljudi masovno objavljuju svoje fotografije na internetu.

Jedan od načina zaštite je obeležavanje fotografija vodenim žigovima, deljenju u nižoj rezoluciji i oprezu u pogledu informacija koje se dalje šire internetom. Međutim, sa vrtoglavim napretkom veštačke inteligencije, ove mere na duži rok sve više izgledaju nedovoljno efikasno u odbrani od navedenih problema.

Zbog toga su istraživači  razvili alat koji bi na bolji način trebalo da se suprotstavi ovom modernom izazovu. PhotoGuard, za razliku od konvencionalnog vodenog žiga podešava određene piksele na slici i uspeva da zbuni AI algoritme dok ujedno ostaje nevidljiv ljudskom oku. Na taj način, on deluje kao slagalica koja ostavlja veštačku inteligenciju da se „češka“ po svojoj virtuelnoj glavi, pitajući se zašto ne može da izmeni fotografiju.

AntiAI alat PhotoGuard u stvari zbunjuje veštačku inteligenciju

Ovaj softver u procesu zaštite od AI izmena koristi proces u kome model zasnovan na mašinskom učenju generiše pravila kojima u stvari opisuje sliku. Ta pravila su zapravo složena matematika koja opisuje poziciju i boju svakog piksela na slici, sprečavajući AI da razume šta gleda. Njegov napredniji sistem „difuzije“ prikriva sliku kao sasvim drugu metu, čineći izmene koje pravi veštačka inteligencija, potpunim gubljenjem vremena.

Iako zanimljiv način odbrane, nijedno rešenje za sada nije u potpunosti sigurno, te i PhotoGuard ima svoja ograničenja. Na primer, oni uporni bi mogli da pokrenu obrnuti inženjering zaštićenih slika dodavanjem digitalnog šuma ili upotrebom drugih trikova.

Da bi se suprotstavili tome, programeri treba da se udruže i sarađuju kako bi dodatno ojačali ovu alatku čineći je otpornijom na različite pokušaje manipulacije sadržajem, kaže jedan od studenata koji su radili na razvoju alata Hadi Salman.