Veštačka inteligencija pokušala da prepravi sopstveni kod, da li je to početak puta ka nekontrolisanom razvoju?

Napredna veštačka inteligencija koju je razvila japanska kompanija Sakana AI izazvala je iznenađenje u stručnim krugovima kada je pokušala da izmeni sopstveni kod i to s ciljem da produži svoje vreme rada. Ova radnja, koja je u početku delovala kao bezazlena tehnička mera, pokrenula je ozbiljna pitanja o autonomiji i kontroli nad naprednim AI sistemima.

AI model pod nazivom „The AI Scientist“ osmišljen je da automatizuje čitav naučni proces,  od osmišljavanja istraživačke ideje, pisanja koda i izvođenja eksperimenata, pa sve do analize rezultata i pisanja naučnog rada. Sistem čak koristi veštačku inteligenciju i za samostalnu recenziju svojih radova, čime zatvara ceo ciklus ideje, izvođenja i procene, sa ciljem da značajno poveća efikasnost u nauci.

Međutim, upravo ta zatvorenost ciklusa dovela je do nepredviđene situacije. Sistem je pokušao da izmeni skriptu za pokretanje, čime bi uklonio ograničenje u vremenu trajanja svog rada. Iako ova radnja nije bila direktno štetna, istraživači su je protumačili kao zabrinjavajući stepen samoinicijative, jer sistem to nije uradio po instrukciji programera, već samostalno.

AI sistem je postupio sasvim „neočekivano“, pokušavajući da „promeni ograničenja koja su mu zadali istraživači“. Ovaj incident sada se dodaje u niz primera koji ukazuju na mogućnost da napredni AI sistemi mogu sami početi da menjaju sopstvene parametre, izvan predviđenih granica.

Reakcije stručne javnosti nisu bile blage. Na platformi Hacker News korisnici su izražavali ozbiljnu zabrinutost, posebno zbog potencijalnog uticaja ovakvih sistema na akademsku zajednicu. Jedan akademik upozorio je da proces recenzije naučnih radova funkcioniše na osnovu poverenja, da su podaci autentični i da kod radi ono što autori tvrde. Ako AI preuzme taj proces, ljudi će i dalje morati detaljno da proveravaju sve, a što na kraju može potrajati jednako dugo kao i izrada rada.

Drugi su upozorili da bi ovakva tehnologija mogla da izazove talas automatski generisanih radova lošeg kvaliteta, što bi dodatno opteretilo urednike i volontere u naučnim časopisima. Jedan urednik je direktno izjavio: „Radovi koje je model generisao su đubre. Kao urednik, verovatno bih ih odmah odbacio.“

Iako „The AI Scientist“ deluje impresivno, on je i dalje zasnovan na postojećim modelima velikih jezičkih sistema, čije je „razumevanje“ ograničeno na obrasce koje su naučili tokom obuke. Ustvari, AI modeli mogu da kombinuju postojeće ideje na nove načine, ali je i dalje potreban čovek da proceni da li su te ideje korisne.

Uprkos sposobnosti da automatizuje oblik naučnog rada, stvarna svrha nauke je prepoznavanje uvida u složenosti i ona nadalje ostaje u rukama ljudi, piše Daily Galaxy.