Ivan Mančić
Jedna od vodećih svetskih kompanija za razvoj veštačke inteligencije, Anthropic, pokrenula je novu debatu o budućnosti AI tehnologije pozivom na uspostavljanje globalnog mehanizma koji bi omogućio privremeno usporavanje ili čak pauziranje razvoja najnaprednijih AI sistema ukoliko njihovi kapaciteti počnu da rastu brže nego što društvo može da upravlja pratećim rizicima.
Kompanija, najpoznatija po Claude porodici modela, upozorava da se industrija približava trenutku kada bi sistemi veštačke inteligencije mogli da postanu sposobni da sami učestvuju u razvoju svojih naslednika, što bi značajno ubrzalo tempo tehnološkog napretka i otvorilo potpuno nova pitanja kontrole i bezbednosti.
U središtu zabrinutosti nalazi se koncept poznat kao „rekurzivno samousavršavanje“ (recursive self-improvement). Reč je o scenariju u kojem AI sistem ne samo da rešava zadate probleme, već postaje sposoban da dizajnira, unapređuje i razvija nove generacije AI sistema bez značajne ljudske intervencije. Anthropic smatra da takav razvoj događaja nije neminovan, ali upozorava da bi mogao da se dogodi mnogo brže nego što su vlade, regulatorna tela i društvo spremni da prihvate.
Kompanija zato ne predlaže trenutni moratorijum, već stvaranje svojevrsne „kočnice za AI“, odnosno međunarodno dogovorenog sistema koji bi omogućio koordinisano usporavanje razvoja kada određeni rizici postanu preveliki. Prema stavu Anthropica, takav mehanizam imao bi smisla samo ako bi ga prihvatilo više vodećih laboratorija i država istovremeno, pre svega Sjedinjene Američke Države i Kina. U suprotnom, jednostrana pauza jednog aktera samo bi omogućila konkurentima da preuzmu prednost.
„Bilo bi dobro da svet ima mogućnost da uspori ili privremeno zaustavi razvoj naprednih AI sistema kako bi društvene institucije i istraživanja bezbednosti mogli da prate tempo tehnološkog razvoja“, navodi kompanija u svom izveštaju.
Ova inicijativa dolazi u posebno zanimljivom trenutku za samu kompaniju. Anthropic je danas jedan od najvećih rivala OpenAI-ja i jedna od najvrednijih AI kompanija na svetu. Upravo zbog toga pojedini kritičari tvrde da poziv na usporavanje razvoja može imati i stratešku dimenziju. Skeptici upozoravaju da kompanije koje se već nalaze među tržišnim liderima često imaju interes da podrže strožiju regulativu koja bi otežala ulazak novih konkurenata.
Međutim, ovakve rasprave nisu nove. Još od objavljivanja otvorenog pisma Future of Life Institute-a 2023. godine, u kojem su brojni istraživači i tehnološki lideri tražili šestomesečnu pauzu u razvoju najmoćnijih AI modela, industrija je podeljena između onih koji smatraju da razvoj ide prebrzo i onih koji upozoravaju da bi usporavanje moglo da ugrozi inovacije i nacionalnu konkurentnost.
Ono što je danas drugačije jeste nivo sposobnosti samih sistema.
AnthropicAnthropic navodi da veštačka inteligencija već aktivno učestvuje u razvoju nove veštačke inteligencije. Kao ilustraciju tog trenda, kompanija ističe da je više od 80 odsto koda koji je tokom maja dodat u njen interni kodni repozitorijum napisao upravo Claude. To ne znači da AI samostalno upravlja razvojem kompanije, ali pokazuje koliko brzo raste njegova uloga u procesu stvaranja softvera.
Zbog toga se sve češće postavlja pitanje da li će buduće generacije modela biti samo alati koje koriste programeri ili aktivni učesnici u sopstvenom unapređivanju.
Anthropic smatra da svet mora unapred da pripremi odgovor na takav scenario. Kompanija planira da tokom narednih meseci organizuje razgovore sa istraživačima, političarima, regulatorima i konkurentskim AI firmama kako bi se razmotrili mogući mehanizmi koordinacije i kontrole.
Ipak, najveći izazov ostaje praktične prirode. Za razliku od nuklearnog naoružanja, koje zahteva ogromnu infrastrukturu koju je relativno lako pratiti, razvoj AI modela može se odvijati mnogo diskretnije. Verifikacija da li se kompanije zaista pridržavaju eventualnog sporazuma o usporavanju razvoja predstavljala bi izuzetno složen zadatak.
Zato mnogi stručnjaci smatraju da je važnija sama činjenica da jedna od vodećih AI kompanija javno govori o potrebi za „kočnicom“, nego verovatnoća da će do globalnog moratorijuma zaista doći.
U pozadini cele priče nalazi se pitanje koje sve češće zaokuplja i istraživače i političare: šta se događa kada tehnologija počne da napreduje brže nego što društvo može da razvije pravila za njeno korišćenje?
Anthropic veruje da bi taj trenutak mogao da bude bliži nego što mnogi pretpostavljaju. Da li je reč o opravdanom upozorenju ili o pokušaju da se oblikuje buduća regulativa u korist postojećih lidera industrije, verovatno će ostati predmet rasprava. Ono što je teško osporiti jeste da se debata o bezbednosti veštačke inteligencije više ne vodi na marginama tehnološkog sveta. Danas je vode upravo kompanije koje grade najmoćnije AI sisteme na planeti, podseća AFP News.
