Osvajači Nobelove nagrade za pionirski rad u veštačkoj inteligenciji upozoravaju na rizike upotrebe AI

Britansko-kanadski naučnik Džefri Hinton i Amerikanac Džon Hopfild osvojili su Nobelovu nagradu za fiziku u utorak, 8. oktobra, za svoj pionirski rad na osnovama veštačke inteligencije. Njihova istraživanja o neuronskim mrežama iz 1980-ih postavila su temelje za današnje sisteme dubokog učenja, koji obećavaju da će revolucionirati društvo, ali su takođe izazvali zabrinutost zbog potencijalnih rizika.

Obojica naučnika su izrazila upozorenja u vezi sa tehnologijom koju su pomogli da stvore. Hinton, poznat kao “Kum veštačke inteligencije”, privukao je pažnju 2023. godine kada je napustio svoju poziciju u Google-u kako bi upozorio na “duboke rizike po društvo i čovečanstvo” koje AI donosi. U martu prošle godine, na pitanje da li AI može uništiti čovečanstvo, odgovorio je: “Nije nezamislivo.”

Duboki rizici po društvo i čovečanstvo

Nobelov komitet je naveo da su nagrađeni “za fundamentalna otkrića i pronalaske koji omogućavaju mašinsko učenje sa veštačkim neuronskim mrežama.” Predsednica Nobelovog komiteta za fiziku, Elen Muns, istakla je da su ovi alati postali deo naše svakodnevice, uključujući prepoznavanje lica i prevođenje jezika. Iako je pohvalila potencijal AI, Muns je naglasila da je “brzi razvoj takođe izazvao zabrinutost za našu kolektivnu budućnost” i da “ljudi nose odgovornost za bezbedno i etičko korišćenje ove nove tehnologije.”

analyticsindiamag

Hopfild, profesor emeritus na Prinstonu, poznat je po stvaranju “Hopfildove mreže”, takođe poznate kao asocijativno pamćenje, koja se može koristiti za skladištenje i rekonstrukciju slika i drugih obrazaca u podacima. On je, zajedno sa Hintonom, pozvao na dublje razumevanje modernih AI sistema kako bi se sprečilo da oni izmaknu kontroli, nazivajući nedavne napretke u tehnologiji “veoma uznemirujućim.”

Hinton je dobio priznanje za razvoj “Bolcmanove mašine”, uvodeći metodu koja može autonomno pronalaziti karakteristike u podacima i izvršavati zadatke poput identifikacije specifičnih elemenata na slikama. Izjavio je da je “zapanjen” dobijanjem nagrade i da veruje da će AI imati “ogroman uticaj” na društvo. “Biće uporedivo sa industrijskom revolucijom, ali umesto da nadmaši ljude u fizičkoj snazi, AI će ih nadmašiti u intelektualnim sposobnostima,” rekao je Hinton.

Ova priznanja ističu ne samo naučni doprinos dvojice istraživača, već i njihovu zabrinutost zbog etičkih implikacija veštačke inteligencije. Njihova upozorenja naglašavaju potrebu za odgovornim pristupom razvoju i primeni AI tehnologija, kako bi se osiguralo da one služe čovečanstvu na pozitivan način, piše LeMonde.