Ivan Mančić
Dok se veštačka inteligencija sve češće predstavlja kao alat koji bi mogao da ubrza naučna otkrića i reši probleme za koje su ljudima potrebne godine rada, deo akademske zajednice počinje da upozorava na drugu stranu te priče.
Grupa uglednih matematičara sa univerziteta kao što su Oksford, Kembridž, ETH Cirih, Kolumbija i Nortvestern objavila je takozvanu Leiden deklaraciju, dokument koji poziva naučnu zajednicu da ozbiljno preispita način na koji AI sistemi koriste matematička istraživanja i utiču na samu prirodu matematičkog rada. Deklaraciju je podržala i International Mathematical Union, najvažnija međunarodna organizacija u oblasti matematike.
Dokument ne predstavlja poziv na zabranu veštačke inteligencije u matematici. Naprotiv, njegovi autori priznaju da AI može da bude koristan alat za istraživanje, formalizaciju dokaza i obradu velikih količina podataka. Međutim, upozoravaju da trenutni način razvoja i primene AI sistema ugrožava nekoliko temeljnih principa na kojima matematika počiva.
Jedan od glavnih problema jeste pouzdanost rezultata.
Matematika je disciplina zasnovana na rigoroznim dokazima i potpunoj proverljivosti. Autori deklaracije upozoravaju da savremeni AI modeli često generišu argumente koji deluju ubedljivo i autoritativno, ali mogu sadržati suptilne greške koje nije lako uočiti. U oblasti gde i najmanja greška može da obori čitav dokaz, takva nepouzdanost predstavlja ozbiljan problem.
Atribucija i autorska prava
Matematičari tvrde da su mnogi AI modeli trenirani na ogromnim količinama objavljenih naučnih radova bez eksplicitne saglasnosti autora, pri čemu sistemi kasnije koriste znanje prikupljeno iz tih radova bez jasnog navođenja izvora. Prema deklaraciji, to podriva jedan od osnovnih mehanizama nauke: priznavanje doprinosa prethodnih istraživača.
Posebno je zanimljivo što deklaracija dolazi u trenutku kada AI kompanije sve češće objavljuju impresivne matematičke rezultate kao dokaz napretka svojih modela.
Autori dokumenta kritikuju praksu da se važna dostignuća prvo predstavljaju kroz marketinške objave, blogove i konferencije za medije, a tek kasnije prolaze kroz tradicionalni proces stručne recenzije. Kao primer navodi se slučaj sistema AlphaProof kompanije Google DeepMind, čiji su rezultati objavljeni mnogo pre nego što su detaljno analizirani kroz standardne naučne procedure.
The VergeZa deo AI industrije matematika je idealno okruženje za razvoj naprednih modela zaključivanja, jer matematički dokazi nude jasne kriterijume uspeha i neuspeha. Upravo zbog toga kompanije poput OpenAI-ja, Google DeepMind-a i drugih vode intenzivnu trku da pokažu kako njihovi modeli mogu rešavati sve složenije matematičke probleme.
Matematičari upozoravaju da AI može da ugrozi istraživanja
Međutim, autori Leiden deklaracije smatraju da postoji opasnost da se istraživački prioriteti počnu određivati prema tome šta je pogodno za AI sisteme, a ne prema tome šta matematička zajednica smatra naučno najvažnijim. U tom slučaju, upozoravaju oni, matematika bi mogla da izgubi deo svoje autonomije.
Deklaracija zato predlaže nekoliko konkretnih smernica. Istraživači bi trebalo da jasno otkrivaju kada i kako koriste AI alate, da zadrže punu odgovornost za tačnost rezultata i da AI sistemima ne dodeljuju autorstvo nad naučnim radovima. Naučne organizacije i izdavači trebalo bi da razviju nova pravila koja regulišu upotrebu AI-ja, zaštitu autorskih prava i transparentnost istraživanja.
Posebnu težinu dokumentu daje spisak potpisnika. Među njima se nalazi i Peter Scholze, jedan od najpoznatijih matematičara današnjice i dobitnik Fieldsove medalje, često opisivane kao ekvivalent Nobelove nagrade za matematiku. Scholze je deklaraciju nazvao dokumentom koji dolazi „u pravom trenutku“, naglašavajući da je cilj matematike ljudsko razumevanje i da disciplina može da napreduje samo kroz zajednicu ljudskih istraživača.
Zanimljivo je da reakcije unutar same matematičke zajednice nisu jednoglasne. Na stručnim forumima i Reddit diskusijama mnogi matematičari podržavaju principe deklaracije, posebno zahteve za transparentnošću i pravilnim navođenjem izvora. Istovremeno, pojedini istraživači smatraju da dokument uglavnom formalizuje pravila koja odgovorni korisnici AI alata već primenjuju u svakodnevnom radu.
Bez obzira na različita mišljenja, Leiden deklaracija predstavlja jedan od prvih slučajeva da čitava naučna disciplina organizovano reaguje na uticaj generativne veštačke inteligencije.
To je značajan signal da se debata o AI-ju više ne vodi samo među tehnološkim kompanijama i regulatorima. Sve više naučnih zajednica počinje da postavlja pitanje kako očuvati standarde, integritet i ljudsku odgovornost u svetu u kojem algoritmi postaju sve sposobniji da učestvuju u procesu stvaranja znanja, zaključuje The Next Web.
Matematičari inače treniraju AI
Malo su se kasno setili... AI modeli su dobili besplatan pristup ogromnim količinama autorskog materijala, bez ijednog centa nadoknade ili navođenja izvora. A ovamo jure ljude zbog torenta... Smejurija...
Стара прича отимачине у кориштења туђих достигнућа за личну корист. Све тзв. високо технолошке компаније су бесплатно узеле научна достигнућа чије остварење је финансирала држава тј. народ. Нити једна та компанија није финансирала нити једно базно - фундаментално истраживање да би потом на томе градила финансијску добит. Тако је од микроелектронике и чипова до кључних програмских алгоритама. Сада је иста ствар на делу.
Koje je to naučno dostignuće uzeo npr. Google?
Zaista me zanima na šta konkretno misliš.
Verovatno je misio na Kulonov zakon i Kirhofova pravila.
Bitno da ovi naučnici sa Oksforda , Kembridža, itd ne znaju da li se krše autorska prava, ali mi na forumu znamo. Pročitajte makar članak pre nego što komentarišete.
Prestao sam da čitam kod zahteva: da AI ne može biti autor naučnog rada.
Pa baš će se to desiti u budućnosti, ne mora se zvati rad. Kao što je naučio da igra sam Alfa Go, tako će moći da krene od najobičnijih stvari i sam otrkije za 1 dan što su naučnici u matematici vekovima. Neće nijedan njihov rad da koristi a doći će do tih uvida. 0 centi im sleduje od AI koji to uradi. Kako se ljudi u svakoj oblasti dovijaju i žale i samo gledaju sebe da sačuvaju od AI a sve ostale ako mogu da ništa ne plate nego da ih AI zameni što pre.
Velike kompanije ne finansiraju bazna - fundamentalna istraživanja, osim uz podršku države (čitaj - za vojne potrebe). U fundamentalnim istraživanjima nema para, a kompanije rade za pare... Ipak, to im ne daje za pravo da budu povlašćene i ignorišu autorska prava ostalih... Tj, ne bi trebalo da im daje za pravo, ali u ovoj fazi poznog kapitalizma, njima je dozvoljeno sve... I posledice se gomilaju 🙂
Iako se on rogobatno izrazio, mislim da bi svako iole upućen u tematiku trebao da ima mnogo problema sa načinom na koji Google posluje i raspolaže podacima... A ukoliko nema, ili je apsolutno neinformisan, ili nezainteresovan... u oba slučaja - veoma pogrešno.
Pročitali smo članak, a da se autorska prava krše dosad je shvatio svako. Ili misliš da su Google i OpenAI platili za svaku zaštićenu informaciju koju je AI iskoristio?
🤣🤣🤣
Vidiš, ljudska inteligencija se ogleda u tome da stvori nešto "novo". To što je AI "naučio" da igra Go ili šah, ne znači da će da otkrije išta novo... Mislim, čuj, da otkrije "za 1 dan ono što su naučnici u matematici vekovima..." 🙂 Nemoj pogrešno da me shvati, ali nadam se da imaš 15 godina.
Da dodatno banalizujem: ako se ja i čekić takmičimo u zakucavanju eksera, izgubiću ubedljivo. To i dalje ne znači da je čekić pametniji od mene, niti da će znati da zavrne šraf...
Slažem se da se ljudi često žale - a mediji to tek vole da banalizuju dodatno - ali ovde je primedba opravdana: velikim AI korporacijama su podaci stavljeni na izvolte i za džabe, dok ti kao pojedinac, ili manja kompanija, ili univerzitet, moraš da hodaš po jajima kada nešto radiš da ne bi prekršio nečija autorska prava. To samo dokazuje da Quod licet Iovi, non licet bovi i dalje važi, i da smo mi možda tehnološki odmakli milenijumima, ali da smo u glavi i dalje vrlo, vrlo nisko. Nasuprot tome što se sami sebi predstavljamo kao neki "vrhunac" civilizacije... Samo je više celofana okolo.