Anthropic upozorava da se sa Claude AI modelom dešava nešto krajnje zabrinjavajuće

Anthropic je upozorio da bi ljudi u bliskoj budućnosti mogli teže da zadrže kontrolu nad AI sistemima, ukoliko se nastavi trend koji kompanija vidi kod svog Claude modela. Prema navodima firme, Claude sada piše više od 80 procenata sopstvenog koda, dok je u februaru prošle godine taj udeo bio manji od 10 procenata.

Kompanija tvrdi da je kvalitet koda koji piše Claude trenutno približno na nivou ljudi programera, ali očekuje da bi tokom naredne godine mogao da postane znatno bolji. Upravo tu Anthropic vidi ključnu prekretnicu: AI sistem koji može samostalno da projektuje i razvija svog naslednika više nije samo teorijska mogućnost.

Marina Favaro i Jack Clark iz Anthropic-a naveli su da takav trend vodi ka sistemu sposobnom za potpuno autonomno dizajniranje i razvoj buduće verzije samog sebe. To bi, kako ističu, moglo da donese veliki napredak u nauci, zdravstvu i drugim oblastima, ali i da poveća rizik od gubitka ljudske kontrole nad AI sistemima.

Anthropic Claude otvara pitanje samostalnog razvoja AI sistema

Do skoro su se AI modeli razvijali gotovo isključivo kroz rad ljudi inženjera i istraživača. Sada Anthropic sve veći deo tog posla prepušta samim AI sistemima, jer takav pristup ubrzava razvoj. Problem je u tome što isti mehanizam može da vodi ka rekurzivnom samousavršavanju, odnosno scenariju u kome AI poboljšava sopstvene sposobnosti bez direktnog ljudskog rada na svakom koraku.

Anthropic zato smatra da bi usporavanje razvoja moglo da bude korisno, kako bi industrija i regulatori dobili više vremena da razumeju posledice. Međutim, takav potez nije jednostavan. Za ozbiljnu pauzu bio bi potreban dogovor više vodećih AI laboratorija u različitim državama, kao i mehanizam kojim bi se proverilo da svi zaista poštuju iste uslove.

Kompanija upozorava da su slični sistemi provere za druge kompleksne tehnologije građeni decenijama, dok AI industrija nema toliko vremena. Geopolitička konkurencija i trka između velikih kompanija dodatno otežavaju bilo kakav zajednički dogovor.

Anthropic najavljuje da će tokom narednih meseci sarađivati sa političarima, istraživačima i drugim AI kompanijama kako bi se industrija pripremila za dolazak sistema koji mogu sve više da učestvuju u sopstvenom razvoju.

Ovo nije prvi poziv na usporavanje AI razvoja. Još 2023. godine hiljade stručnjaka zatražile su šestomesečnu pauzu u treniranju naprednih AI modela posle pojave ChatGPT-a, ali do takvog zastoja nikada nije došlo.

Slučaj Claude-a zato ponovo otvara isto pitanje, ali sada sa konkretnijim razlogom za zabrinutost: AI više nije samo alat koji koristi čovek, već sve češće postaje deo procesa kojim nastaje sledeća generacija AI sistema, prenosi MSN.