Aleksandar Božović
Američka vlada izdala je hitnu naredbu kojom je kompanija Anthropic primorana da odmah obustavi pristup svojim najnaprednijim AI modelima Fable 5 i Mythos 5. Prema saopštenju kompanije, odluka je doneta 12. juna uz obrazloženje da postoje razlozi povezani sa nacionalnom bezbednošću, ali bez detaljnijeg javnog objašnjenja.
Naredba se formalno odnosi na sve strane državljane, bez obzira na to da li se nalaze u SAD ili van zemlje. Ograničenje obuhvata i zaposlene u kompaniji Anthropic koji nemaju američko državljanstvo.
Pošto bi tehničko razdvajanje korisnika i zaposlenih prema državljanstvu bilo izuzetno složeno, Anthropic je morao da potpuno isključi Fable 5 i Mythos 5 za sve korisnike, uključujući i državljane SAD. Kompanija navodi da ostali modeli u okviru Claude platforme nisu pogođeni ovom odlukom.
Anthropic AI modeli ugašeni zbog bezbednosnih razloga
Anthropic je saopštio da će poštovati pravnu naredbu, ali se snažno protivi njenom obrazloženju. Kompanija odluku opisuje kao rezultat pogrešnog razumevanja problema i upozorava da bi ovakav netransparentan pristup mogao da uspori razvoj čitavog tehnološkog sektora.
Prema dostupnim informacijama, povod za intervenciju bio je otkriven način zaobilaženja zaštitnih ograničenja modela. Reč je o usko definisanom jailbreak postupku kojim je korisnik mogao da navede AI da pregleda određenu bazu programskog koda, pronađe bezbednosne propuste i predloži ili sprovede njihove ispravke.
Anthropic tvrdi da takav propust nije univerzalan i da ne predstavlja dovoljno ozbiljan razlog za potpuno povlačenje modela. Kompanija navodi da su Fable 5 pre izlaska hiljadama sati testirali interni bezbednosni timovi, američka vlada i britanski AI Safety Institute.
Iz kompanije takođe poručuju da potpuna otpornost na svaki mogući jailbreak trenutno nije tehnički ostvariva. Umesto zahteva za apsolutnom zaštitom, Anthropic zagovara višeslojni bezbednosni pristup koji kombinuje ograničenja modela, nadzor korišćenja i brzo reagovanje na otkrivene zloupotrebe.
Odluka američkih vlasti već se poredi sa stavljanjem kompanije Huawei na Entity List 2019. godine. Tada su izvozne kontrole iskorišćene kako bi strani proizvođač bio odsečen od američkih tehnologija i dobavljača. Ovog puta ograničenje pogađa softver američke kompanije i praktično dovodi do njegovog povlačenja sa globalnog tržišta.
Najveća nepoznanica jeste da li će isti standard biti primenjen i na ostale AI kompanije. Ako bi svaka otkrivena softverska ranjivost mogla da izazove trenutno gašenje vodećeg modela, američke AI firme suočile bi se sa ogromnim poslovnim rizikom, dok bi korisnici bez upozorenja ostajali bez usluga koje već plaćaju.
Anthropic za sada nije objavio kada bi Fable 5 i Mythos 5 mogli ponovo da postanu dostupni. Dalji razvoj situacije zavisiće od dodatnog obrazloženja američkih vlasti, mogućih tehničkih izmena modela i eventualnog ublažavanja ili povlačenja hitne naredbe, prenosi Android Authority.
