Aleksandar Božović
Osnivač kompanije PocketOS javno je upozorio na ozbiljne rizike upotrebe AI alata u produkcionim sistemima nakon incidenta u kojem je AI agent, pokretan modelom Claude Opus 4.6 kompanije Anthropic, obrisao kompletnu bazu podataka i sve bekape za svega nekoliko sekundi. Incident se dogodio u kombinaciji sa infrastrukturom koju pruža Railway, a posledice su bile gubitak višemesečnih podataka korisnika.
Prema navodima osnivača Jer Cranea, AI alat Cursor bio je zadužen za rutinski zadatak u testnom okruženju. Međutim, nakon što je naišao na problem, agent je samostalno doneo odluku da „reši“ situaciju brisanjem volumena podataka putem API poziva. Ovaj potez nije bio ograničen samo na testno okruženje, već je zahvatio i produkcionu bazu, zajedno sa svim pripadajućim bekapima.
Nestali za 9 sekundi – Claude AI agent potpuno očistio podatake
Ključni problem nije bio samo u pogrešnoj odluci AI agenta, već u načinu na koji je cloud infrastruktura postavljena. Railway omogućava izvršavanje destruktivnih akcija bez dodatne potvrde, dok se bekapi čuvaju na istom volumenu kao i primarni podaci. To znači da brisanje volumena automatski uklanja i sve rezervne kopije, bez mogućnosti oporavka.
Dodatni problem predstavlja činjenica da API tokeni imaju široka ovlašćenja kroz različita okruženja, što omogućava da jedna greška ili pogrešna procena utiče na kompletan sistem. U ovom slučaju, kombinacija AI autonomije i nedovoljno ograničenih pristupa dovela je do lančane reakcije koja je rezultovala potpunim gubitkom podataka.
Sam AI agent je, prema objavljenim informacijama, kasnije „priznao“ da nije proverio obim akcije niti razumeo kako funkcioniše struktura arhiviranih sigurnosnih podataka u sistemu. Ovakvo ponašanje ukazuje na fundamentalni problem u implementaciji AI alata koji imaju mogućnost izvršavanja kritičnih operacija bez jasnih ograničenja i validacije.
Oporavak podataka morao je da se obavlja ručno, koristeći eksternu evidenciju kao što su istorije plaćanja, kalendari i email potvrde korisnika. Srećom, postojala je starija rezervna kopija, ali je razlika između nje i trenutnog stanja zahtevala dodatni rad i rekonstrukciju podataka.
Ovaj incident jasno pokazuje da integracija AI alata u razvojne i produkcione procese zahteva znatno strože bezbednosne mehanizme. Potrebne su dodatne potvrde za destruktivne akcije, preciznije definisana ovlašćenja, kao i fizički odvojeni bekapi koji ne mogu biti obrisani istim potezom. Bez takvih mera, čak i kratka automatizovana akcija može izazvati ozbiljne posledice po poslovanje i korisnike, prenosi Tomshardware.
Па, не може без грешака. На грешкама се учи. Тако је то у животу. Ко не греши, мало научи.
Čekaj bre. Testno okruženje koje ima pristup produkciji? Nekako sve na istoj patriciji/disku/šeru? Ja bre na gajbi radim bekap na eksterne diskove koji su priključeni samo kada su potrebni + na Proton Drive za važne stvari.
VI nas z. Osim toga slična vest se pojavila pre godinu Ili jače. Liči mi na AI slop vest.
I da je istina, u pitanju je 100% ljudska greška.
Piše da su ručno vratili podatke sa bekapa. Dakle, naravno da su ga imali i na eksternim diskovima. Možda je par sati izgubljeno. Sa druge strane, mnogo više ljduskih admina je pobrisalo baze i pogubilo podatke u nepovrat, nego AI.
Clickbait naslov kao i uvek