Svi se snalaze sa AI bezbednošću u hodu, pa čak i Google

Nedavno je održan razgovor sa Francisom de Souzom, COO kompanije Google Cloud, iza scene jednog događaja u Los Anđelesu. Usred publiciteta koji je izazvala njegova pojava, de Souza je smireno govorio o trenutku u kome se kompanije nalaze dok pokušavaju da uvedu AI, a da istovremeno razumeju nove bezbednosne rizike. Njegova poruka bila je jasna: postojaće prelazni period, ali bi industrija na kraju trebalo da dođe do boljeg i sigurnijeg rešenja.

Iako u tom trenutku nije govorio direktno o Google-u, jasno je da i Google još uvek traži najbolji pristup. De Souza je naglasio da bezbednost ne može da bude dodatak koji se naknadno ubacuje u AI strategiju. Kompanije, prema njegovim rečima, moraju da krenu od platformskog pristupa, uz bezbednost, upravljanje podacima i mogućnost kontrole od samog početka. Posebno je upozorio na „shadow AI”, odnosno situacije u kojima zaposleni koriste svakodnevne AI alate bez nadzora kompanije.

AI bezbednost postaje pitanje za rukovodstvo kompanije

De Souza tvrdi da ne postoji ozbiljna AI strategija bez strategije podataka i bezbednosne strategije. Kompanije pritom ne treba da razmišljaju samo o jednom cloud okruženju, jer čak i one koje formalno koriste jednog dobavljača često zavise od SaaS aplikacija, partnera i servisa koji rade na drugim cloud platformama. Zato je potreban dosledan bezbednosni pristup kroz različite cloud sisteme i modele.

Prema njegovim rečima, napadi su postali prebrzi za stare načine odbrane. Prosečno vreme od prvog upada do sledeće faze napada navodno je palo sa osam sati na 22 sekunde. Istovremeno, dimenzija napada više nije samo mreža, već uključuje modele, podatke za njihovu obuku, agente i promptove.

Poseban rizik predstavljaju AI agenti koji se kreću kroz interne sisteme kompanija. Oni mogu pronaći zaboravljene SharePoint servere, stare repozitorijume i loše podešene kontrole pristupa, odnosno podatke koje godinama niko nije dirao, ali koji odjednom postaju vidljivi.

De Souza zato smatra da odbrana mora da radi brzinom mašine. Umesto ljudski vođene zaštite, sve više se ide ka AI-native modelu, u kome agenti aktivno učestvuju u odbrani, dok ljudi nadgledaju ceo sistem. To više nije samo pitanje za bezbednosni tim, već tema za upravu i izvršni menadžment.

Ipak, platforme koje nude rešenja takođe imaju sopstvene probleme. The Register je poslednjih nedelja pisao o Google Cloud programerima koji su dobili račune od više hiljada dolara zbog neovlašćenih API poziva ka Gemini modelima, često preko ključeva koji su prvobitno korišćeni za Google Maps. U nekim slučajevima naplata je dostizala petocifrene iznose, dok su automatski limiti naloga bili povećani bez jasnog pristanka korisnika.

Google je pojedinim korisnicima vratio novac, ali je istovremeno naveo da ne planira promenu automatskog načina povećanja računa. Dodatni problem je i to što obrisani kompromitovani API ključ, prema istraživanju firme Aikido, može da ostane upotrebljiv još do 23 minuta dok se opoziv ne proširi kroz infrastrukturu. Zato je de Souzina poruka tačna i važna, ali pokazuje i širu realnost: svi pokušavaju da savladaju AI bezbednost u hodu, uključujući i kompanije koje tu bezbednost prodaju drugima, piše TechCrunch.