Ako prepustite Copilot-u kontrolu, nemojte se iznenaditi kada počne okolo da otkriva vaše poslovne tajne

“Zapravo je vrlo teško kreirati bot u Copilot Studio verziji koji je siguran,” rekao je Bargury za The Register u intervjuu, “jer su svi podrazumevani parametri nesigurni.”

Bargury ove nedelje dva puta govori o bezbednosnim propustima Microsoft Copilot-a na Black Hat konferenciji u Las Vegasu. Fokus njegovog prvog izlaganja je na pomenuti Copilot Studio, Microsoft-ov alat koji bez potrebe za programiranjem, služi za kreiranje prilagođenih poslovnih Copilot botova. Drugo izlaganje pokriva sve zlonamerne stvari koje napadač može da uradi sa samim Copilot-om kako bi uspeo da provali u IT okruženje organizacije koja koristi ovu tehnologiju i kako Copilot može pomoći nekome da dobije pristup tom okruženju.

Zenity, inače, nudi sigurnosne sisteme kontrole za Copilot i slične asistente na nivou preduzeća. Imajte to na umu. Upozorava na rizike korišćenja Microsoft-ovih AI usluga u ovoj oblasti.

Ako niste mnogo upoznati sa Copilot Studiom, to je alat za osobe koje nemaju sposbnosti programera, a pomaže im za kreiranje jednostavnih konverzacionih botova, koristeći Microsoft-ov Copilot AI, koji mogu odgovarati na pitanja koristeći interne poslovne dokumente i podatke. Ovo je omogućeno pomoću tzv. generacije sa proširenim preuzimanjem ili RAG-a.

To je Microsoft-ov način “da proširi Copilot-ove pipke u druge poslovne oblasti, poput CRM-a i ERP-a”. Kompanije mogu kreirati botove koji su usmereni na korisnike i/ili zaposlene i pružiti im komunikaciju na prirodnom jeziku za pristup unutrašnjim informacijama.

Vaši Copilot botovi su prilično brbljivi

Nažalost za sve Copilot Studio korisnike, rečeno nam je da su podrazumevane postavke na platformi bile potpuno nedovoljne. Kombinujte to sa onim što nam je rekao Andrew Silberman, šef marketinga kompanije Zenity, da prosečna velika korporacija – ovde govorimo o Fortune 500 kompanijama – imaju skoro 3.000 Copilot Studio botova, uz istraživanje koje pokazuje da je 63 procenata njih otkriveno na internetu i dobijate recept za potencijalnu poslovnu katastrofu curenja podataka.

Microsoft

Ako su ovi botovi dostupni javnosti, a rečeno nam je da dobar broj njih jeste, mogu se potencijalno prevariti da predaju informacije ljudima kojima te informacije nisu trebale biti dostupne tokom razgovora.

Kako Copilot botovi često imaju pristup unutrašnjim podacima kompanije i osetljivim dokumentima, radi se na tome da se otkrije kako ih prevariti ili podstaći da otkriju te podatke. Bargury je rekao da je uspeo to da postigne tako što je konfigurisao ChatGPT da testira Copilot botove sa automatskim, neispravnim upitima.

“Pregledali smo internet i pronašli desetine hiljada ovih botova,” rekao je Bargury. On je za veliku dostupnost ovih agenata na internetu okrivio default postavke Copilot Studija koje su ih objavile na mreži bez potrebe  autentifikacije za pristup — propust koji je Microsoft od tada ispravio nakon što im je tim iz Zenity-a skrenuo pažnju na to.

Nažalost, nove postavke koje drže Copilot Studio botove van javnog interneta trenutno se primenjuju samo na nove instalacije, rekao je Bargury, pa korisnici ovog paketa koji su postavili botove pre ovih izmena treba da provere svoje postavke da bi se uverili da su zaštićeni.

Bargury i njegov tim su objavili alat za “skeniranje javno dostupnih Copilot Studio botova i izvlačenje informacija iz njih”, koji korisnici mogu upotrebiti da provere sigurnost svog poslovnog okruženja.

Ovaj alat nazvan CopilotHunter dostupan je kao modul u PowerPwn, softverskom alatu koji je Zenity objavio na Black Hat-u prošle godine za ispitivanje Microsoft 365 „guest“ naloga. Ukratko, ako ste implementirali Copilot Studio botove u svojoj kompaniji, proverite koliko su sigurni i dostupni javnosti, piše The Register.