Microsoft navodno ućutkao inženjera koji je hteo da upozori javnost o DALL-E 3 AI modelu

Vođa inženjera i menadžer u kompaniji Microsoft Šejn Džons tvrdi da model veštačke inteligencije DALL-E 3 startapa OpenAI sa kojim tehnološki gigant blisko sarađuje ima bezbednosne propuste koji bi mogli da omoguće korisnicima da generišu nasilne ili eksplicinte slike. Džons je o tome obavestio svoje nadređene, koji su ga potom uputili na OpenAI, u stilu, u Srbiji poznatog obrasca „ft1p“. Kada je video da nema pravovremenih reakcija od kompanija, Džons je probao da upozori javnost o ovom AI modelu preko svojih profila na društvenim mrežama, ali ga je Microsoft navodno ućutkao preko svog pravnog tima.

Problem o kome Džons govori je upravo sličan onome koji prati najnoviji slučaj pevačice Tejlor Svift, koja se našla na meti lažnih, AI generisanih slika sebe u eksplicitnom izdanju koje kruže internetom. Uzbunjivač svoju poruku i zabrinutost sada šalje i američkim vlastima, direktno na Kapitol Hil.

„Došao sam do zaključka DALL-E 3 predstavlja rizik po javnu bezbednost i da bi trebalo ukloniti mogućnost njegove javne upotrebe dok OpenAI ne reši rizike koji se tiču ovog modela“, napisao je Džons senatorima SAD i državnom tužiocu Vašingtona. Njegovo pismo u celosti preneo je portal GeekWire, a deluje da se priča uz ovaj potez, sada još više zahuktava.

Nakon što su mu nadređeni u kompaniji Microsoft rekli da se lično direktno obrati kompaniji OpenAI, inženjer tvrdi da je otkrio da bi bezbednosti propust koji sa sobom nosi DALL-E 3 mogao da omogući generisanje nasilnih i uznemirujućih slika.

Upravo zbog toga, ovu priču probao je da objavi na društvenoj mreži LinkedIn. On u pismu američkim vlastima objašanjava da je 14. decembra 2023. objavio javni tekst na ovoj mreži upućen upravi neprofitnog odbora kompanije OpenAI, tražeći ujedno da obustave dostupnost spornog AI modela dok se problem ne reši.

Međutim, kako kompanija Microsoft ima svoje mesto u upravnom odboru startapa OpenAI, gigant je ubrzo reagovao zahtevom pravne službe da obriše objavu o propustima DALL-E 3 modela.

„Moj menadžer me je kontaktirao i rekao mi da pravna služba kompanije zahteva da obrišem objavu te da će pravno odeljenje vrlo brzo poslati i konkretan zahtev ta uklanjanje objave, ali da objavu obrišem odmah, bez čekanja da mejl stigne“, tvrdi Džons.

Shutterstock / Bartek Winnicki

On je zahtev ispunio, ali objašnjava da nikada po brisanju objave nije dobio detaljnije objašnjenje od Microsoft pravne službe, čak ni nakon što je to tražio.

Microsoft navodno ućutkao inženjera interno, a u javnosti zajedno sa OpenAI nakon „pucanja bruke“ vrti drugu priču

Portparol komapnije Microsoft tvrdi da su u firmi „posvećeni rešavanju svih problema koje zaposleni imaju u skladu sa politikom kompanije“ te da, kako tvrde u izjavi za Engadget, cene napore zaposlenog da testira njihovu najnoviju tehnologiju kako bi „dodatno unapredili njenu sigurnost“.

„Kada su u pitanju propusti u bezbednosti ili problemi koji bi mogli da imaju potencijalni uticaj na naše usluge ili partnere, uspostavili smo snažne interne kanale za prijavljivanje kako bismo pravilno istražili i otklonili bilo kakve probleme“, tvrde oni iako su Džonsa samo uputili na OpenAI kako on tvrdi.

Shutterstock

„Pošto se njegova prijava odnosila na OpenAI proizvod, ohrabrili smo ga da prijavi preko standardnih kanala za prijavljivanje kompanije OpenAI, a jedan od naših starijih proizvodnih lidera podelio je povratne informacije sa startapom, koji je slučaj istražio odmah“, piše portparol Microsoft kompanije, iako se to ne poklapa sa Džonsovom pričom.

Međutim, navodno istovremeno, Microsoft timovi su istražili i potvrdili da tehnologija koju je Džons prijavio ne zaobilazi njihove sigurnosne filtere ni u jednom od AI-proizvoda za generisanje slika.

Shutterstock / Angga Budhiyanto

Sa druge strane, portparol startapa OpenAI, takođe za portal Engadget tvrdi da su „odmah istražili prijavu zaposlenog u Microsoft kompaniji“ nakon što su je 1. decembra primili, te da sz potvrdili da tehnologija na koju je upozorio „ne zaobilazi sigurnosne sisteme“ koje kompanija ima.

„Bezbednost nam je prioritet i pristupamo joj na više načina“, uverava OpenAI.

Uprkos ovim uveravanjima, uzbunjivač Džons tvrdi da su pornografske AI generisane slike pevačice Tejlor Svift samo jedan od primera onoga što slični propusti DALL-E 3 modela mogu da proizvedu ukoliko ne budu otklonjeni.

Džons poziva predstavnike u Vašingtonu da preduzmu akciju i predlaže da vlast SAD uspostavi sistem za prijavljivanje i praćenje specifičnih propusta u razvoju veštačke inteligencije, ali i da zaštiti zaposlene poput njega koji na to upozoravaju. „Zabrinute zaposlene poput mene, kompanije ne bi trebalo da zastrašuju kako bi oni ćutali o propustima“, zaključuje on u svom pismu.