Google Bard je nepouzdan i opasan, ne puštajte ga u rad

Dva radnika kompanije Google, čiji je posao da pregledaju i provere proizvode koji koriste veštačku inteligenciju, pokušali su da spreče Google da u javnost pusti svog Bard četbota. Oni su bili ubeđeni da su informacije koje Bard generiše netačne i potencijalno opasne.

Deset meseci kasnije slične sumnje su prijavljene u kompaniji Microsoft, gde su zaposleni napisali i predali nekoliko dokumenata u kojima se navodi da bi četbotovi mogli da budu korišćeni za ogroman broj dezinformacija u Facebook grupama, degradiranju kritičkog mišljenja i erodiranju principa modernog društva koji se baziraju na činjenicama.

Kompanije su, uprkos ozbiljnim zabrinutostima unutar samih kompanija, ipak objavile svoje četbotove. Microsoft je bio prvi, kada je u februaru otkrio A.I. četbot koji je implementira u Bing, a Google je šest nedelja kasnije predstavio Bard, svoj četbot.

Prema izveštaju NYT, dvoje zaposlenih u Google, koji su radili sa Džen Genai, direktorkom Google grupe za odgovorne inovacije, preporučili su blokiranje javnog lansiranja Bard četbota u svojoj proceni rizika. Oni su smatrali da uprkos zaštitnim merama, četbot nije spreman za javnost, ali da je Genai izmenila dokument kako bi uklonila ove zabrinutosti i samim tim umanjila rizike korišćenja Bard četbota.

Genai je rekla izjavila za Business Insider da je „dodala listu potencijalnih rizika od recenzenata i eskalirala rezultujuću analizu“ komitetu koji se sastoji od starijih produkt menadžera, istraživača i vođa biznis timova, koji su utvrdili da može da se krene napred sa ograničenim eksperimentalnim lansiranjem. Ona je takođe rekla da nije posao recenzenata da razmatraju da li proizvod treba da nastavi dalje.

Poslednjih meseci, svet tehnologije je ubacio u petu brzinu, i svako ko nema neki oblik veštačke inteligencije u svojim proizvodima je u zaostatku. Trka je izgleda podstaknuta objavljivanjem i viralnom popularnošću OpenAI ChatGPT-ja, ali brzina razvoja drugih rešenja je ono što je problematično kod drugih kompanija.

Shutterstock

Iznenađujući uspeh ChatGPT-ja doveo je do toga da Microsoft i Google pristanu na veće rizike, kada su u pitanju etičke smernice koje su postavljene kako bi se osiguralo da njihova tehnologija ne izaziva društvene probleme.

Hitnost kreiranja proizvoda koji koriste veštačku inteligenciju je kristalizovana u internom mejlu koji je prošlog meseca poslao Sem Šilas, izvršni direktor tehnologije u kompaniji Microsoft. On je u mejlu, napisao da je bila “apsolutno fatalna greška u ovom trenutku brinuti se o stvarima koje se kasnije mogu popraviti“. Kada se dođe u situaciju da se tehnološka industrija iznenada pomeri ka novoj vrsti tehnologije, prva kompanija koja je predstavila proizvod “je dugoročni pobednik samo zato što je prva počela, a razlike se ponekad mere nedeljama.”

U martu je nekoliko kompanija koje se bave razvojem veštačke inteligencije na čelu sa istaknutim ličnostima kao što su Ilon Mask i Stiv Vozniak, potpisalo otvoreno pismo pozivajući na šestomesečnu pauzu u naprednom razvoju veštačke inteligencije. U pismu se navodi da su kompanije sa veštačkom inteligencijom upale u trku van kontrole i navode ozbiljne rizike koje ova napredna tehnologija može da donese za društvo.

Sa druge strane regulatori različitih zemalja već prete da će intervenisati. Evropska unija je predložila zakon za regulisanje veštačke inteligencije, a Italija je prošle nedelje privremeno zabranila ChatGPT.

Džozef Bajden, predsednik SAD

Tehnološke kompanije imaju odgovornost da se uvere da su njihovi proizvodi bezbedni pre nego što ih objave u javnosti.

Istraživači kažu da Microsoft i Google preuzimaju rizik objavljivanjem tehnologije koju čak ni njeni programeri ne razumeju u potpunosti. Međutim, kompanije izjavljuju da su ograničile obim onoga što njihovi četbotovi mogu i da su izgradile sofisticirane sisteme za filtriranje kako bi izbacili govor mržnje i sadržaj koji bi mogao da izazove očiglednu štetu.

Google je predstavio Bard četbota nakon godina internog neslaganja oko toga da li prednosti generativne veštačke inteligencije nadmašuju rizike koje ona donosi. Google je 2020. godine najavio Meena, sličnog četbota, ali se tada smatralo da je taj sistem previše rizičan za puštanje…