Stanford profesor koristio AI za stručno mišljenje koje kritikuje deepfake-ove

U ironičnom razvoju događaja, cenjeni profesor sa Univerziteta Stanford optužen je za širenje dezinformacija generisanih veštačkom inteligencijom dok je služio kao veštak u podršci zakonu osmišljenom da spreči da dezinformacije generisane veštačkom inteligencijom utiču na izbore.

Džef Henkok, osnivač i direktor Laboratorije za društvene medije na Stanfordu, podneo je svoje stručno mišljenje ranije ovog meseca u slučaju Kohls protiv Ellisona, tužbi koju su podneli jutjuber i predstavnik države Minesote, koji tvrde da novi državni zakon koji kriminalizuje upotrebu deepfake-ova za uticanje na izbore krši njihovo pravo na slobodu govora iz prvog amandmana ustava SAD.

Njegovo mišljenje uključivalo je referencu na studiju koja je navodno otkrila da “čak i kada su pojedinci informisani o postojanju deepfake-ova, i dalje mogu imati poteškoća u razlikovanju stvarnog i manipulisanog sadržaja.” Ali prema rečima advokata tužilaca, studija koju je Henkok citirao—pod nazivom “Uticaj deepfake videa na političke stavove i ponašanje” i objavljena u časopisu Journal of Information Technology & Politics—zapravo ne postoji.

“Citiranje nosi obeležja ‘halucinacije’ veštačke inteligencije (AI), sugerišući da je bar citat generisan od strane velikog jezičkog modela poput ChatGPT-a,” napisali su tužioci u predlogu za isključivanje Henkokovog stručnog mišljenja. “Tužitelji ne znaju kako je ova halucinacija završila u Henkokovoj izjavi, ali dovodi u pitanje ceo dokument, posebno kada veći deo komentara ne sadrži nikakvu metodologiju ili analitičku logiku.”

Optužbe o Henkokovoj upotrebi AI prvi je izvestio Minnesota Reformer. Minesota je jedna od 20 država koje su usvojile zakone koji regulišu upotrebu deepfake-ova u političkim kampanjama. Njen zakon zabranjuje svesno ili sa nesmotrenim nepoštovanjem širenje deepfake-a do 90 dana pre izbora ako je materijal napravljen bez pristanka osobe koja je prikazana i ima za cilj da utiče na rezultate izbora.

Tužbu kojom se osporava zakon podnela je konzervativna advokatska firma u ime predstavnice države Minesote Meri Franson i Kristofera Kolsa, jutjubera poznatog pod imenom Mr Reagan.

Tužba koju je podneo Kols osporavajući kalifornijski zakon o deepfake-ovima na izborima dovela je do toga da je savezni sudija prošlog meseca izdao privremenu zabranu koja sprečava stupanje tog zakona na snagu, piše Gizmodo.