Kineski državljanin uhapšen jer je koristio ChatGPT da pravi lažne vesti

U poslednjih pola godine, skoro svakog dana izlaze vesti o novim načinima korišćenja veštačke inteligencije, opasnostima i dobrim stvarima koje ona nosi, kao i o razvoju njenih popularnih ChatGPT botova u okviru različitih korporacija – OpenAI, Google, Microsoft i sl. Ipak, presedan u takvim vestima je da se dogodilo i hapšenje zbog korišćenja četbota – u nedelju je policija u kineskoj provinciji Gansu uhapsila čoveka pod tvrdnjama da je navodno zloupotrebio OpenAI četbot da bi napravio i raširio lažne vesti o železničkoj nesreći sa smrtnim ishodom, objavio je South China Morning Post.

Hapšenje

Službenici koji se bave sajber bezbednošću u Kongtong okrugu videli su vest koju je istovremeno postavilo više od 20 ljudi na onlajn kinesku blog platformu Baijiahao u vlasništvu pretraživača Baidu.

Policija je, kako tvrdi, uvidela da je Hong zaobišao Baidu ograničenja o postavljanju istog sadržaja na više naloga i potom uz pomoć ChatGPT bota kreirao više različitih verzija novinske vesti koja je generisala oko 15 hiljada klikova do momenta Hongovog hapšenja. Hong je, prema tvrdnjama, vlasnik kompanije koja upravlja većim brojem blogova koji se plaćaju.

Stroge regulacije i zloupotrebe

U januaru ove godine, Kina je usvojila novi zakon koji ograničava korišćenje veštačke inteligencije, kako bi sprečila kreiranje deepfake video i audio snimaka. Ovaj zakon ograničava i vesti koje piše veštačka inteligencija, osim liste medija koji imaju dozvolu da je koriste.

Ipak, u aprilu su donete nove regulacije i smernice koje ograničavaju botove veštačke inteligencije, što bi, kako tvrde zvaničnici, trebalo da pomogne u stvaranju „prijateljske klime u njenom korišćenju“.

Poznato je da Kina ima sopstveni nacionalni firewall koji ograničava korisnike da upotrebljavaju internet u ovoj državi. U svetlu novih regulacija, ljudi i kompanije koji bi hteli da koriste ChatGPT moraju da koriste VPN, a iako im je omogućeno takvo korišćenje, kineske firme sada prave sopstvene četbotove koji će biti u skladu sa novim kineskim zakonima.

Lažne vesti – primer zloupotrebe

Iako možete naterati veštačku inteligenciju da laže i širi lažne vesti, nove kineske regulacije dovode u pitanje zloupotrebu četbotova i od strane vlasti. U svetlu ovog hapšenja time se posebno otvara mogućnost za državne zloupotrebe, s obzirom na to da je vlada u Pekingu u više navrata optuživana da je prikrivala železničke nesreće poput one u Žediđangu 2011, u kojoj je zaista poginulo najmanje 38 ljudi, podseća Gizmodo. S obzirom na to, bilo koja slična vest mogla bi da završi pod optužbama da je to „laž koju je proizvela veštačka inteligencija“.

Shutterstock

Naravno, Kina nije jedina koja je krenula u regulaciju i ograničavanje upotrebe veštačke inteligencije. Evropska unija je krajem aprila takođe predstavila tzv. AI Act – nacrt zakona o veštačkoj inteligenciji, o kojem smo već pisali. U njega spada i ograničenje dizajna generativnih AI modela koji moraju da budu napravljeni „u skladu sa EU zakonima i osnovnim pravima, uključujući i slobodu govora“.