Novi izveštaj otkriva da Apple i Google aktivno promovišu aplikacije za “razgolićavanje” kroz pretragu i oglase

Najnoviji izveštaj organizacije Tech Transparency Project baca novo svetlo na ulogu najvećih digitalnih platformi u širenju kontroverznih AI alata. Prema njihovim nalazima, Apple i Google ne samo da hostuju takozvane “nudify” aplikacije u svojim prodavnicama, već ih njihovi algoritmi aktivno promovišu korisnicima kroz pretragu i oglašavanje.

Ove aplikacije koriste veštačku inteligenciju da generišu lažne, često eksplicitne slike stvarnih ljudi bez njihovog pristanka, što ih stavlja u centar sve većeg globalnog problema deepfake zloupotreba.

Istraživanje pokazuje da jednostavne pretrage pojmova poput “nudify”, “undress” ili “deepnude” u App Store i Google Play Store vode do desetina aplikacija koje nude upravo takve funkcionalnosti.

Još problematičnije, platforme ne ostaju neutralne. Njihovi sistemi predlažu dodatne slične pojmove kroz autocomplete, prikazuju oglase za ovakve aplikacije i rangiraju ih visoko u rezultatima pretrage.

Drugim rečima, algoritmi ne samo da ne sprečavaju pristup, već ga potencijalno i olakšavaju.

Prema podacima izveštaja, ovakve aplikacije su preuzete stotinama miliona puta i generisale su više od 120 miliona dolara prihoda, što jasno ukazuje da se ne radi o marginalnom fenomenu.

Problem teorije i prakse

Ironija situacije je u tome što obe kompanije formalno zabranjuju ovakve aplikacije kroz svoje smernice. I Apple i Google imaju pravila koja zabranjuju sadržaj koji uključuje pornografiju, uznemiravanje i neovlašćeno korišćenje tuđih slika.

Međutim, izveštaj sugeriše ozbiljan jaz između politike i implementacije. Algoritamski sistemi za pretragu i monetizaciju funkcionišu nezavisno od moderacije sadržaja, što dovodi do paradoksalne situacije u kojoj platforme istovremeno zabranjuju i promovišu isti tip aplikacija.

Eksplozija AI zloupotrebe

Sve ovo se dešava u trenutku kada AI alati za generisanje slika i videa postaju sve dostupniji i moćniji.

“Nudify” aplikacije predstavljaju samo jedan segment šireg problema – rasta neovlašćenih deepfake sadržaja, koji se sve češće koriste za uznemiravanje, ucene i digitalno nasilje, posebno nad ženama i maloletnicima.

Dodatno zabrinjava činjenica da su neke od ovih aplikacija označene kao pogodne za mlađe korisnike, što otvara pitanje efikasnosti postojećih sistema za klasifikaciju sadržaja.

Vest je već izazvala reakcije regulatora i zakonodavaca, posebno u SAD i Evropi, gde se sve više govori o potrebi za strožom kontrolom AI alata i odgovornosti platformi.

U pojedinim slučajevima, nakon medijskog pritiska, kompanije su uklonile deo spornih aplikacija, ali kritičari tvrde da je to reaktivan, a ne sistemski pristup.

Zarada protiv odgovornosti

Ključno pitanje ostaje: da li platforme zaista mogu da kontrolišu sadržaj koji monetizuju, ili su njihovi poslovni modeli u direktnom sukobu sa bezbednošću korisnika?

Slučaj “nudify” aplikacija razotkriva dublji problem u digitalnoj ekonomiji – konflikt između rasta, angažmana i odgovornosti.

Ako algoritmi nagrađuju sadržaj koji privlači pažnju, bez obzira na njegove posledice, onda problem nije samo u pojedinačnim aplikacijama, već u samoj strukturi platformi.

U tom kontekstu, Apple i Google se više ne mogu posmatrati kao neutralni distributeri softvera, već kao aktivni akteri u oblikovanju digitalnog ekosistema – sa svim odgovornostima koje iz toga proizlaze, prenosi Digital Trends.