Novi AI alati i aplikacije zahtevaju zabrinjavajući nivo pristupa ličnim podacima

Veštačka inteligencija (AI) se sve više nameće u gotovo svim aspektima svakodnevnog života: od pametnih telefona i aplikacija, preko pretraživača, pa čak do drive-through restorana. Činjenica da sada dobijamo i web pregledače sa ugrađenim AI asistentima i chatbotovima svedoči o drastičnoj promeni načina na koji ljudi danas koriste internet i dolaze do informacija.

Ali, sa porastom njihove prisutnosti dolazi i rastuća zabrinutost: AI alati sve češće traže zapanjujuće visok nivo pristupa ličnim podacima korisnika, pod izgovorom da im je taj pristup neophodan za funkcionisanje. Ovakva praksa postavlja ozbiljno pitanje: da li smo mi kao društvo počeli da normalizujemo digitalni nadzor?

Nekada smo s pravom postavljali pitanje zašto jedna jednostavna aplikacija poput „digitrona” ili „baterijske lampe” traži dozvole za pristup kontaktima, lokaciji ili galeriji. Danas se AI ponaša vrlo slično, ali sa mnogo većim kapacitetima obrade i uticaja.

Jedan od najnovijih primera je Comet, web pregledač zasnovan na AI, koji razvija kompanija Perplexity. Ovaj pretraživač koristi ugrađeni AI da automatski pronalazi informacije, sumira mejlove i organizuje kalendarske događaje. Međutim, da bi to uradio, Comet traži širok pristup vašem Google nalogu, uključujući mogućnost slanja mejlova u vaše ime, preuzimanje kontakata, pregled i izmenu svih događaja u kalendaru, pa čak i kopiranje kompletne interne baze zaposlenih u vašoj kompaniji.

Iako Perplexity tvrdi da se podaci čuvaju lokalno, korisnik i dalje mora da dodeli dozvole koje omogućavaju kompaniji pristup njegovim ličnim informacijama, ne samo da bi usluga funkcionisala, već i kako bi se dodatno „obučavali modeli“ koji pomažu svima ostalima.

Slični slučajevi su sve češći. AI aplikacije koje nude transkripciju poziva ili poslovnih sastanaka često zahtevaju uvid u kalendare, kontakte i privatne razgovore u realnom vremenu. Meta je otišla korak dalje: testiraju pristup fotografijama koje korisnici još nisu ni objavili.

Meredith Whittaker, predsednica aplikacije Signal i poznata aktivistkinja za digitalna prava, uporedila je upotrebu AI agenata sa „stavljanjem sopstvenog mozga u teglu“. Ona upozorava da asistentima dajemo dozvole da pristupaju pretraživačima (gde se čuvaju lozinke i istorija pretrage), kalendarima, karticama za plaćanje, pa i našim kontaktima. Sve to zarad jednostavnih zadataka poput rezervacije večere ili kupovine karata.

Problem leži u činjenici da ovakve dozvole omogućavaju AI da dobije trenutni, nepovratni uvid u veliki deo vašeg digitalnog identiteta: mejlove, poruke, istoriju, dokumente i kontakte. Pritom, dozvoljavate tehnologiji da autonomno deluje u vaše ime, iako se zna da čak i najsavremeniji AI modeli mogu da greše ili izmišljaju odgovore.

Osim poverenja u sam AI, korisnici moraju da veruju i kompanijama koje ga razvijaju — kompanijama koje imaju jasan finansijski interes da što više podataka prikupe kako bi poboljšale svoje modele. Kada nešto krene po zlu (a dešava se često), nije retkost da ljudski zaposleni u tim firmama direktno pregledaju vaše privatne poruke kako bi utvrdili problem.

Jednostavna analiza odnosa između rizika i koristi jasno pokazuje: povezanost AI sistema sa vašim najličnijim podacima nije vredna potencijalne uštede vremena. Ako vam aplikacija traži dozvole koje ne bi tražila ni aplikacija za baterijsku lampu, to bi trebalo da bude crvena zastavica, piše Tech Crunch.

U vremenu kada predajemo ogromne količine ličnih podataka pod izgovorom komfora, možda je vreme da se zapitamo, da li zaista dobijamo vrednost koja opravdava rizik?