Ivan Mančić
Jedna rečenica izgovorena tokom prošlogodišnjeg događaja kompanije Oracle nastavlja da izaziva burne reakcije širom tehnološke industrije. Sada se ponovo našla u centru pažnje nakon što je TechRadar podsetio na njene potencijalno dalekosežne posledice.
„Građani će se ponašati najbolje moguće jer konstantno snimamo i prijavljujemo sve što se dešava“.
Ovu izjavu izneo je Larry Ellison, suosnivač i predsednik kompanije Oracle, govoreći o mogućnostima koje bi veštačka inteligencija mogla da donese sistemima nadzora i bezbednosti.
Iako je Ellison njegovu viziju predstavio kao način za smanjenje kriminala, povećanje bezbednosti i efikasnije funkcionisanje društva, kritičari upozoravaju da takav pogled otvara vrata scenariju koji više podseća na distopijsku naučnu fantastiku nego na poželjnu budućnost.
Suština Ellisonove ideje zasniva se na pretpostavci da bi napredni AI sistemi, povezani sa ogromnim mrežama kamera i senzora, mogli da prate gotovo sve aktivnosti u javnom prostoru. Veštačka inteligencija zatim bi automatski analizirala prikupljene podatke, identifikovala sumnjivo ponašanje i prijavljivala incidente bez potrebe za ljudskom intervencijom.
Ovakva tehnologija više nije samo teorijski koncept. Poslednjih godina AI sistemi za prepoznavanje lica, analizu video zapisa i obradu podataka u realnom vremenu postali su značajno napredniji. Kompanije poput Microsofta, Googlea, Mete i OpenAI-ja ulažu milijarde dolara u razvoj sistema koji mogu da razumeju i analiziraju svet kroz kamere, mikrofone i druge senzore.
Međutim, upravo tu počinje i najveća kontroverza.
Zagovornici privatnosti upozoravaju da postoji ogromna razlika između korišćenja AI sistema za specifične bezbednosne zadatke i stvaranja društva u kojem se svaki pokret, razgovor ili aktivnost potencijalno beleži i analizira.
U takvom okruženju građani više ne menjaju ponašanje zato što poštuju zakon ili društvene norme, već zato što pretpostavljaju da su stalno pod nadzorom.
To je koncept koji društveni naučnici već decenijama nazivaju „efektom panoptikona“, prema ideji zatvora u kojem zatvorenici nikada ne znaju da li ih neko posmatra, pa se ponašaju kao da su pod stalnim nadzorom.
Ellisonova izjava dolazi u trenutku kada se tehnološka industrija nalazi na prekretnici. Generativna veštačka inteligencija privukla je najveću pažnju javnosti tokom poslednjih nekoliko godina, ali mnogi stručnjaci smatraju da bi takozvana „fizička AI“ mogla da ima još veći uticaj na svakodnevni život.
Za razliku od chatbotova i generatora slika, fizička AI podrazumeva sisteme koji mogu da posmatraju stvarni svet, donose odluke i reaguju na događaje u realnom vremenu. Takve tehnologije već se koriste u pametnim gradovima, autonomnim vozilima, industrijskim postrojenjima i bezbednosnim sistemima.
Pitanje koje sada postaje sve važnije nije da li je takav nivo nadzora tehnički moguć, već ko će kontrolisati podatke, kako će se koristiti i gde će biti postavljene granice.
Istorija tehnološkog razvoja pokazuje da alati razvijeni za legitimne bezbednosne svrhe često vremenom dobijaju mnogo širu primenu. Sistemi za prepoznavanje lica, na primer, prvobitno su predstavljani kao način za identifikaciju kriminalaca i nestalih osoba, da bi kasnije bili korišćeni i za komercijalno praćenje korisnika, analizu ponašanja kupaca i druge svrhe koje nisu bile deo prvobitnih obećanja.
Zbog toga su Ellisonove reči izazvale snažne reakcije među organizacijama koje se bave digitalnim pravima i zaštitom privatnosti. Kritičari upozoravaju da ideja društva u kojem se „sve snima i prijavljuje“ podrazumeva koncentraciju ogromne količine moći u rukama vlada, korporacija ili institucija koje upravljaju takvom infrastrukturom.
S druge strane, pristalice naprednih bezbednosnih sistema tvrde da građani već danas dobrovoljno dele ogromne količine podataka putem pametnih telefona, društvenih mreža i povezanih uređaja, te da bi inteligentni sistemi nadzora mogli da doprinesu bezbednijem društvu.
Upravo zbog toga rasprava nije samo tehnološka, već i politička, pravna i društvena.
Veštačka inteligencija danas omogućava analizu količina podataka koje su pre samo nekoliko godina bile nezamislive. Kako te mogućnosti budu rasle, pitanje privatnosti verovatno će postati jedno od najvažnijih pitanja digitalnog društva.
A bez obzira na to da li je Ellisonova izjava bila zamišljena kao optimistična vizija ili upozorenje, ona je uspela da skrene pažnju na dilemu sa kojom će se suočiti gotovo svaka moderna država: koliko bezbednosti želimo da dobijemo i koliko privatnosti smo spremni da žrtvujemo zauzvrat, zaključuje TechRadar.
Eto, a posle teoreticari zavera ludi🙂
View image at the forums
А како се онда људи у ријалитијима не понашају најбоље?
Zato sto su placeni da se ne ponasaju najbolje 😀
Могуће. А неки можда и нису.
Ma idemo odmah na sud čemu usporavati napredak.
https://www.imdb.com/title/tt31050594/
Pa realno kada bude dovoljno parametara po osobi moze i presuda pre izvrsenja zlocina. Zasto nekome dozvoliti da pocni zlocin ako moze da se spreci pre toga. Jos je i zgodnije jer nece biti sudjenja. Znaci daleko brze.
Eto, i to smo resili.
Daa, napredak je neumoljiv.
View image at the forums
Можда је и најбоље било да смо остали на нивоу развоја између два светска рата…
Лари, само 900kPa. 😁
Bilo bi ovo dobro da je overall svega neka kvalitetna, moralna i poštena "uprava".
Ali kako bi ovakav sistem izgledao u rukama totalitarnih režima, u režimima drugačijeg shvatanja šta je ispravno, drugačijeg pogleda na moral i pravo, nego što su neka naša shvatanja?!?
Eto npr, kako bi to izgledao kada bi se implementiralo u verski totalitarnim režimima?!?
Da ne spominjem neke druge totalitarizme...
Sto je eventualno moguce u starogrckoj teoriji o demokratiji, sto ce se desiti nikad.
Mani me molim te tih liberaških priča... Nigde većeg totalitarizma nego na "demokratskom zapadu" gde možeš da zaglaviš ćorku zbog budalaštine na društvenim mrežama - i to se i aktivno dešava po VB, ili možeš da budeš odbijen za kredit za stan jer si označen kao "problematičan" kao u SAD-u...
Lako ćemo mi sa totalitarnim režimima - tu se zna ko vodi igru, i zna se kako izaći iz te igranke.
Šta ćemo sa demokratskim režimima gde svi izlaze na izbore i biraju kao nešto, a ništa se ne menja? I gde igru vode velike korporacije, dok se ljudima daje iluzija izbora u koju oni veruju?
I na kraju krajeva, a koja je to moralna i poštena "uprava" ikad, igde? Svaka koristi svoje do krajnjih granica do kojih može da prođe nekažnjeno - od Saudijske Arabije do Amerike i Japana... Zato i gledamo ovakvo sistemsko zaglupljivanje civilizacije zadnjih par decenija - da bi im se oslobodilo više prostora za rad.
Prosto rečeno - sistem koji je dotični predložio je zatvor, i potpuno je nebitno ko je upravnik.
Za razliku od mitova i legendi koje Larry priča, u Kini taj nadzor ne radi selektivno zavisno od broja članske kartice nekog pedo kluba iz Davosa. Ili sa Menhetna.
"Cena toga sto dobri ne zele vlast je da je zli imaju".
Razumem da neko zbog skore istorije ne voli USA i "zapad" generalno, razumem da mere nadzora koje tamo sprovode nakon 2001. pod izgovorom borbe protiv terorizma nisu ni liberalne ni demokratske i da ti ima mnogo licemerja, razumem i još veće licemerje ekstremne "woke" agende i nekih zakona i pravila koje su nastali pod tim uticaje, ali porediti slobodu pojedinca, organizacija i političkog delovanja u tim društvima, uz sve mane, sa Kinom ili Rusijom (ili još gore Iranom gde žene hapse zbog marame) je smešno. Pa vreme između dva rata - vreme Hitlera i Staljina, a ni ostali nisu ideološki bili mnogo bolji, samo malo manje nasilni.
Pogledate samo na YT koliko ima kanala koji kritikuju američke "liberale", na hiljade, od kojekakvih ludaka do ozbiljnih konzervativno nastrojenih intelektualaca, a stalno neko pokušava da prikaže kako ne sme da se kritikuje jer su ukinuli neki pojedinačan kanal koji je baš preterao. Isto tako, pogledajte koliko ima onih suprotnih, koji kritikuju konzervativne aktiviste i političare, koliko kritikuje Trampa i nikom ništa. Koliko ima takvih ruskih ili kineskih kanala? Nađite jednog Rusa koji živi u Moskvi i snima kritički nastrojeni video o Putinu...
Što se tiče nadzora, ja sam negde između evropskog i američkog stava. Kada se radi o javnom prostoru apsolutno bih dozvolio neograničeno snimanje, i od strane državnih organa i od strane pojedinaca, ali uz zabranu javnog objavljivanja snimljenog sadržaja bez saglasnosti snimljenih lica (uz minimalan broj izuzetaka, gde postoji neki veći opšti interes) i zabranu automatskog praćenja kretanja pojedinaca, sem onih koji su na nekim "merama". Moja logika je da kada sam na ulici, svakako me vidi na stotine ili hiljade ljudi, o kakvoj onda privatnosti pričamo.
Dobro je da je ova informacija preuzeta sa samo 250 dana zakašnjenja.
Prosvećeni apsolutizam?
Ja sam za.