Život pod stalnim nadzorom, Orvelova "1984" preti da postane stvarnost

Korišćenje napredne tehnologije za svakodnevni nadzor stanovništva izgleda kao scenario koji je pobegao iz pera Džordža Orvela. Ipak, čini se kao da je to put kojim su neke države krenule, a veštačka inteligencija koja služi za raspoznavanje lica samo je jedan od takvih primera.

U vremenu kada najveće tehnološke kompanije poput Gugla imaju neverovatno veliki uticaj na društvo, pitanje privatnosti i uticaja tehnologije na život ljudi, važnije je nego ikada.

Ne razumemo dovoljno veštačku inteligenciju

Osnovne ideje iz Orvelovog distopijskog romana "1984" uglavnom su poznate - Veliki brat nadgleda stanovništvo uz pomoć nepreglednog broja kamera i ekrana, i "disciplinuje" ljude tako da svi misle isto. 

Tehnologija je u poslednje vreme toliko uznapredovala, da se mnogi boje kako bi upravo nešto slično moglo da se desi i u stvarnosti. 

"Ne mislim čak ni da je toliki problem razvoj tehnologije, koliko njena komercijalizacija. Upotreba servisa poput veštačke inteligencije, koju suštinski ne razumemo, morala bi da bude mnogo bolje kontrolisana", rekao je za Euronews Srbija Vladimir Radunović, direktor programa sajber bezbednosti i e-diplomatije u Diplo Fondaciji.

Dodaje i da je, kod veštačke inteligencije, koncept takav da najčešće ne možemo da ispratimo na koji način se odluke donose, i da to otvara mnoga pitanja koja se tiču kontrole i ljudske privatnosti.

Kad mašine pogreše, mnogo je nevinih žrtava

Unsplash

Mašine nisu bezgrešne, a kada se koriste tamo gde se odlučuje o ljudskim životima, cena može da bude preskupa.

Lora Nolan je naučnica koja je 2018. godine dala otkaz u Guglu, zbog toga što je smatrala da ova kompanija želi da koristi veštačku inteligenciju neetički, kako bi nadzirala ljude.

Radila je na Projektu Mejven - u pitanju je projekat američkog Pentagona, koji je služio razvijanju tehnologija za raspoznavanje ljudi i objekata sa snimaka koje su napravili dronovi u oblastima gde su kuljali arapski konflikti.

"Dala sam otkaz iz nekoliko razloga. Nisam bila saglasna sa načinom na koji SAD koriste ovu tehnologiju u antiterorističkim operacijama. Mnogi nevini ljudi bili su ubijeni zbog toga što su ih mašine pogrešno prepoznale kao teroriste, ili zbog korišćenja eksploziva blizu oblasti nastanjenih civilima", kaže Nolan za Euronews Srbija.

Dodaje i da je Gugl ušao u ovaj posao sa Pentagonom, a da nije obavestio zaposlene o čemu se zaista radi, kao i da zaposleni nisu znali da će doprinostiti nečijoj smrti.

"Mejven je bio projekat nadziranja, a ne oružje. Međutim, nadziranje je prva karika u 'lancu ubijanja'", ističe.

Nadzorne kamere "cvetaju" u Kini

Kina je, pre nekoliko godina, saopštila kako želi da do 2030. godine postane globalni lider u korišćenju veštačke inteligencije.

Prema istraživanju kompanije "Comparitech", 16 od 20 gradova sa najviše nadzornih kamera na 1.000 stanovnika nalazi se u upravo u ovoj zemlji.

U svetu, sve ukupno, ima oko 770 miliona nadzornih kamera, a u Kini ih je oko 416 miliona, odnosno 54 odsto.

Kada uzmemo u obzir sve ove parametre, nije ni čudo što stručnjaci često ističu Kinu kao "zemlju totalitarnog nadzora".

Ovi navodi su donekle tačni, smatra Nolan, navodeći da je naročito brinu istraživanja koja govore o "prepoznavanju etničkog porekla" ljudi u Kini, kada su u pitanju Tibetanci i Ujguri.

Ističe da nezvanični podaci govore da Kina koristi sisteme visoke tehnologije raspoznavanja za identifikovanje Ujgura, ali da se, prema njenim istraživanjima, tehnologija ne ubotrebljava za ciljano prepoznavanje određenih ljudi, već za šire grupe.

Slučajno prošao pored mesta zločina - umalo da bude uhapšen

Da problemi koji se tiču tehnologije i narušavanja ljudske privatnosti postoje i u zapadnim zemljama, pokazuje prošlogodišnji primer bicikliste koji je, ni kriv ni dužan, postao sumnjiv policiji.

Zakari MekKoj je dobio mejl od Gugla u kom piše da policija zahteva njegove podatke, i da će, ukoliko MekKoj ne ode na sud da pokuša to da zaustavi, kompanija proslediti sve podatke koji se od njih traže.

Prvo nije znao o čemu se radi, a onda je, po broju slučaja koji mu je Gugl dao, otkrio da je deset meseci ranije biciklom tri puta u roku od sat vremena prošao pored kuće u kojoj je izvršena pljačka.

Koristio je aplikaciju koja prati koliko je kilometara prešao biciklom, aplikacija se oslanjala na podatke o lokaciji sa njegovog telefona, a ti podaci su odlazili pravo Guglu.

Ispostavilo se da je upravo ovaj splet nesrećnih okolnosti doprineo tome da MekKoj umalo bude uhapšen zbog krađe koju nije izvršio, a za sve je zaslužan "Nalog o geolokaciji", kojim policija SAD može da traži bilo čije podatke o lokaciji od Gugla, ukoliko smatra da to ima potrebe.

Često se dešava da policija traži podatke gomile ljudi za koje se sumnja da imaju veze sa nekim zločinom, a na kraju ih ni ne kontaktira.

Sam Gugl je, u sličnoj situaciji koja se desila pre ove sa biciklistom, saopštio da "Nalozi o geolokaciji" moraju da se koriste veoma oprezno, jer zadiru u privatnost njihovih korisnika.

Nisu problem zakoni, već njihova primena

Unsplash

U Srbiji još uvek ne postoji zakon koji bi regulisao korišćenje veštačke inteligencije u svrhu raspoznavanja lica, ali Radunović naglašava da takvo nešto možda i nije potrebno.

"Za veštačku inteligenciju, konkretno, nemamo zakone u Srbiji. Ipak, tu je velika polemika i u svetu da li bi sad za svaku novu tehnologiju trebalo praviti novi zakon, ili se prosto držati principa a onda dati određenim regulatorima da to sprovedu u delo", objašnjava.

Dodaje i da su zakoni u Srbiji prilično jasni kada je privatnost u pitanju, ali da problem nastaje kod primene i tumačenja.

"Takva tehnologija dovodi u iskušenje ljude, pogotovo u malim sredinama kao što je naša", naglasio je, dodajući da se u Evropi već usvajaju predlozi zakona po kojima će se korišćenje tehnologije prepoznavanja lica mnogo bolje kontrolisati.

"Moraće da se traži dozvola pre korišćenja, dakle potpuno obrnuto od onoga što imamo sada. Umesto da se prvo koristi pa onda govori da li sme ili ne sme, biće potreba posebna dozvola od suda ili službi bezbednosti da se takva tehnologija koristi", kaže Radunović.

Dve vrste nadziranja

Lora Nolan smatra da nadziranje, ipak, može da bude etično, i da za time postoji očigledna potreba kada je u pitanju vojska ili borba protiv kriminala.

Kako je objasnila, postoje dve vrste nadziranja - široko, i ciljano. 

"Ciljano nadziranje odnosi se na pojedince koji su sa razlogom sumnjivi - često je to zbog izveštaja obaveštajnih službi. Ukoliko se nadziranje u ovom slučaju izvrši na kontrolisan način, to može biti dobar način da se sumnje potvrde".

Široko nadziranje je, ipak, ono što može da napravi potencijalne probleme. 

"Tu tražite iglu u plastu sena, odnosno anomalije u bazama podataka, i tada zaista AI i računari dolaze do izražaja. Ovo je tip nadziranja koji stvara probleme. Ljudi mogu da postanu sumnjivi iako ne rade ništa nelegalno, samo zbog toga što se ove analize vrše na tako velikom uzorku. To može biti prava pretnja građanskim slobodama, ili čak životima", objašnjava. 

Pixabay

Slično smatra i Radunović, naglašavajući da nije problem u tehnologiji, već u načinu na koji se ona upotrebljava.

Objašnjava da, u nekim primerima zakonodavstva u Evropi i Americi, koji će verovatno stići i u Srbiju, stoji da za korišćenje tehnologije raspoznavanja lica mora da se koristi eksplicitna dozvola.

"Ne verujem da će ovakva tehnologija u Srbiji biti potpuno zabranjena, jer ima prednosti. Ali, ta kontrola će morati da bude veoma pooštrena, u smislu da će morati da se traži dozvola pre korišćenja", kaže Radunović.