Igre 
Evropski parlament usvojio rezoluciju: Protive se upotrebi veštačke inteligencije za masovni nadzor stanovništva
Komentari06/10/2021
-21:15
Poslanici u Evropskom parlamentu usvojili su rezoluciju kojom se protive korišćenju veštačke inteligencije za masovni nadzor stanovništva, i istakli da se mora očuvati pravo na privatnost.
U rezoluciji se zahtevaju veća ograničenja i strože mere kontrole kada se radi o veštačkoj inteligenciji (AI) koju upotrebljavaju policijske snage, kao i o nadzoru prilikom prelazaka granica.
Poslanici su naglasili i da bi, bez obzira na sav napredak tehnologije, ljudska bića ipak trebalo da uvek imaju poslednju reč u slučajevima prepoznavanja na osnovu snimaka, a da bi oni koji su na snimcima trebalo da dobiju priliku da se odbrane od eventualnih optužbi.
Transparentnost na prvom mestu
Iako je obrada velike količine podataka u samom srcu AI, pravo na zaštitu privatnosti trebalo bi da se primeni na sve ravni u kojoj AI deluje, i zakoni EU trebalo bi da budu usklađeni sa tim, piše u tekstu.
Dodaje se da bi podaci koje AI dobije nadzornim kamerama trebalo da se se koriste samo u pravične svrhe, i da bi njihova upotreba trebalo da bude transparentna, jasno određena i eksplicitno navedena.
Unsplash
Takođe, navodi se i da bi trebalo da postoji mogućnost da se podaci ne zadržavaju više nego što je potrebno, kao i da se netačni podaci brišu.
Navedeno je u izveštaju, međutim, da postoje i primeri pozitivne primene AI u okviru policijskih snaga, kao što je mogućnost primene AI za još bolju pretragu podataka.
Povezane vesti
Glavni problem - diskriminacija
Kao jedan od glavnih problema koji se tiču negativnih strana AI, Evropski parlament navodi prostor za pristrasnost i diskriminaciju mašinskog učenja, uključujući i algoritme na kojima ova tehnologija počiva.
Mnoge tehnologije koje počivaju na sličnim algoritmima a koje se trenutno koriste, navodi se u tekstu Evropskog Parlamenta, pogrešno identifikuju i stoga povređuju članove određenih rasa i etničkih manjina, pripadnike LGBTI populacije, decu i starije osobe, kao i žene.
U sklopu toga, navodi se i da prepoznavanje ljudi na osnovu karakteristika određene grupe na kraju vodi do još veće diskriminacije.
Primena tehnologije AI za nadzor stanovništva stvara jaz između onih koji primenjuju tehnologiju i onih koji su joj podložni, dodaje se u tekstu Evropskog parlamenta, uz upozorenje da se time može pojačati i društvena nejednakost.
Kontrola na granicama
Još jedna sfera gde je AI upotrebljena za nadzor stanovništva, jesu granice.
Kako navodi Evropski parlament, jedan od primera za ovo je korišćenje "iBorderCtrl" sistema, koji se koristi pri prelasku putnika preko spoljnih granica, odnosno kada ljudi ulaze u EU.
Ovaj sistem se još naziva i "pametni sistem za detekciju laži", a njime se putnici profiliraju na osnovu automatski vođenog intervjua putem njihovih veb-kamera, koji rade pre nego što krenu na put.
Povezane vesti
Prilikom ovog intervjua, veštačka inteligencija prepoznaje i analizira 38 mikropokreta, pokazalo se na istraživanjima sprovedenim u Letoniji, Mađarskoj i Grčkoj.
Na osnovu ovih analiza, potom, putnici mogu da budu prepoznati.
Ljudi moraju da preuzmu odgovornost
"U kontekstu pravosuđa i sprovođenja zakona, konačnu odluku koja ima neku pravnu težinu uvek mora da donese ljudsko biće, koje se može smatrati odgovornim za donete odluke. Oni koji su podložni odlukama donetim na osnovu snimaka i obrade podataka AI, moraju imati mogućnost da se brane, i takve odluke ne smeju biti zasnovane isključivo na automatizovanoj obradi podataka", navodi se iz Evropskog parlamenta.
Unsplash
Na osnovu svega ovoga, Evropski parlament je predložio moratorijum na primenu sistema za prepoznavanje lica u svrhe sprovođenja zakona, osim ako se striktno ne koriste u svrhu identifikacije žrtava zločina.
Ovaj moratorijum bi, prema trenutnom predlogu, trebalo da traje sve dok ne budu postojali određeni uslovi: tehnički standardi koji su potpuno usklađeni sa osnovnim pravima, pravni okvir koji štiti od zloupotrebe i kontrole stanovništva nadzorom, kao i dokaza da je upotreba ovakve tehnologije zaista neophodna.
"Clearview AI"
Posebno poglavlje u tekstu Evropskog parlamenta odnosi se na tehnologiju kompanije "Clearview AI", koja pruža usluge prepoznavanja lica uz pomoć veštačke inteligencije.
Parlament navodi da su zabrinuti zbog toga što neke zemlje potencijalno koriste ovu tehnologiju, jer "Clearview AI" svojim klijentima daje privatnu bazu podataka sa više od tri milijarde lica nelegalno sakupljanih sa društvenih mreža i drugih delova interneta, a tu su uključeni i građani EU.
Iz Parlamenta su pozvali sve države članice da primoraju svoje organe vlasti d se izjasne da li koriste tehnologiju ove kompanije ili neke slične.
Od početka 2020. godine, inače, šest zemalja je otvorilo istrage protiv svojih organa vlasti zbog potencijalnog korišćenja tehnologije kompanije "Clearview AI", a tri su članice EU.
U pitanju su Francuska, Švedska, Finska, Kanada, Australija i Ujedinjeno Kraljevstvo.
Projekat "Mejven"
Jedan od primera da mašine nisu bezgrešne, a da kada se koriste tamo gde se odlučuje o ljudskim životima, cena može da bude preskupa, jeste i "Projekat Mejven".
Lora Nolan je naučnica koja je 2018. godine dala otkaz u Guglu, zbog toga što je smatrala da ova kompanija želi da koristi veštačku inteligenciju neetički, kako bi nadzirala ljude.
Ona je radila na Projektu Mejven - u pitanju je projekat američkog Pentagona, koji je služio razvijanju tehnologija za raspoznavanje ljudi i objekata sa snimaka koje su napravili dronovi u oblastima gde su kuljali arapski konflikti.
Pixabay
"Dala sam otkaz iz nekoliko razloga. Nisam bila saglasna sa načinom na koji SAD koriste ovu tehnologiju u antiterorističkim operacijama. Mnogi nevini ljudi bili su ubijeni zbog toga što su ih mašine pogrešno prepoznale kao teroriste, ili zbog korišćenja eksploziva blizu oblasti nastanjenih civilima", rekla je Nolan za Euronews Srbija.
Dodaje i da je Gugl ušao u ovaj posao sa Pentagonom, a da nije obavestio zaposlene o čemu se zaista radi, kao i da zaposleni nisu znali da će doprinostiti nečijoj smrti.
"Mejven je bio projekat nadziranja, a ne oružje. Međutim, nadziranje je prva karika u 'lancu ubijanja'", ističe.
Komentari (0)