Deepfake AI pornografija hara svetom i Srbijom: Jedna fotografija i 25 minuta rada dovoljni su da nekome unište život

Ne tako davno osvetnička pornografija dospela je u žižu javnosti, a njene žrtve širom sveta pokušavale su da se izbore za pravdu u zakonskim okvirima koji ne mogu da isprate brzinu kojom se internet menja. Onda se pojavila deepfake tehnologija i omogućila bilo kome da napravi donekle uverljive lažne snimke, koristeći lice jedne osobe na telu druge. U početku su svi mogli da prepoznaju da nešto nije u redu sa tim videima, ali je tehnologija naglo napredovala probojem u polju veštačke inteligencije (AI), tako da je danas teško razaznati lažnjake, čak i kada ih nisu pravili profesionalci.

Tako su se opasnostima na "divljem zapadu" interneta pridružili na poprilično verodostojni AI/deefpake snimci, koji mogu da imitiraju i glas žrtve, a u periodu od 2019. do kraja 2023. njihov broj je porastao za 550 procenata na globalnom nivou, navodi se u istraživanju udruženja Home security heroes. Takođe je izračunato da je 98 odsto kompletnog deepfake sadržaja pornografsko, a da je 99 odsto meta ženskog pola. Bizaran detalj je da čak 53 procenata žrtava čine južnokorejske pevačice i glumice. Naravno, u većini slučajeva kada su iskorišćene poznate ličnosti jasno je da snimci nisu pravi.

profimedia

Dodatni problem je što vrtoglavim razvojem AI programa postaje sve lakše bilo kome, čak i bez prethodnog iskustva, da napravi uverljiv video. Prema pomenutom istraživanju, za izradu 60 sekundi lažnog videa od jedne kvalitetne fotografije lica potrebno je manje od 25 minuta, a svi alati su besplatno dostupni onlajn.

  
"AI je olakšao posao zlikovcima. Oni pronalaze AI alate koji su veoma laki za korišćenje, ne treba im sofisticirana obuka. Oni uzimaju vaše fotografije, uzimaju vaše lice i stavljaju ga u erotski video. Oni distribuiraju video na raznim platformama. Njihov cilj je osveta, ucena ili samo zabava", rekao je za Euronews osnivač grčkog Instituta za sajberbezbednost Manolis Sfakianakis.

Maliciozna upotreba ove tehologije sve više je prisutna i u Srbiji, a kako kaže stručnjakinja iz Share fondacije Mila Bajić. Prema njoj ova pojava nije izolovano od svega ostalog što se dešava u društvu, i na neki način je uslovljena nasilničkim i pornografskim sadržajem i ponašanjem, kao i generalnim tretmanom žena i devojčica u društvu. Takođe se protivi ekstremnim inicijativama da se deci zabrani internet, kao merom za suzbijanje ovog novog oblika seksualnog nasilja.

"To je nešto što smo svi vrlo svesni da je nemoguće. Ta vrsta regulacije interneta stvarno nije nešto što možemo u 21. veku 2024. godini da obezbedimo, ali mislim da generalno, na nekom individualnom nivou, razgovor sa decom i prosto ukazivanje na to da ovakve stvari ne bi trebalo da se rade je možda jedini način. Ja stvarno mislim da je najbolji način da se tako nešto radi kroz škole, kroz edukaciju i da se kroz obrazovni sistem ukaže na to da te stvari prosto nisu prihvatljive", rekla je Bajić za Euronews Srbija.

Prinstscreen YouTube/Dnevnik

U slučaju da se prepoznate na jednom od ovakvih deepfake snimaka najvažnije je dokumentovati što je više moguće podataka prilikom prijave slučaja policiji.

"Prva i osnovna stvar je svakako prikupljanje dokaza. Znači najbolje bi bilo, što se svakako prvo savetuje, da se slučaj prijavi Odeljenju za visokotehnološki kriminal i policiji. I to bi najbolje išlo tako što bi potencijalno osoba koja pronađe svoj video ili sliku ili bilo kakvu vrstu sadržaja, na neki način to dokumentovala. Znači bilo kroz screenshotove, čuvanje linkova, ako može da pronađe bilo koje informacije vezana za to kada je sadržaj objavljen i od strane koga, ako postoji naznaka za to i da se to sve zajedno prijavi kao jedan slučaj", kazala je Bajić.

Iako za sada nisu rađena statistička istraživanja, najveći broj dojava o deepfake-u u Srbiji dolazi od strane žena, a godine nisu neki veliki faktor prilikom odabira žrtava. 

"Sve žene nekako podležu mogućnosti da im se to dogodi, bilo da su javne ili privatne ličnosti", rekla je Bajić i kao primer spomenula dva skorija slučaja sa Novog Beograda i iz Batajnice u kojima žrtve nisu bile javne ličnosti, a koji su imali različite pravne epiloge.

Najpoznatiji slučaj privukao je pažnju medija u novembru prošle godine kada je policija uhapsila muškarca (24) osumnjičenog da je na društvenim mrežama kačio privatne fotografije tinejdžerki iz Batajnice, nakon čega je pravio klipove sa njihovim veštački generisanim izjavama. Njega je policija sumnjičila za polno uznemiravanje, proganjanje i ugrožavanje sigurnosti. Na lažnim snimcima devojke su pričale o brutalnim ubistvima za koja se sumnjiči klan Veljka Belivuka.

Početkom februara ove godine u dve osnovne škole na Novom Beogradu žrtve deepfake pornografije bile su devojčice, ali i nastavnice. Policija je ušla u trag počiniocima, zahvaljujući informacijama roditelja, a kako je objavio RTS, ispostavilo se da su oni bili 13-godišnjaci. Devojčice su zbog snimaka trpele ruganje i pritisak društva.  

"Znam jednu devojčicu koja je htela da uradi ono najgore, ali se onda premestila u drugi grad, jer nije mogla da podnese pritisak koji je trpela od vršnjaka, porodice, prijatelja. Svi misle da je to istina, ali nije“, rekla je jedna od učenica za RTS.

profimedia

Nažalost, u Srbiji, kao i ostatku sveta zakonski okvir jednostavno ne stiže da isprati munjeviti razvoj tehnologije. Neke države su više napredovale od drugih po tom pitanju, ali kada je u pitanju naša zemlja, i generalno region, deepfake sadržaji su i dalje visoko neregulisano polje, kaže naša sagovornica iz Share fondacije 

"Ono što mi vidimo svakako, što nije slučaj samo kod nas, već u velikom broju zemalja je da deep fake sadržaji i prosto bilo kakve vrste zloupotrebe seksualnog, to jest intimnog sadržaja bez saglasnosti, bilo da je on fabrikovan ili ne, ni njegova proizvodnja, ni njegova distribucija nisu obeleženi kao pojedinačna krivična dela. Tako da to pravi jedan dodatni sloj komplikacije zato što je onda teret dokazivanja zapravo na osubi koja trpi u tom slučaju. Zato napominjem, ona mora da prikupi dokaze, ona mora da, faktički izgradi slučaj", ističe ona.

Zakonska regulativa kaska za tehnologijom

Bajić dodaje da su SAD jedina zemlja gde je regulativa makar na neki način je napredna. 

"U suštini većina saveznih država na neki način reguliše, takozvanu estetsku pornografiju, odnosno zloupotrebu intimnog sadržaja bez glasnosti, i počeli su polako da regulišu i proizvodnju i distribuciju baš deepfake sadržaja konkretno. Pre nekih mesec dana, u Evropi se po prvi put pokrenula, zapravo prošao je predlog zakona koji bi se takođe bavio ovim stvarima", kazala je ona.

profimedia

Bajić posebno ističe sporu i skoro nepostojeću regulativu, pa se ovakvi slučajevi, kako kaže, ne posmatraju kao jedan sistemski problem nego kao nešto što je potpuno odvojeno i postoji u digitalnom prostoru.

"Mi smo čuli od devojaka koje su imale iskustvo da nažalost sa ovakvim slučajevima reakcije koje dobijaju od strane policije mogu da variraju tipa da, ako taj sadržaj nije pravi, nije jasno zašto se one toliko potresaju oko toga, da ne moraju da brinu ako nisu one zapravo na tim snimcima. To je neki potpuni nedostatak empatije, osećanja i osetljivosti vezane za te slučaje", primetila je ona, na osnovu iskustava koje je imala Share fondacija.

Jedan od razloga za drugačiji tretman žrtava je, kako isti;e Bajić, digitalni sloj preko ove forme zlostavljanja koji stvara ideju da to nije posledica sistemske opresije kod nas, to jest nasilja u analognom svetu, nego da je to potpuno izolovano i nezavisno. Kao primer navodi i slabu medijsku pokrivenost slučajeva, poput pomenuta dva koja su brzo zaboravljena.

Deepfake problem će biti sve ozbiljniji, iako ima onih koji mu se suprotstavljaju

Sada se, kao i kod drugih digitalnih tehnologija, odvija trka između onih koji pokušavaju naprave što bolje deepfake aplikacije i onih koji prave programe za detekciju takvog sadržaja. Polje veštačke inteligencije jednostavno je previše komplikovano i previše se brzo širi da bi laici mogli da ga isprate. Sa jedne strane, program SoraAI, koji tekstualne komande pretvara u video, pre samo nekoliko godina zvučao je kao nedostižan san iz naučne fantastike. Nažalost, ovakvi alati za dostizanje snova mogu vrlo lako u budućnosti stvoriti košmare. 

profimedia

Za sada je ohrabrujuće što je i dalje jako teško napraviti potpuno verodostojne snimke, pa se kod amaterskih pokušaja brzo može primetiti da su fabrikovani

"Postoje razne ideje oko toga kako bi taj sadržaj trebalo da se naznačava, kako da se obeležava da bude jasno da je to fabrikovani sadržaj, ali nažalost kada o tome pričamo, vredno je pomenuti da na kraju, nije ni u tome poenta. Poenta tog sadržaja je samo da on postoji, da neko može da ga kreira. Mi dok dođemo do tog utvrđivanja da li je on pravi ili nije pravi, šteta je već nastala", kaže Bajić i dodaje da je prvi utisak nakon što se nešto pojavi na internetu najjači i da on ostaje.

Pritom treba imati u vidu da se takav sadržaj skida i čuva, te da je nemoguće "vratiti vreme unazad" kada se jednom pojavi, koliko god bilo dokazano da je lažan.

Dr Čalovska Hercog: Nasilnički obrasci u društvu su kao maligni tumor

Psihijatrica prof. dr Nevena Čalovska Hercog kaže da su slučajevi sa deepfake pornografijom najčešće posledica interpersonalnih konfikata, kao i da psihološke posledice nisu vidljive na površini, ali mogu biti itekako teške. Ona objašnjava da su ti lični obračuni veoma agresivni i da se ovakva dela najčešće čine u afektu, iz ljubomore i sa zlom namerom.  

"To je u suštini agresivni obrazac, samo što sad tehnologija omogućava da to prosto postane javno, tako da se ide na to da se druga osoba osramoti i diskredituje. Emocionalna reakcija nije vidljiva i emocionalna patnja se ne vidi i zbog toga se često minimizira. Ako dožive sramotu, nelagodnost, socijalnu neadekvatnost jako je teško braniti se. To traži mnogo hrabrosti i podrške da neko krene u proces odbrane", kaže doktorka za Euronews Srbija i dodaje da slaba ili nikakva reakcija društva u suštini podržava i omogućava da nasilje traje duže.  

Kada je u pitanju ovaj tip zlostavljanja među maloletnicima, dr Čalovska Hercog smatra da je to veliki problem jer su zahvaljujući novoj tehnologiji neslane šale među decom postale javne i široko raširene.

"Nekada su šale na tuđ račun ostajale u odeljenju, ostajale tu na ulici gde se društvo skuplja i tako dalje. A sada sa društvenim mrežama, one imaju daleko, širi obuhvat. To odjednom postaje javno, a kao drugo, to je trajno. To što se jednom pojavi, teško se može izbrisati", kaže psihijatrica.

Prinstscreen YouTube/Tanjug TV

Dodatni problem predstavlja i specifični psihološki sklop dece, koja još uvek nisu dovoljno zrela da procesuiraju posledice ovog tipa nasilja.

"Deca su inače u formativnom periodu i ona nisu mi svesna svih posledica. Dečji afekti su daleko kratkotrajniji i plići nego kod odraslih. Zato i postoji period sazrevanja, kognitivnog i emocionalnog i socijalnog", kaže doktorka i ističe da se deca suočavaju sa nekom vrstom "divljeg zapada", bez kontrole usmeravanja i davanja okvira u sistemu vrednosti.

"Onda se dešavaju ovakvi incidenti koji mogu biti vrlo dramatični i sa dalekosežnijim posledicama", zaključila je doktorka, podsećajući na pomenuti slučaj sa Novog Beograda, kada je jedna devojčica navodno razmišljala o samoubistvu, na osnovu izjave njene drugarice. 

Doktorka Čalovska Hercog zbog toga savetuje roditeljima da emocionalno i socijalno opismene decu tako da, kada su ljuta i žele da povrede nekoga, razumeju posledice.

"Može da se desi da osećamo ljutnju, pa možda i mržnju, ali se u civilizovanom okruženju ne ponašamo tako. Zato su važne reakcije. Jer ako nema reakcije, to će se ponavljati. Tako se daje socijalna dozvola ya takve postupke.", kazala je ona.

Takođe upozorava na opasnu spiralu nasilja, do koje inače dolazi u društvu i kada drugi tradicionalniji oblici agresije postanu prihvaćeni.

"Nasilnički obrazci, kada se pojave u nekoj sredini, imaju tendenciju da se razmožavaju i komplikuju, sve dok kao maligni tumor, potpuno ne stave pod kontrolu svo ostalo ponašanje. Svi ostali krenu da se ponašaju kako bi izbegli nasilje, a kada se osete ugroženim prva reakcija je da budu nasilni", objašnjava doktorka.