Igre 
Deepfake pornografija u "grupama za ćaskanje" na Telegramu preplavila južnokorejske škole - ima li rešenja?
Komentari03/09/2024
-18:12
Prošle subote, Telegram poruka se pojavila na telefonu južnokorejske studentkinje od anonimnog pošiljaoca: "Vaše slike i lični podaci su procureli. Hajde da razgovaramo".
Kada je studentkinja ušla u chat room da pročita poruku, dobila je fotografiju na kojoj je snimljena pre nekoliko godina dok je još bila u školi. Usledila je druga slika. Bila je reč o istoj fotografiji, samo što je ova bila seksualno eksplicitna i - lažna.
Užasnuta studentkinja, koja ne želi da joj se otkriva me, nije odgovorila, ali su slike i dalje stizale. U svima, njeno lice je bilo montirano na telo tokom seksualnog čina, uz korišćenje sofisticirane deepfake tehnologije.
Deepfakes, od kojih većina kombinuje lice stvarne osobe sa lažnim, seksualno eksplicitnim telom, sve više se stvaraju pomoću veštačke inteligencije.
"Bila sam skamenjena, osećala sam se tako usamljeno", rekla je studentkinja za BBC.
Ali nije bila sama.
Nove slike svakog minuta
Dva dana ranije, južnokorejska novinarka Ko Narin objavila je ono što će se pretvoriti u najveću priču u njenoj karijeri. Nedavno se pokazalo da policija istražuje lažne porno fotografije na dva glavna univerziteta u okrugu, a Ko je bila uverena da ih mora biti još.
Povezane vesti
Počela je da pretražuje društvene mreže i otkrila desetine grupa za ćaskanje u aplikaciji za razmenu poruka Telegram gde su korisnici delili fotografije žena koje su poznavali, koristeći softver veštačke inteligencije da ih u roku od nekoliko sekundi pretvaraju u lažne pornografske slike.
"Svakog minuta ljudi su postavljali fotografije devojaka koje poznaju i tražili da ih pretvore u deepfake", rekla je Ko.
Ona je otkrila da ove grupe nisu ciljale samo studente. Postojale su "sobe za ćaskanje" posvećene određenim koledžima, pa čak i srednjim školama. Ako je mnogo sadržaja kreirano pomoću slika određenog učenika, korisniku je "data" i sopstvena "soba". Označene kao "sobe poniženja" ili "sobe prijateljevog prijatelja", često dolaze sa strogim uslovima za ulazak.
profimedia
Izveštaj Ko Narin u novinama Hankioreh šokirao je Južnu Koreju. Policija je u ponedeljak saopštila da razmatra otvaranje istrage o Telegramu, po uzoru na vlasti u Francuskoj, koje su nedavno optužile ruskog osnivača Telegrama za zločine u vezi sa aplikacijom. Vlada je obećala da će uvesti strože kazne za one koji su umešani, a predsednik je pozvao mlade ljude da budu bolje obrazovani.
Telegram je saopštio da se "aktivno bori protiv štetnog sadržaja na svojoj platformi, uključujući ilegalnu pornografiju", u izjavi dostavljenoj za BBC.
Sistematski i organizovan proces
U opisu jedne od ovih brojnih soba za ćaskanje, pozivaju se članovi da objave više od četiri fotografije nekoga zajedno sa imenom, godinom i mestom u kome žive.
Povezane vesti
"Bila sam šokirana koliko je proces sistematičan i organizovan", rekla je Ko.
"Najstrašnija stvar koju sam otkrila je grupa za maloletne učenike u jednoj školi koja je imala više od 2.000 članova".
U danima nakon što je članak objavljen, aktivistkinje za ženska prava počele su da pretražuju i Telegram i prate tragove.
Povezane vesti
Do kraja te nedelje, više od 500 škola i univerziteta identifikovano je kao mete. Stvarni broj pogođenih tek treba da se utvrdi, ali se veruje da su mnogi mlađi od 16 godina, što je starost koja je u Južnoj Koreji potrebna za pristanak. Veliki deo osumnjičenih počinilaca su i sami tinejdžeri.
Studentkinja koja je ucenjivana rekla je da je saznanje o razmerama krize pogoršalo njenu anksioznost, jer je sada zabrinuta koliko je ljudi možda pogledalo njene deepfake fotografije. U početku je krivila sebe.
"Nisam mogla da prestanem da razmišljam da li se to dogodilo jer sam postavila svoje fotografije na društvene mreže, da li je trebalo da budem opreznija?“
Bekstvo sa mreža
Veliki broj žena i tinejdžera širom zemlje od tada je uklonio svoje fotografije sa društvenih medija ili potpuno deaktivirao svoje naloge, uplašeni da bi mogli da budu sledeći.
"Frustrirani smo i ljuti što moramo da cenzurišemo svoje ponašanje i korišćenje društvenih mreža kada nismo uradili ništa loše", rekla je studentkinja Ah-eun, čiji su vršnjaci bili na meti.
Ah-eun je rekla da je jednoj žrtvi na njenom univerzitetu policija rekla da se ne trudi da nastavi sa njenim slučajem jer bi bilo preteško uhvatiti počinioca, a da to "u stvari i nije bio zločin" jer su "fotografije bile lažne".
Južnokorejci su šokirani i ljuti otkako je skandal sa deepfake fotografijama izašao na videlo
U srcu ovog skandala je aplikacija za razmenu poruka Telegram. Za razliku od javnih veb lokacija, kojima vlasti mogu lako da pristupe, a zatim zahtevaju da se slike uklone, Telegram je privatna, šifrovana aplikacija za razmenu poruka.
Korisnici su često anonimni, sobe za ćaskanje se mogu podesiti na "tajni" režim, a njihov sadržaj se brzo briše bez traga. Ovo ga je učinilo glavnim prostorom za procvat kriminalnog ponašanja.
Unsplash
Prošle nedelje, političari i policija su reagovali snažno, obećavajući da će istražiti ove zločine i privesti počinioce pravdi.
U ponedeljak je Nacionalna policijska agencija Seula saopštila da će nastojati da ispita Telegram zbog njegove uloge u omogućavanju distribucije lažnih pornografskih slika dece.
Kolika je krivica Telegrama?
Osnivač aplikacije, Pavel Durov, optužen je u Francuskoj prošle nedelje za saučesništvo u brojnim zločinima u vezi sa aplikacijom, uključujući omogućavanje deljenja dečje pornografije.
Međutim, aktivisti za prava žena optužuju vlasti u Južnoj Koreji da su dozvolile da seksualno zlostavljanje na Telegramu predugo tinja bez kontrole, jer se Koreja i ranije suočavala sa ovom krizom. U 2019. ispostavilo se da seksualni lanac koristi Telegram da primora žene i decu da kreiraju i dele seksualno eksplicitne slike o sebi.
Policija je tada zatražila od Telegrama pomoć u njihovoj istrazi, ali je aplikacija ignorisala svih sedam njihovih zahteva. Iako je kolovođa na kraju osuđen na više od 40 godina zatvora, ništa nije preduzeto protiv platforme zbog straha od cenzure.
"Oni su osudili glavne aktere, ali su inače zanemarili situaciju i mislim da je to pogoršalo situaciju", rekla je Ko.
Grupe za ćaskanje poput ovih nude stvaranje deepfake slika. U donjem delu piše da "ako tražite da neko bude ponižen (deepfaked), mi ćemo to učiniti".
Park Džihjun, koja je, kao mladi student novinarstva, otkrila seksualni prsten u N-toj sobi još 2019. godine, od tada je postala politički zagovornik žrtava digitalnih seksualnih zločina. Ona je rekla da su je, otkako je izbio skandal, đaci i roditelji zvali nekoliko puta dnevno plačući.
Uplašeni i roditelji i deca
"Videli su svoju školu na listi koja je podeljena na društvenim mrežama i prestravljeni su".
Park je predvodila pozive vladi da reguliše ili čak zabrani aplikaciju u Južnoj Koreji.
"Ako ove tehnološke kompanije neće da sarađuju sa agencijama za sprovođenje zakona, onda ih država mora regulisati kako bi zaštitila svoje građane", rekla je ona.
Pre nego što je ova najnovija kriza eksplodirala, Južnokorejski Centar za zastupanje žrtava seksualnog zlostavljanja na mreži (ACOSAV) već je primetio nagli porast broja maloletnih žrtava lažne pornografije.
Oni su 2023. godine savetovali 86 žrtava tinejdžera. To je skočilo na 238 u samo prvih osam meseci ove godine. Samo u protekloj sedmici javile su se još 64 žrtve.
Jedan od vođa centra, Park Seonghi, rekla je da je tokom protekle nedelje njeno osoblje bilo preplavljeno pozivima i da radi danonoćno.
"Za nas je to bila vanredna situacija u punom obimu, poput ratne situacije", rekla je ona.
"Sa najnovijom tehnologijom deepfake sada ima mnogo više snimaka nego što je bilo ranije, i brinemo se da će se to samo povećavati".
Unsplash
Pored savetovanja žrtava, centar prati štetni sadržaj i radi sa onlajn platformama kako bi ga uklonio. Park je rekla da je bilo slučajeva da je Telegram uklonio sadržaj na njihov zahtev.
"Dakle, nije nemoguće", primetila je.
U saopštenju, Telegram je rekao za BBC da njegovi moderatori "proaktivno nadgledaju javne delove aplikacije, koriste alatke veštačke inteligencije i prihvataju korisničke izveštaje kako bi svakog dana uklonili milione sadržaja koji krše Telegramove uslove korišćenja usluge".
"Strukturalni seksizam"
Iako organizacije za prava žena prihvataju da nova tehnologija veštačke inteligencije olakšava eksploataciju žrtava, one tvrde da je ovo samo najnoviji oblik mizoginije koji se odvija na mreži u Južnoj Koreji.
Prvo su žene bile izložene talasima verbalnog zlostavljanja na internetu. Zatim je usledila epidemija špijunskih kamera, gde su tajno snimane u javnim toaletima i svlačionicama.
"Osnovni uzrok ovoga je strukturalni seksizam, a rešenje je rodna ravnopravnost", navodi se u saopštenju koje su potpisale 84 ženske grupe.
Ovo je direktna kritika predsednika zemlje Jun SukJul, koji je negirao postojanje strukturalnog seksizma, smanjio finansiranje grupa za podršku žrtvama i ukinuo vladino ministarstvo za rodnu ravnopravnost.
Li Mjung-hva, koja leči mlade seksualne prestupnike, slaže se da, iako bi izbijanje deepfake zlostavljanja moglo da izgledati iznenadno, ono je dugo vrebalo ispod površine.
"Za tinejdžere su deepfakes postali deo njihove kulture, na njih se gleda kao na igru ili šalu", rekla je savetnica, koja vodi Omladinski kulturni centar Aha Seul.
Gospođa Li je rekla da je najvažnije obrazovati mlade, navodeći istraživanje koje pokazuje da kada prestupnicima kažete šta su tačno pogrešili, oni postaju svesniji šta se smatra seksualnim zlostavljanjem, što ih sprečava da ponovo počine krivično delo.
U međuvremenu, vlada je saopštila da će povećati krivične kazne onima koji kreiraju i dele lažne slike, kao i da će kazniti one koji gledaju pornografiju.
Postoje i kritike da nije kažnjen dovoljan broj počinilaca. Jedan od problema je i to što su većina prestupnika tinejdžeri, kojima se obično sudi na sudovima za mlade, gde dobijaju blaže kazne.
Od kada su sobe za ćaskanje otkrivene, mnoge su zatvorene, ali će nove skoro sigurno zauzeti njihovo mesto. Već je napravljena "soba poniženja" koja cilja na novinare koji prate ovu priču. Ko, koja je objavila vest, rekla je da joj je to donelo besane noći.
"Stalno proveravam chat room da vidim da li je moja fotografija postavljena", rekla je.
Takva anksioznost se proširila na skoro svaku tinejdžerku i mladu ženu u Južnoj Koreji. Ah-eun, studentkinja, rekla je da ju je to učinilo sumnjičavom prema svojim muškim poznanicima.
"Sada ne mogu da budem sigurna da ljudi neće počiniti ove zločine iza mojih leđa, a da ja ne znam", rekla je.
"Postala sam hiper-pažljiva u svim svojim interakcijama sa ljudima, što ne može biti dobro".
Komentari (0)