Igre 
Mračna strana veštačke inteligencije: Pedofili AI koriste da prave slike seksualnog zlostavljanja dece
Komentari23/07/2023
-19:05
Razvoj veštačke inteligencije doveo je do "poplave" veštački generisanih fotografija i snimaka koji prikazuju seksualnu eksploataciju dece. Eksplozija uznemirujuće realističnih slika izazvala je zabrinutost u javnosti, a stručnjaci upozoravaju da je opasnost velika jer slike zlostavljanja na internetu radikalizuju potencijalne pedofile.
List Vašington post je pre oko mesec dana pisao o ovom problemu i naveo da je hiljade AI generisanih slika pronađeno na forumima na takozvanom "dark vebu", nivou interneta koji je vidljiv samo u posebnim pretraživačima, a neki učesnici čak dele detaljne vodiče o tome kako i drugi mogu da naprave svoje "kreacije".
Tu, međutim, nije kraj. Kako je pisao BBC, neki ovakvim slikama pristupaju i tako što plaćaju pretplatu na glavnim sajtovima za deljenje sadržaja kao što je Patreon. Patreon je naveo da ima politiku "nulte tolerancije" prema takvim slikama na sajtu.
Kompanija "Stability AI" koja je razvila alate za veštačku inteligenciju, zabranjuje kreiranje slika seksualnog zlostavljanja dece, međutim, problem je u tome što su alati koje su oni kreirali dostupni za skidanje, te svako može da zaobiđe stroga pravila ove kompanije.
Inače, britanska nevladina organizacija "Internet Watch Foundation" je na "dark veb" forumima pronašla veštački generisane slike dece starosti do tri godine.
Korisnici napišu kakvu sliku žele, program je kreira
Kako je pisao BBC, proizvođači slika zlostavljanja koriste softver veštačke inteligencije pod nazivom "Stable Diffusion", koji je imao za cilj da generiše slike za upotrebu u umetnosti ili grafičkom dizajnu. Taj softver omogućava korisnicima da napišu kakvu sliku žele, a program je zatim kreira.
BBC je, međutim, otkrio da se taj alat koristi za stvaranje slika koje nalikuju realnim seksualnog zlostavljanja dece, uključujući silovanje beba i male dece, a istražni timovi britanske policije navode da se već susreću sa takvim sadržajem.
Povezane vesti
Novinarka Oktavija Šipšenks istražuje to pitanje već nekoliko meseci. Kontaktirala je BBC preko dečje dobrotvorne organizacije NSPCC kako bi istakla svoje nalaze.
"Otkad su slike generisane veštačkom inteligencijom postale moguće, došlo je do ove ogromne poplave… ne radi se samo o veoma mladim devojkama, oni (pedofili) govore o mališanima", rekla je Šipšenks.
Šta kaže zakon o "pseudo slikama"
Organizacija Thorn, iza koje stoje glumci Demi Mur i Ešton Kučer, saopštila je da je najnoviji razvoj veštačke inteligencije promenio način na koji bi trebalo razmišljati o zlostavljanju dece na internetu, te da razvoj veštačke inteligencije predstavlja ozbiljnu pretnju za bezbednost.
"Pseudo slika“ koju generiše računar i koja prikazuje seksualno zlostavljanje dece tretira se isto kao i prava slika i nezakonito je posedovati, objavljivati ili prenositi u Ujedinjenom Kraljevstvu, piše BBC.
Član Saveta šefova nacionalne policije (NPCC) Ian Kričli rekao je da je pogrešno misliti da zato što nikakva „prava deca“ nisu prikazana na takvim „sintetičkim“ slikama – da dečja prava nisu povređena.
Neki od kreatora slika postavljaju objave i na japanskoj društvenoj platformi pod nazivom Pikiv, koju uglavnom koriste umetnici koji dele mange i anime. Ali, pošto je sajt registrovan u Japanu, gde deljenje seksualizovanih karikatura i crteža dece nije protivzakonito, kreatori ga koriste da promovišu svoj rad u grupama i putem heštegova. Portparol Pikiva rekao je da je prioritet kompanije rešavanje tog pitanja. On je 31. maja saopštio da je zabranio sve fotorealistične prikaze seksualnog sadržaja koji uključuje maloletnike.
Kompanija je saopštila da je proaktivno ojačala svoje sisteme za praćenje i da dodeljuje značajne resurse za suprotstavljanje problemima u vezi sa razvojem AI.
Povezane vesti
Šipšenks je rekla kako je obim takvih objava „ogroman“ i da se verovatno na mesečno nivou napravi najmanje 1.000 slika.
"Policiji ovo otežava stvar"
Patreon je procenjen na oko četiri milijarde dolara i ima više od 250.000 kreatora – većina su legitimni nalozi koji pripadaju poznatim ličnostima, novinarima i piscima.
Obožavaoci mogu da podrže kreatore tako što će uzimati mesečne pretplate, plaćajući samo 3,85 dolara mesečno.
Ali istraga BBC-a je otkrila da Patreon nalozi nude AI generisane, fotorealistične opscene slike dece za prodaju, sa različitim nivoima cena u zavisnosti od vrste traženog materijala.
BBC je poslao Patreonu primer za koji je platforma potvrdila da je "polurealističan". Rečeno je da je nalog odmah uklonjen.
Kričli je rekao je da zabrinut da bi "poplava" veštačke inteligencije ili "sintetičkih" slika mogla da uspori proces identifikacije stvarnih žrtava zlostavljanja.
"To policiji dodatno otežava stvar. Mislim na identifikaciju deteta, gde god da se nalazi u svetu. Internet i razvoj tehnologije pružaju fantastične mogućnosti za svaki uzrast, ali ne treba to da zloupotrebimo", napomenuo je on.
Komentari (0)