Izveštaj američke organizacije: Algoritam Jutjuba korisnike od 9 i 14 godina usmerava na nasilan i opasan sadržaj

Izveštaj američke organizacije "Projekat tehnološke transparentnosti" (TTP), koja se bavi uticajem društvenih mreža na živote ljudi, pokazala je da Jutjub usmerava mlade ljude i decu na nasilne sadržaje.

Ova organizacija je pratila preporuke Jutjuba za osobe starosti od 9 i 14 godina, a zaključak je da algoritam Jutjuba usmerava mlade na nasilan i opasan sadržaj, pre svega ljubitelje video igara.

Istraživački tim je napravio četiri lažna naloga, od kojih su dva predstavljala dečake od devet godina, a dva dečake od 14 godina. 

Istraživači su pogledali stotinu video-snimaka igara, zatim su koristili po jedan nalog u obe starosne grupe da gledaju video-snimke koje preporučuje algoritam, dok sa drugog naloga nisu gledali takve snimke.

Nalog devetogodišnjaka koji je kreiran u skladu sa preporukama, preko "roditeljskog" naloga, nije sprečio algoritam da preporuči 382 video-snimka sa pravim vatrenim oružjem, kao i dokumentarac o serijskom ubici Džefriju Dameru, zaključak je ovog istraživanja.

Algoritamski "signali"

Plejlista za naloge starosti devet godina uključivala je snimke povezane sa video-igrama kao što su "Roblox", ili "Lego Star Wars". Plejlista dečaka starosti 14 godina sastojala se prvenstveno od snimaka "pucačina iz prvog lica" kao što su GTA, Halo i "Red Dead Redemption". Obe plejliste su sastavljene isključivo od video snimaka igara, i nije bilo drugog sadržaja, navodi se u izveštaju TTP.

Kada su nalozi završili sa gledanjem snimaka, istraživači su pratili i evidentirali video snimke koje je preporučio Jutjub u periodu od 30 dana. Jedan nalog u svakoj starosnoj grupi je gledao izbor preporučenih video snimaka, a jedan nije, da bi se videlo da li to menja tipove video-snimaka koje Jutjub predlaže.

Studija je otkrila da je Jutjub preporučio video snimke koji se odnose na oružje i pucanje na sva četiri naloga, ali u nekim slučajevima i do deset puta više, ti snimci su preporučeni nalozima koji su gledali preporuke.

Drugim rečima, ako je igrač pokazao interesovanje za snimke koje Jutjub preporučuje, algoritam šalje sve više sadržaja vezanih za nasilje u stvarnom svetu.

"Ovi video snimci su uključivali scene koje prikazuju pucnjavu u školi i druge masovne pucnjave, grafičke demonstracije koliko štete oružje može da nanese ljudskom telu, kao i uputstva za pretvaranje pištolja u automatsko oružje. Jutjub je takođe objavio film o životu serijskog ubice Džefrija Damera", stoji u izveštaju.

Masovne pucnjave i instrukcije o oružju

Među video-snimcima koji su bili preporučeni, istraživače je posebno zarinulo to što algoritam Jutjuba nudi one snimke koji prikazuju masovne pucnjave u školama.

"Jutjub je na tinejdžerskom nalogu preporučio snimak kanadske serije '19-2' gde se prikazuje kako policija razmenjuje pucnje sa napadačem u školi, dok učenici vrište a tela leže okolo. Epizoda je, inače, označena rejtingom koji pokazuje da nije pogodna za mlađe od 17 godina", stoji u izveštaju.

Još jedan video slične tematike preporučen istom nalogu jeste isečak iz filma "Elefant" koji je donekle baziran na Kolumbajn pucnjavi iz 1999. godine. Scena u kojoj dvoje tinejdžera puca kroz školu, objavljena je na Jutjubu uz pesmu "Pumped Up Kicks", u kojoj se radi o tinejdžeru koji zamišlja da puca u ljude.

U još jednom snimku predloženom ovom nalogu, nalazi se scena iz video-igre GTA, u kojoj je igrač u ulozi napadača u školi.

U drugoj grupi video snimaka koji su zabrinuli istraživače, navodi se u izveštaju, nalaze se oni koji objašnjavaju kako rukovati vatrenim oružjem i kako ga prepravljati po želji. 

Među predloženima se nalazio snimak pod naslovom "Kako staviti prekidač na Glok (samo u obrazovne svrhe)", koji je Jutjub kasnije uklonio, uz obaveštenje da krši pravila zajednice. Međutim, istraživači su kasnije ušli na kanal koji je objavio taj video, i videli da je objavio još jedan, sa sličnim naslovom i sadržajem.

Nalogu koji je predstavljao dečaka od 14 godina, Jutjub algoritam je preporučio i video snimak o vatrenom oružju sa prigušivačem gde se u jednom trenutku jasno navodi vrsta kao i vebsajt koji ih prodaje, a na Jutjubu je taj video objavljen pre 16 godina.

"Ovo je jasno kršenje pravila Jutjuba o vatrenom oružju, koje ne dozoljava linkove u nazivu ili opisu video-snimka, koji vode ka tome gde se može kupiti navedeno vatreno oružje", navodi se u izveštaju.

Jutjub kritikovao istraživače

Kada se izveštaj pojavio, Jutjub je saopštio da oni nude niz opcija za mlađe gledaoce, a kritikovali su istraživače rekavši da nisu pružili kontekst koliko je ukupno snimaka preporučeno, kao ni da li su primenjene preporuke Jutjuba.

Ova organizacija je naknadno saopštila da su radili sve sa pravilima i preporukama Jutjuba. Inače, ova platforma ima posebnu politiku bezbednosti dece, koja zabranjuje prikazivanje maloletnika u nasilnim aktivnostima, što podrazumeva i video-snimke u kojima se prikazuje oružje.

Ovo je izazvalo dodatnu reakciju TTP, koji je naveo da se "odgovor kompanije ne bavi činjenicom da se algoritamske prepreke ne mogu isključiti, što znači da roditelji jedino mogu neprestano da prate šta njihova deca gledaju na internetu, a ne mogu da se pouzdaju u zaštitne mere".

Jutjub je, kako je saopštio TTP, nakon pojave ovog izveštaja počeo i da "diskretno" uklanja uznemirujući sadržaj koji se preporučuje dečjim nalozima, uključujući i uputstva kako da se pištolj pretvori u automatsko oružje.

Takođe, skinut je i jedan snimak koji je masovni ubica iz mesta Alen (Teksas) stavio na svoju plejlistu omiljenih video-snimaka.

"Jutjub je možda uklonio nekoliko šokantnih video-snimaka, ali nije rešio osnovne probleme sa svojim algoritmom za preporuke. Što je još gore, ne dozvoljava roditeljima da isključe preporuke, koje su glavni pokretač pregleda (a samim tim i prihoda od oglasa)", zaključuje TTP u saopštenju.