Kako je YouTube izgradio stroj za radikalizaciju krajnje desnice

Tech


Kako je YouTube izgradio stroj za radikalizaciju krajnje desnice

Za Davida Sherratta, kao i mnoge tinejdžere, radikalizacija krajnje desnice započela je uputama za video igre na YouTubeu. Imao je 15 godina i labavo liberalan, uglavnom su ga zanimali spotovi za “Call of Duty”. Zatim su ga preporuke YouTubea odvele negdje drugdje.

“Dok sam nastavio gledati, počeo sam viđati stvari poput ateističke zajednice na mreži”, rekao je Sherratt, “koja je tada postala ulaz u građanski rat ateističke zajednice protiv feminizma.” Zbog velike subkulture YouTube ateista koji su se protivili feminizmu, 'Mislim da sam mnogo brže pao u tu zečju rupu', rekao je.


Tijekom tog četverogodišnjeg putovanja niz zečju rupu, tinejdžer je dospio na naslovnice zbog svog angažmana u pokretu za ljudska prava, marginalnoj ideologiji koja vjeruje da su žene potlačene, a koju on više ne podržava. Snimio je videe s istaknutim YouTuberom koji je sada omiljen krajnjoj desnici.

Prisustvovao je projekciji dokumentarca o pokretu za “muška prava”, a nakon toga se družio s drugim YouTuberima, gdje je upoznao mladića koji se činio “pomalo otkačenim”, rekao je Sherratt. Ipak, nije puno razmišljao o tome i na kraju je pozirao za grupnu sliku s muškarcem i ostalim YouTuberima. Neki od Sherrattovih prijatelja čak su nakon toga uspostavili odnos s čovjekom na mreži, što je Sherratta potaknulo da pogleda njegov YouTube kanal.

Ono što je otkrio pokvarilo mu je pogled na projekciju dokumentarca. Mladićev kanal bio je pun sadržaja poricanja holokausta.

'Upoznao sam neonacista, a nisam to ni znao', rekao je Sherratt


Susret je bio dio njegovog razočarenja s krajnje desnim političkim svijetom u koji je polako ulazio na kraju djetinjstva.

“Mislim da je jedna od stvarnih stvari zbog kojih je bilo tako teško izaći i shvatiti koliko sam radikaliziran u određenim područjima bila činjenica da na mnogo načina ljudi krajnje desnice čine da zvuče manje desničarski; umjereniji ili više ljevičar”, rekao je Sherratt.

Sherratt nije bio sam. YouTube je posljednjih godina postao tiha elektrana političke radikalizacije, pokretan algoritmom za koji bivši zaposlenik kaže da sugerira sve više marginalni sadržaj. I krajnje desničarski YouTuberi naučili su iskoristiti taj algoritam i postaviti svoje videozapise visoko u preporukama za manje ekstremne videozapise. Daily Beast razgovarao je s trojicom muškaraca čije su navike na YouTubeu gurnule na krajnje desni put i koji su se od tada odjavili iz mržnje.

Fringe po dizajnu

YouTube ima ogromnu gledanost, s gotovo 2 milijarde korisnika dnevno, od kojih su mnogi mladi. Stranica je popularnija među tinejdžerima od Facebooka i Twittera. Pewova studija iz 2018 otkrili su da 85 posto tinejdžera u SAD-u koristi YouTube, što ga čini daleko najpopularnijom online platformom za mlađe od 20 godina. (Facebook i Twitter, koji su se suočili s gnjevom regulatora zbog ekstremističkih sadržaja, popularni su među 51 i 32 posto tinejdžera.)


Pokrenut 2005., YouTube je brzo preuzeo Google. Tehnološki div pokušao je maksimizirati zaradu zadržavajući korisnike da gledaju videozapise. Tvrtka je unajmila inženjere da naprave algoritam koji bi preporučio nove videozapise prije nego što korisnik završi gledanje svog trenutnog videa.

Bivši YouTube inženjer Guillaume Chaslot angažiran je u timu koji je dizajnirao algoritam 2010. godine.

“Ljudi misle da sugerira najrelevantnije, ovu stvar koja je vrlo specijalizirana za vas. To nije slučaj', rekao je Chaslot za The Daily Beast, dodajući da se algoritam 'optimizira za vrijeme gledanja', a ne za relevantnost.

'Cilj algoritma je zaista da vas najduže zadrži u redu', rekao je.


'Cilj algoritma je zaista da vas najduže zadrži u redu.' - bivši YouTube inženjer Guillaume Chaslot

Ta fiksacija na vrijeme gledanja može biti banalna ili opasna, rekla je Becca Lewis, istraživačica neprofitne organizacije Data & Society za istraživanje tehnologije. 'U smislu YouTubeovog poslovnog modela i pokušaja da se korisnici zadrže na svom sadržaju, logično je ono što vidimo da algoritmi rade', rekao je Lewis. „To algoritamsko ponašanje je sjajno ako tražite vizažiste i gledate sadržaj jedne osobe i želite hrpu savjeta drugih ljudi o tome kako napraviti svoje sjenilo. Ali postaje mnogo problematičnije kada govorite o političkom i ekstremističkom sadržaju.”

Chaslot je rekao da mu je tada bilo očito da bi algoritam mogao pomoći u jačanju rubnih uvjerenja.

“Jako sam brzo shvatio da preporuka YouTubea stavlja ljude u mjehuriće filtera”, rekao je Chaslot. “Nije bilo izlaza. Ako je osoba bila zainteresirana za zavjere o Ravnoj Zemlji, bilo je loše za vrijeme gledanja preporučiti videozapise protiv Ravne Zemlje, pa ih neće ni preporučiti.'

Lewis i drugi istraživači su primijetili da preporučeni videozapisi često imaju tendenciju prema rubovima. Pisanje za New York Times , sociologinja Zeynep Tufekci primijetila je da video snimci Donalda Trumpa preporučuju videozapise 'koji su sadržavali bijesne suprematističke sprdnje, poricanja holokausta i drugi uznemirujući sadržaj'.

Matt, bivši desničar koji je tražio da zadrži svoje ime, osobno je bio zarobljen u takvom filterskom balonu.

Na primjer, opisao je gledanje videa Billa Mahera i Bena Afflecka kako raspravljaju o islamu, te da je vidio preporučeni ekstremniji video o islamu od strane zaposlenika Infowarsa i teoretičara zavjere Paula Josepha Watsona. Taj video je doveo do sljedećeg videa, i to sljedećeg.

'Uronite u [Watsonov] kanal i počnite pronalaziti njegove stvari protiv imigracije, što često dovodi do toga da ljudi postanu simpatičniji prema etno-nacionalističkoj politici', rekao je Matt.

“Ovo me je nekako neizravno poslalo na put da se politički pomaknem mnogo više udesno jer me je navelo da otkrijem druge ljude sa sličnim krajnje desnim pogledima.”

Sada 20-godišnji, Matt je od tada napustio ideologiju i izgradio anonimnu internetsku prisutnost gdje se raspravlja sa svojom bivšom braćom s desne strane.

“Mislim da je YouTube zasigurno odigrao ulogu u mom pomaku udesno jer me je kroz preporuke koje sam dobio”, rekao je, “naveo da otkrijem drugi sadržaj koji je bio vrlo desno od centra, a to se s vremenom samo pogoršavalo, što me navodi na otkrivanje zlokobnijih sadržaja.”

Ovo suprotstavljanje feminizmu i pokretima za rasnu jednakost dio je YouTube pokreta koji sebe opisuje kao 'antisocijalnu pravdu'.

“Mislim da se anti-SJW stvari sviđaju mladim bijelcima koji se osjećaju kao da gube svoj status zbog nedostatka boljeg pojma.” – Andrew, bivši bijelac supremacist

Andrew, koji je također tražio da zadrži svoje prezime, bivši je bijelac koji se od tada odrekao pokreta. Ovih dana piše blog o temama koje krajnja desnica smatra anatemom: rasna pravda, ravnopravnost spolova i, jedna od njegovih osobnih strasti, krznena zajednica. Ali zanimanje za videoigre i online kulturu bila je konstanta tijekom posljednjeg desetljeća ideološke evolucije. Kad je Andrew imao 20 godina, rekao je, postao je simpatičan bijelom nacionalizmu nakon što je progutao teme pokreta na nepovezanom forumu.

Kultura igara na YouTubeu ga je dodatno skrenula na krajnje desni put. Godine 2014. koalicija trolova i desničara pokrenula je Gamergate, kampanju uznemiravanja ljudi za koje su smatrali da pokušavaju promovirati feminističke ili 'socijalne pravde' u video igrama. Pokret je imao veliku prisutnost na YouTubeu, gdje je neke igrače (osobito mladiće) uvjerio da su njihove videoigre napadnute.

'To je stvorilo prijetnju nečemu na što ljudi pridaju preveliku vrijednost', rekao je Andrew. „'SJW-ovi' [borci socijalne pravde] nikada nisu bili prijetnja video igricama. Ali kad bi se ljudi mogli natjerati da vjeruju da jesu”, onda su bili podložni daljnjim, luđim tvrdnjama o tim novim neprijateljima s lijeve strane.

Matt je opisao osjećaj gubitka koji je hranjen na YouTubeu kao sredstvo za radikalizaciju mladića.

“Mislim da se anti-SJW stvari sviđaju mladim bijelcima koji se osjećaju kao da gube svoj status zbog nedostatka boljeg pojma,” rekao je. “Oni vide da se manjine zalažu za svoja prava i zbog toga im je neugodno pa se pokušavaju boriti protiv toga.”

Dok je bio u zajednici krajnje desnice, Andrew je vidio da antifeministički sadržaj djeluje kao prolaz do ekstremnijih videa.

“Lažna ideja da socijalna pravda uzrokuje ima neku vrstu podlog prikrivenog motiva, da na neki način iskrivljuju istinu” može pomoći gledateljima da se otvore za ekstremnije uzroke, rekao je. 'Jednom kad nekoga navedete da u to povjeruje, možete prilično brzo ići sve do prevlasti bijelaca.'

Lewis je zajednicu identificirao kao jedan od nekoliko putova radikalizacije „koji mogu započeti iz glavne konzervativne perspektive: ne otvoreno rasističke ili seksističke, već usredotočene na kritiziranje feminizma, usredotočujući se na kritiziranje Black Lives Matter. Odatle je stvarno lako pristupiti sadržaju koji je otvoreno rasistički i otvoreno seksistički.”

Chaslot, bivši YouTube inženjer, rekao je da je predložio da tvrtka dopusti korisnicima da se odustanu od algoritma preporuke, ali tvrdi da Google nije zainteresiran.

Glavni izvršni direktor Googlea, Sundar Pichai, rekao je na riječi o problemu tijekom saslušanja u Kongresu prošlog tjedna. Kada je upitan o posebno štetnoj teoriji zavjere o Hillary Clinton koja se pojavljuje u velikom broju pretraživanja nepovezanih videa, izvršni direktor nije obećao da će djelovati.

'To je područje za koje priznajemo da ima još posla i definitivno ćemo to nastaviti raditi', rekao je Pichai. “Ali želim priznati da ima još posla. S našim rastom dolazi i više odgovornosti. I predani smo tome da radimo bolje dok više ulažemo u ovo područje.”

No, dok YouTube razmišlja o rješenju, ljudi su ozlijeđeni.

Teško skretanje udesno

Dana 4. prosinca 2016. Edgar Welch je pucao iz puške AR-15 u popularnom pizzeriji u Washingtonu, D.C. Welch je vjerovao da demokrati provode seksualnu trgovinu djecom kroz podrum pizzerije, teoriju zavjere pod nazivom 'Pizzagate'.

Poput mnogih modernih teorija zavjere, Pizzagate se širio na YouTubeu i činilo se da su ti videozapisi utjecali na Welcha, koji ih je slao drugima. Tri dana prije pucnjave, Welch je prijatelju poslao poruku o zavjeri. 'Pogledajte 'PIZZAGATE: Veća slika' na YouTubeu,” napisao je .

Druge teorije zavjere s YouTube-a na sličan su način rezultirale prijetnjama oružjem. Čovjek koji je bio jako uključen u zajednice teorije zavjere na YouTubeu navodno prijetio masakrom u sjedištu YouTubea ovog ljeta, nakon što je povjerovao u drugačiju teoriju zavjere o video cenzuri. Još jedan čovjek koji je vjerovao da je teorija QAnona potaknuta YouTubeom dovela do oružani sukob kod Hooverove brane u lipnju. Neonacist je prošlog tjedna uhićen s zalihama oružja vodio YouTube kanal gdje je govorio o ubijanju Židova.

“Mladi su podložniji oblikovanju svojih političkih ideala. To je vrijeme u tvom životu kada shvaćaš tko si i kakva je tvoja politika.” – tehnološka istraživačica Becca Lewis

Vjerski ekstremisti također su našli dom na YouTubeu. Od ožujka do lipnja 2018. ljudi su na platformu prenijeli 1.348 videa ISIS-a, prema studiji koju je Projekt borbe protiv ekstremizma . YouTube je izbrisao 76 posto tih videozapisa u roku od dva sata od njihovog prijenosa, ali većina računa i dalje je ostala online. The radikalni muslimansko-američki svećenik Anwar al-Awlaki radikalizirao više potencijalnih terorista i njegove su propovijedi bile popularne na YouTubeu.

Manje eksplicitno nasilni glumci također mogu radikalizirati gledatelje iskorištavanjem YouTubeovog algoritma.

'YouTuberi su iznimno pametni u neformalnom SEO-u [optimizacija za tražilice]', rekao je Lewis iz Data & Society. 'Označit će svoj sadržaj određenim ključnim riječima za koje sumnjaju da ih ljudi možda traže.'

Chaslot je opisao popularni format naslova na YouTubeu koji se dobro poigrava s algoritmom, kao i s emocijama gledatelja. 'Ključne riječi poput 'A uništava B' ili 'A ponižava B'' mogu 'iskoristiti algoritam i ljudske ranjivosti.' Konzervativni videozapisi, poput onih s desničarskom osobom Bena Shapira ili osnivača Proud Boysa Gavina McInnesa, često koriste taj format.

Neki marginalni korisnici pokušavaju proširiti svoje preglede tako da se pojavljuju u rezultatima pretraživanja manje ekstremnih videozapisa.

'Umjereni korisnik će imati određene točke za razgovor', rekao je Sherratt. “Ali oni radikalni, budući da se uvijek pokušavaju infiltrirati, i odvući pretplatnike i gledatelje s onih umjerenijih pozicija, stavit će sve iste oznake, ali s još nekoliko. Dakle, neće biti samo 'migrantska kriza' i 'islam', bit će 'migrantska kriza', 'islam' i 'smrt Zapada'.

“Mogli biste gledati umjerenije videozapise, a ekstremni videozapisi bit će u tom okviru [preporuka] jer ne postoji nikakav koncept unutar sfere antisocijalne pravde koji krajnja desnica ne želi koristiti kao alat za suradnju -odaberi tu sferu.”

Ranjiva gledanost

Na mlade ljude, posebice one bez potpuno oblikovanih političkih uvjerenja, lako se može utjecati ekstremnim videima koji se pojavljuju u njihovim preporukama. 'YouTube se sviđa tako mladoj demografiji', rekao je Lewis. “Mladi su podložniji oblikovanju svojih političkih ideala. To je vrijeme u tvom životu kada shvaćaš tko si i kakva je tvoja politika.”

No YouTube nije dobio istu pozornost kao Facebook i Twitter, koji su popularniji kod odraslih. Tijekom Pichaijevog svjedočenja na kongresu u utorak, članovi Kongresa našli su vremena pitati izvršnog direktora Googlea o iPhoneima (proizvod koji Google ne proizvodi), ali je postavio nekoliko pitanja o ekstremističkom sadržaju.

Stiglo je Pichaijevo svjedočanstvo dva dana nakon PewDiePieja , najpopularniji korisnik YouTubea, preporučio je kanal koji objavljuje bijele nacionalističke i antisemitske videozapise. PewDiePie (pravo ime Felix Kjellberg) ima više od 75 milijuna pretplatnika, od kojih su mnogi mladi ljudi. Kjellberg je ranije bio optužen za netrpeljivost, nakon što je objavio najmanje devet videa s antisemitskim ili nacističkim slikama. U akrobaciji u siječnju 2017. unajmio je ljude da drže natpis 'smrt svim Židovima' na kameri.

Neki popularni YouTuberi u manje ekstremnoj zajednici protiv socijalne pravde postali su otvorenije seksistički i rasistički krajem 2016. i početkom 2017., što je trend koji neki gledatelji možda neće primijetiti.

'Retorika se počela pomicati dalje udesno i Overton Window se pomicao', rekao je Sherratt. 'Jednog trenutka bilo je 'mi smo liberali i samo mislimo da su ti tipovi socijalne pravde previše ekstremni ili idu predaleko u svojoj taktici', a onda se šest mjeseci kasnije pretvorilo u 'progresivizam je zla ideologija'.'

Jedan od Mattovih omiljenih YouTube kanala 'počeo je kao tehnološki kanal koji nije volio feministkinje, a sada snima videe u kojima je za njega gotovo sve marksistička zavjera', rekao je.

'Možete zabraniti uvijek iznova, ali oni će promijeniti diskurs.' - Chaslot, bivši YouTube inženjer

U nekim slučajevima YouTube videozapisi mogu zamijeniti prethodne izvore informacija. YouTuberi zavjere često obeshrabruju gledatelje da gledaju ili čitaju druge izvore vijesti, Chaslot je prethodno primijetio . Trend je dobar za teoretičare zavjere i zaključke YouTubea; gledatelji postaju uvjereniji u teorije zavjere i konzumiraju više reklama na YouTubeu.

Problem se proteže i na mlade gledatelje YouTubea, koji bi mogli religiozno pratiti svoj omiljeni kanal, ali ne i čitati konvencionalnije vijesti.

'To je mjesto gdje ljudi dobivaju svoje informacije o svijetu i politici', rekao je Lewis. “Ponekad, umjesto da idu na tradicionalne izvore vijesti, ljudi samo gledaju sadržaj influencera koji im se sviđa, a koji slučajno ima određena politička mišljenja. Djeca možda dobivaju sasvim drugačije iskustvo s YouTubea nego što njihovi roditelji očekuju, bilo da je ekstremističko ili ne. Mislim da YouTube ima moć oblikovati ljudske ideologije više nego što mu ljudi pripisuju zasluge.”

Neki su aktivisti pozvali YouTube da zabrani ekstremne videozapise. Tvrtka često tvrdi da je teško pregledati prijavljenih 300 sati videa učitanih svake minute. Čak je i Chaslot rekao da je skeptičan prema učinkovitosti zabrana.

“Možete zabraniti uvijek iznova, ali oni će promijeniti diskurs. Vrlo su dobri u tome da ostanu ispod granice prihvatljivog”, rekao je. Ukazao je na video zapise koji pozivaju demokratskog donatora Georgea Sorosa i druge istaknute demokrate da budu ''prvi spušteni u pakao''. 'Video je objasnio zašto ne zaslužuju živjeti, i ne kaže izričito da ih ubije, ” tako da zaobilazi pravila protiv nasilnog sadržaja.

U isto vrijeme “to vodi u svojevrsni teroristički mentalitet” i pojavljuje se u preporukama.

'Gdje god stavite crtu, ljudi će pronaći način da budu s druge strane', rekao je Chaslot.

'To nije problem moderiranja sadržaja, to je problem algoritma.'