Radikalizácia pomocou algoritmov Youtube Samoexperiment

Videoplatforme bola vyčítaná propagácia radikálneho a politicky extrémneho obsahu. Je to spôsobené algoritmami, ktoré nám odporúčajú čoraz očividnejšie videá. Ale je to naozaj pravda?

Videá bez konca: Na Youtube je pre používateľa ľahké konzumovať obsah celé hodiny, v neposlednom rade vďaka algoritmom.

Ako upečiem najlepší čokoládový koláč? Aké sú najobľúbenejšie atrakcie vo Švajčiarsku? Čo povedal Donald Trump vo svojom poslednom prejave? Ktokoľvek, kto hľadá tému online, sa s veľkou pravdepodobnosťou dostane na YouTube. Video platforma je po Google druhým najväčším vyhľadávačom na svete. Pre väčšinu z dvoch miliárd aktívnych používateľov je Youtube zábavou aj zdrojom vedomostí.

Videá bez konca: Na Youtube je pre používateľa ľahké konzumovať obsah celé hodiny, v neposlednom rade vďaka algoritmom.

Obzvlášť populárny je zábavný obsah, vysvetľujúce videá („videá s pokynmi“) a predovšetkým hudobné klipy. Každú minútu sa na YouTube nahrá 500 hodín video materiálu. Pred tromi rokmi prelomil videoportál magickú značku. Odvtedy sa na platforme každý deň prezeralo viac ako miliarda hodín videí - viac ako na serveroch Netflix a Facebook dohromady.

„Youtube je jedným z najsilnejších nástrojov radikalizácie 21. storočia.“

Avšak rovnako užitočný a zábavný ako YouTube môže byť v mnohých ohľadoch, sú hĺbky videoplatformy, v ktorej sa objavujú všetky druhy extrémneho obsahu, také temné. Odborníci preto YouTube obviňujú, že je radikalizačným strojom. Podľa kritikov za to môžu algoritmy, ktoré by výrazne prispeli k odporúčaniu čoraz radikálnejších videí používateľom.

Konkrétne ide o obsah oslavujúci násilie, politicky radikálny, rasistický a konšpiračný teoretický obsah, ktorý je zahrnutý do odporúčaní pre používateľov. Youtube už bolo kritizované za prominentné zobrazovanie videí, ktoré špeciálne šíria dezinformácie, napríklad po smrtiacom natáčaní v Las Vegas. Po masakre v októbri 2017 sa objavili videá, ktoré tvrdili, že streľbu odhalili ako „podvod“.

Ako funguje algoritmus?

Pojem algoritmus sa často spája s personalizáciou obsahu. Algoritmus registruje, že ste videli obsah na určitú tému alebo hľadaný výraz. Okrem každého videa Youtube odporúča ďalšie videá v pravom stĺpci, ktoré je možné prehrať pomocou automatického prehrávania. To, ako presne je algoritmus zostavený, Google väčšinou utajuje. To výskumníkom sťažuje získanie súborov údajov a analýzu systému. Všeobecne v odporúčaniach hrá hlavnú úlohu história používateľov, kontext a zapojenie (komentáre, označenia páči sa mi) videa. Podľa Youtube sa algoritmus neustále vylepšuje. V roku 2016 poskytli zamestnanci spoločnosti Google prehľad o systéme v tomto dokumente.

Pred dvoma rokmi technicko-sociológ Zeynep Tufekci tvrdo kritizoval YouTube. Vo svojom komentári k filmu „Youtube, Veľký radikalizátor“ popisuje, ako jej pri hľadaní videí o Donaldovi Trumpovi rýchlo odporúčali obsah o ideológii bielej nadradenosti, popieraní holokaustu a nenávistných prejavoch. V ľavom spektre narazila hlavne na konšpiračné videá vrátane 11. septembra. Aj v nepolitických otázkach sa videá, ktoré jej navrhovali, stávajú čoraz extrémnejšími. „Youtube je jedným z najsilnejších nástrojov radikalizácie 21. storočia,“ uvádza Tufekci vo svojej analýze na jednotlivých príkladoch.

Odborník varuje pred nebezpečenstvom umelej inteligencie. Veľké technologické spoločnosti používali algoritmy na „uchvátenie“ používateľov čo najdlhšie a tým na generovanie väčšieho príjmu z reklamy. Tento obchodný model je podľa Tufekciho fatálny. „Facebook a Youtube znečisťujú verejnú sféru a outsourcujú náklady spoločnosti,“ kritizovala v rozhovore a požadovala ďalšie štátne regulácie pre veľké platformy.

Chcem vykonať autotest: Zobrazí sa mi radikálny obsah, ak ho nehľadám? Vytváram nový účet Google. To znamená, že Youtube odo mňa nemá žiadne pripravené vyhľadávacie dotazy a začínam od nuly. Hľadám „vakcínu Corona“ a preklikávam odporúčania. Odteraz bude algoritmus „napájaný“.

Prvých pár videí je neškodných, vidím dobre spracované videá zo známych médií, ktoré považujem za dôveryhodné. Všimol som si ale video v pravom stĺpci. Má názov „9 krokov k zákonnému oslobodeniu od povinného očkovania“ a bol vyvolaný viac ako 100 000-krát. Preklikávam video, ktoré nahrala žena vo svojej kancelárii alebo obývacej izbe. Nemôžem dlho počúvať, kvalita videa nie je nijak zvlášť dobrá.

Zdá sa mi, že komentáre pod videom odhaľujú: „Corona je podľa neho podvod. Počas pandémie by boli ľudské práva zrušené. Hovorí sa o „klamstvách zradcov“. Navrhuje sa mi ďalšie video „Očkovanie nechráni pred chorobami“. Video bolo videné viac ako 75 000 krát. V jednom komentári sa uvádza, že očkovanie je len preto, aby „bolo zbohatnutie farmaceutickej mafie a populácia chorých“.

Nedávno publikovaná štúdia publikovaná vo vedeckom časopise „Nature“ dospela k záveru, že odporcovia antivakcinácie online sú v menšine, sú však navzájom veľmi dobre prepojení a priťahujú tak veľkú pozornosť. V súčasnej pandémii sa zvýšil záujem o očkovanie. To hrá do kariet aj tým, ktorí sú proti očkovaniu. „Zároveň sa dobre predávajú: Tvoria videá s osobnými príbehmi zmiešané s vedeckými citátmi. Tieto videá sú veľmi dobre spracované, “hovorí jeden výskumný pracovník.

Tiež si všímam, že sa mi subjektívne videá zobrazujú znova a znova. Väčšinou je to človek, ktorý vyjadruje svoj názor pred kamerou v obývacej izbe. Vidím tiež videá z etablovaných médií, ale YouTube odporúča aj videá z dosť malých účtov. Ich amatérske videá však často zaznamenávajú viac ako
100 000 videní. Osobný prístup sa zdá byť užívateľmi dobre prijatý. Dokazuje to aj mnohoročný rozmach influencerov.

Niektorí z prevádzkovateľov kanálov sa vo svojich videách sťažujú, že niektoré z ich už nahraných videí boli odstránené - službou Youtube. Platforma tu zjavne pravidelne zasahuje, pretože tieto videá porušujú pokyny. Vo videách sa hovorí o Billovi Gatesovi, ktorý je za všetkým, „očkovacou loby“ a „manipuláciou más“. V komentároch sa používatelia navzájom bičujú. Sotva existuje rozpor. Tu je ľahké sa stratiť v špirále radikalizácie.

Vlani v lete správa New York Times s názvom „The Yaking of a Youtube Radical“ ukázala, ako sa nechať vtiahnuť do víru radikálnych videí. Dvadsaťšesťročný Caleb Cain v ňom popisuje, ako sa na video platforme radikalizoval: V životnej kríze hľadal svojpomocné videá a skončil s pravicovo-extrémistickým obsahom. Hnutie alt-right, ktoré slúži ideológiám na pravú stranu a propagovalo rasistické, islamofóbne a antisemitské názory, malo zásadný vplyv.

Správa bola zaujímavá, pretože noviny mali prístup k celej Kainovej histórii YouTube (viac ako 12 000 videí). Toto umožnilo novinárom presne pochopiť, na ktoré video Cain klikal a kedy, až kým sa nedostal do takzvanej „zajačej nory“ na základe odporúčaní: Používateľ sa stane závislým na nových videách a skončí vo virtuálnej diere.

Kritizuje sa, že obchodný model YouTube a algoritmy „neúmyselne“ viedli Caina k radikalizácii. "Pre mňa boli protagonisti vo videách tiež ako otcovské postavy," vysvetľuje svoju fascináciu mladý muž. Opisuje však aj to, ako sa Cainovi podarilo nájsť cestu z tejto „zajačej nory“ sledovaním videí s rôznymi politickými názormi a spochybňovaním príbehu pravého alt.

„Musíme si uvedomiť, že odporúčania YouTube sú toxické.“

Ak si myslíte, že bývalý zamestnanec YouTube Guillaume Chaslot, boli algoritmy vytvorené tak, aby ľudia trávili na platforme čoraz viac času, pretože to vedie k väčšiemu počtu zhliadnutí a príjmu z reklamy. Algoritmy označuje za diskutabilné, pretože by uprednostňovali polarizačný obsah. Systém vytvára závislosť od používateľa. „Musíme uznať, že odporúčania YouTube sú toxické,“ tvrdí programátor, ktorý musel v roku 2013 po spore opustiť spoločnosť Google.

Jeho projekt „AlgoTransparency“ je vzrušujúci, pretože poskytuje malý pohľad na to, ako algoritmy fungujú, simuláciou správania používateľa YouTube. Francúz napísal program, ktorý na YouTube vyhľadáva najviac odporúčaných videí na viac ako tisíc kanáloch. Kvôli obmedzeným zdrojom však model zobrazuje iba zlomok najodporúčanejších videí.

Aké videá sleduje konšpiračný ideológ?

Web Theirtube vývojára Toma Kiharu poskytuje pohľad do sveta používateľa YouTube s určitými zobrazeniami (šesť rôznych typov používateľov). Videá sa odporúčajú na základe príslušnej histórie používateľa YouTube. Môžete si napríklad pozrieť odporúčané videá používateľa, ktorý verí v konšpiračné teórie. Tu sa zobrazia videá o spoločnosti QAnon alebo «PizzaGate». Podľa Kiharu algoritmus opakovane zobrazuje podobné informácie, ktoré potvrdzujú a posilňujú zaujatosť človeka. To niekedy vedie k tomu, že ľudia majú radikálne názory a nápady.

S novým účtom pozerám niekoľko dní na Youtube rôzne videá. Stále kontrolujem, čo navrhuje Youtube. Keď hľadám „Merkelová reč“, druhé video mi navrhlo: „Bola Merkelová opitá počas tohto prejavu v EÚ?“. Prevádzkovateľ kanálu s 15 000 predplatiteľmi tvrdí vo mimoriadne zle natočenom videu, že nemecká kancelárka bola zjavne opitá a pýta sa svojich divákov na to, čo si myslia o politikoch, ktorí konzumujú alkohol.

Späť na domovskú stránku sa mi okrem iného navrhuje rozhovor s kontroverzným nemeckým aktivistom Kenom Jebsenom. Sú tieto videá radikálne? Zaujímalo by ma. Prinajmenšom by som to klasifikoval ako šírenie obsahu konšpiračnej teórie. Pri ďalšom hľadaní videí s kancelárkou Angelou Merkelovou sa mi odporúča čoraz viac videí AfD - aj keď som dovtedy nevidel ani jedno video AfD. Späť na úvodnej stránke je môj pravý mikrokozmos už na začiatku rozpoznateľný. Som na dobrej ceste do bubliny filtra.

Tieto bubliny politického filtra skúmali v roku 2017 dvaja vedci v oblasti komunikácie z Berlína a Zürichu. Na základe svojej analýzy Jonas Kaiser a Adrian Rauchfleisch ukázali, ako pravicové kanály (strany a poskytovatelia médií) vytvorili na YouTube „paralelný vesmír“. Jeden výsledok štúdie: existuje len málo prepojení medzi pravicovou sieťou a „mediálnym a politickým mainstreamom“. Preto ste na Youtube politicky uviaznutí v slepej uličke.

Vedci sa nezhodujú na tom, aký vplyv má algoritmus v prípade možnej radikalizácie používateľov. Viac ako 70 percent času, ktorý trávime na YouTube, je zjavne ovplyvnených algoritmami. Tento osobný zážitok zo sledovania je požehnaním aj prekliatím. Na jednej strane je užitočné pre používateľa, keď vidí videá, ktoré by ho mohli zaujímať. Na druhej strane môže algoritmus viesť k tomu, že jeden uviazne v bubline monotematického filtra.

Existuje radikalizácia, mechanizmus je záhadou

Pred rokom medzinárodná výskumná skupina zo Švajčiarska a Brazílie sledovala tieto „radikalizačné cesty“ pomocou rozsiahlej štúdie YouTube. Z tohto dôvodu bola vyhodnotená dátová sada 350 kanálov, 300 000 videí a 72 miliónov komentárov. Vedci preukázali, že používatelia YouTube prešli z umiernenejších alebo konzervatívnejších kanálov na politicky extrémne kanály.

Manoel Horta Ribeiro vedie výskum na Ecole polytechnique fédérale de Lausanne.

Manoel Horta Ribeiro, jeden zo spoluautorov štúdie, pre NZZ povedal: „Rozsah tejto migrácie smerom k radikalizácii nebol doteraz známy. Ale s našou metódou sme nemohli presne preskúmať, ako funguje mechanizmus, ktorý za tým stojí. ““

Štúdia sa zamerala iba na odporúčania v krátkom období. Zber historických údajov nebolo možné. Okrem toho nebol dostatok osobných údajov, pretože algoritmus YouTube zobrazuje každému používateľovi individuálne výsledky.

Ribeiro si je istý, že algoritmus zohráva svoju rolu, ale: „Mali by sme si tiež uvedomiť, že YouTube a ďalšie veľké platformy výrazne zmenili pravidlá internetu. Extrémne názory vždy existovali, iba sa zviditeľnili a platformy ako Youtube ich umožňujú používateľom nájsť. “

Na YouTube bol vytvorený alternatívny mediálny systém

Aj mediálna výskumníčka Rebecca Lewis nevidí algoritmus ako hlavný faktor radikalizácie. Vo svojej analýze odborníčka zistila, že za nimi sa skrýva skôr systém alternatívnych vplyvných osôb a dobre prepojená komunita. „Youtube môže zajtra odstrániť celý odporúčací algoritmus a stále by to bol najväčší zdroj radikalizácie online,“ uviedol Lewis. Na YouTube sa vyvinul alternatívny mediálny systém, ktorý propaguje radikálny obsah a „predáva“ politicky extrémne ideológie.

Skutočnosť, že YouTube čoraz viac blokuje radikálne kanály, považuje Ribeiro za pozitívny vývoj. YouTube najnovšie zablokoval účty pravicového extrémistického identitárskeho hnutia vrátane kanálu Rakúšana Martina Sellnera. Podľa výskumníka má Youtube záujem prezentovať svojim používateľom hodnotný obsah. Pred niekoľkými týždňami Youtube zablokoval aj účty pravicových extrémistov v USA, vrátane bývalého vodcu Ku Klux Klanu Davida Duka. Používatelia by mali byť chránení pred nenávistnými prejavmi, dezinformáciami a kriminálnym obsahom, uvádza sa na webovej stránke. Každý kanál, ktorý opakovane porušuje pokyny, bude odstránený.

Keď som zadal hľadaný výraz „Stuttgart“, uvidel som veľa správ z kvalitných médií. Na prvý pohľad nevnímam žiadny radikálny obsah. Aj tu ma desia komentáre pod videami: Stuttgart bol „zinscenovaný“, tvrdí jeden používateľ s odvolaním sa na noc nepokojov. Jeden si dokonca myslí, že ide o „platenú zápletku“. A ďalší uviedol, že tento incident bol čírym „strachom z vlády“. Aj keď videá nie sú radikálne, existuje veľa komentárov pod nimi.

Na preskúmanie algoritmu YouTube a jeho dôsledkov je potrebné predovšetkým všetky konkrétne údaje o používateľoch. Získanie osobných údajov však nie je ľahké, vysvetľuje Nicolas Kayser-Bril, reportér medzinárodnej organizácie AlgorithmWatch. Sú teda závislé od darov dát od používateľov YouTube. Portál, ktorý kriticky skúma algoritmy platforiem, chce predovšetkým väčšiu transparentnosť od spoločnosti Google. Konkrétne požadujú nezávislý orgán, ktorý by sprostredkoval vzťahy medzi výskumníkmi a platformami.

V rozhovore pre NZZ manažérka spoločnosti Google Isabelle Sonnenfeld uviedla, že YouTube dáva vyššiu prioritu vysoko kvalitnému mediálnemu obsahu. Hovorí sa, že „mediálny obsah a spoľahlivé informácie“ sú podľa algoritmu zámerne zvýhodňovaní. Počas koronovej krízy Youtube už vymazal tisíce videí s falošným a zavádzajúcim obsahom.

"Algoritmus pre nás zostáva čiernou skrinkou," hovorí Ribeiro. Chápe však tiež to, že Google chce chrániť súkromie svojich používateľov, a preto je s dátami opatrný. Bol by však rád, keby v tom spoločnosť hrala dôležitejšiu úlohu. «Myslím si, že algoritmus YouTube je skvelý. Výzvou bude regulovať veľké množstvo obsahu na platforme ako na trhu a znížiť finančné demotivačné faktory, “hovorí Ribeiro.

Aj keď môj vlastný experiment trval iba pár dní, vidím určitú tendenciu k pochybnému obsahu. Predpokladám, že keby som pokračoval v tomto experimente, videl by som horšie videá. Vaše vlastné užívateľské správanie je nevyhnutné: Nechám sa zlákať klikaním a provokatívnymi videami? Pripúšťam iné názory? Algoritmy nepochybne hrajú hlavnú úlohu vo vizuálnom správaní, ale dôležitejšie je, aby si každý používateľ uvedomoval, ako funguje YouTube, a kládol správne otázky: Aké sú zdroje? Aké dôveryhodné je to? Podľa môjho názoru je mediálna gramotnosť najlepším spôsobom boja proti radikalizácii.