YouTube je vo vojne so škodlivým obsahom! Ako sa spoločnosť snaží zastaviť tento jav
Autor: Bogdan Ungureanu/Dátum uverejnenia: 03-09-2019 19:09
Platforma YouTube súťaží s časom o odstránenie škodlivého obsahu, či už ide o podnecovanie k nenávisti, terorizmus, týranie detí alebo ďalšie. V tomto prípade je veľmi dôležitá technológia strojového učenia.
YouTube od začiatku vylučoval škodlivý obsah, ale úsilie v tomto smere sa v posledných rokoch zrýchlilo, hlavne aktualizáciou pravidiel, ktoré musí komunita dodržiavať, vylepšením pokynov, zavedením systémov strojového učenia, vývojom tímov, ktoré analyzovať jeho obsah alebo špecializované programy v spolupráci s rôznymi organizáciami. Len v roku 2018 vykonal YouTube viac ako 30 zmien v pravidlách, ktoré sa riadia touto platformou.
Výsledkom bolo, že v druhom štvrťroku 2019 odstránil YouTube viac ako 4 milióny kanálov a 9 miliónov videí z dôvodu porušenia pravidiel komunity. Koncom augusta zverejnil YouTube štvrťročnú správu o obsahu odstránenom z platformy, ktorá poskytuje informácie o objeme odstráneného obsahu, dôvodoch a čase jeho odstránenia.
Pred odstránením obsahu musí byť čiara medzi prijatým a odstráneným nakreslená tam, kde má byť. Cieľom je zabezpečiť slobodu prejavu a zároveň chrániť a podporovať komunitu YouTube. Za týmto účelom má YouTube tím pre vývoj komunitných politík, ktorý ich neustále kontroluje, aby sa ubezpečil, že sú aktuálne, udržujú komunitu v bezpečí a neobmedzujú slobodu YouTube.
V niektorých zložitých prípadoch môže analytický tím niekoľko mesiacov vyvíjať nové pravidlo. Robí to konzultácia s externými odborníkmi a tvorcami obsahu na YouTube, aby sa zistilo, kde súčasné pravidlá ukazujú svoje limity, aké sú zvláštnosti rôznych oblastí sveta, aby sa navrhované zmeny uplatňovali spravodlivo globálne.
Jednou z takýchto zásadných zmien bola aktualizácia politík nenávistných prejavov. K ich zmene došlo v pondelok a nový súbor politík bol uvedený do života začiatkom júna 2019. Dopad nového súboru politík na podnecovanie k nenávisti bol viditeľný v druhom štvrťroku 2019:
- Bolo odstránených viac ako 100 000 videí, čo je päťnásobný nárast
- Počet kanálov odstránených z dôvodu „nenávistných prejavov“ sa zvýšil päťkrát na viac ako 17 000
- Počet komentárov odstránených z YouTube sa v 2. štvrťroku 2019 takmer zdvojnásobil na viac ako 500 miliónov, čiastočne kvôli odstráneniu komentárov „nenávistných prejavov“
Pri označovaní obsahu, ktorý sa má analyzovať, sa YouTube spolieha na kombináciu ľudí a technológií. V niektorých prípadoch sa na vyhľadanie kópií nevhodného obsahu pred zobrazením používajú odtlačky prstov. V prípade určitých typov obsahu, ako napríklad sexuálne zneužívanie detí alebo terorizmus, prispieva služba YouTube do databázy odvetvia obsahu, aby zvýšila pravdepodobnosť blokovania tohto typu obsahu pred odovzdaním.
V roku 2017 služba YouTube rozšírila použitie technológie strojového učenia na zisťovanie potenciálne nevhodného obsahu a potom bola odoslaná na ľudskú analýzu. Táto technológia je vhodná na zisťovanie vzorov, ktoré pomáhajú nájsť obsah, ktorý je podobný - ale nie úplne rovnaký - ako iný obsah, ktorý už bol odstránený, a to ešte predtým, ako si ho používatelia pozrú. Viac ako 87% z 9 miliónov videí odstránených v druhej polovici roku 2019 tak bolo pôvodne identifikovaných automatizovanými systémami YouTube. Aktualizácia systémov automatickej detekcie spamu v druhom štvrťroku 2019 viedla k 50% zvýšeniu počtu odstránených kanálov z dôvodu porušenia pravidiel týkajúcich sa spamu.
Pri všetkej tejto snahe o odstránenie obsahu, ktorý porušuje pravidlá, je dôležité, aby sa videá tohto druhu pred odstránením nepozerali vo veľkom rozsahu alebo vôbec. Tu je kritickým prvkom automatizovaný výstražný systém, ktorý pomohol zistiť a vyhodnotiť obsah skôr, ako ho komunita signalizovala. Vo výsledku bolo viac ako 80% obsahu nahláseného automatizačnými systémami odstránené pred získaním jediného zobrazenia v druhom štvrťroku 2019.
YouTube bol spustený začiatkom roka 2018 Intelligence Desk, tím, ktorý monitoruje správy, sociálne médiá a správy používateľov, aby zistil nové trendy v oblasti nevhodného obsahu. Google najal viac ako 10 000 ľudí na zisťovanie, analýzu a odstraňovanie obsahu, ktorý porušuje pravidlá služby YouTube.