Priority pleti v rámci dátových žurnalistiky na Instagrame Domáce správy - edjnet
Exkluzívne vyšetrovanie ukazuje, že Instagram dáva prednosť obrázkom mužov a žien, na ktorých sú nakrátko oblečení, a naznačuje správanie tvorcov obsahu a vnímanie sveta 140 miliónov Európanov, čo zostáva citlivým bodom pre predpisy EÚ.
Sarah žije v Berlíne a je potravinárskou podnikateľkou (zmenilo sa meno a mesto). Spoločnosť, ktorú vytvoril, pomáha ženám cítiť sa príjemne pri jedle a podporuje „intuitívne stravovanie“. Rovnako ako mnoho malých podnikateľov, aj Sarah sa pri prilákaní zákazníkov spolieha na sociálne médiá. Instagram, druhá najväčšia sociálna sieť po Facebooku, je marketingový kanál, bez ktorého by to podľa nej nemohlo prežiť.
Ale na Instagrame, ktorý sa výrazne zameriava na fotografie a videá, mala pocit, že jej fotografie nedosiahli príliš veľa z 53 000 sledovateľov, pokiaľ nepózovala v plavkách. Štyri z jej siedmich najpopulárnejších postov za posledných pár mesiacov ju skutočne zastihli v bikinách. Ely Killeuse, autorka kníh so 132 000 sledovateľmi na Instagrame, ktorí súhlasili s oficiálnym vystúpením, uviedla, že „takmer všetky“ jej najobľúbenejšie fotografie ju ukazujú v spodnom prádle alebo v plavkách.
Ich početné publikum môže radšej vidieť Sarah a Ely v plavkách. Ale od začiatku roku 2016 Instagram usporadúva fotografie z informačných kanálov používateľov tak, aby sa fotografie, ktoré používateľ „uprednostňuje, zobrazili v hornej časti informačného kanála“. Ak sú ďalšie obrázky, ktoré zverejnili Sarah a Ely, menej populárne, môže to byť tým, že sa ich nasledovníkom až tak veľmi nezobrazujú.
Ktoré obrázky sa objavia a čo nie je nič iné ako vec vkusu. Podnikatelia, ktorí sa spoliehajú na Instagram, aby prilákali nových zákazníkov, musia prijať pravidlá podporované službou, aby oslovili svojich nasledovníkov. Aj keď tieto pravidlá neodrážajú hodnoty, na ktorých postavili svoje podnikanie, ani hodnoty ich hlavného publika.
Analyzovaných 2 400 fotografií
Aby sme pochopili, ktoré obrázky majú Instagram prioritné, požiadali European Data Journalism Network (EDJNet) a AlgorithmWatch 26 dobrovoľníkov, aby si nainštalovali rozšírenie prehliadača a sledovali výber profesionálnych tvorcov obsahu. Vybrali sme 37 profesionálov z 12 krajín (z toho 14 mužov), ktorí používajú Instagram na propagáciu značiek alebo na prilákanie nových zákazníkov pre svoje podnikanie, hlavne v oblasti jedla, cestovania, fitnes, módy alebo krásy.
Rozšírenie v pravidelných intervaloch automaticky otvára hlavnú stránku Instagramu a zaznamenáva, ktoré príspevky sa zobrazujú v hornej časti informačných kanálov dobrovoľníkov, čo poskytuje prehľad o tom, čo považujú za najrelevantnejšiu platformu pre každého dobrovoľníka.
Keby sa Instagram nezmiešal do algoritmu, rozmanitosť príspevkov v informačných kanáloch používateľov by sa musela zhodovať s rozmanitosťou príspevkov tvorcov obsahu, ktoré sledujú. A ak spoločnosť Instagram prispôsobila informačný kanál každého používateľa podľa jeho osobného vkusu, rozmanitosť príspevkov v jeho informačných kanáloch by mala byť pre každého používateľa iná. Žiadny z týchto scenárov sa nezhodoval.
Od februára do mája bolo analyzovaných 1 737 príspevkov od tvorcov obsahu, ktorých sledujeme, čo spolu predstavuje 2 400 fotografií. Z týchto príspevkov bolo 362 alebo 21% rozpoznaných počítačovým programom ako fotografií žien v bikinách alebo spodnom prádle alebo mužov s odhalenými prsiami. V informačných kanáloch našich dobrovoľníkov však príspevky s takýmito fotografiami predstavovali 30% všetkých príspevkov, ktoré sa zobrazili pod rovnakými účtami (niektoré príspevky sa zobrazili viackrát).
Príspevky, ktoré obsahovali fotografie žien v spodnom prádle alebo v bikinách, sa o 54% pravdepodobnejšie vyskytli v informačnom kanáli našich dobrovoľníkov. Pravdepodobnosť zobrazenia príspevkov obsahujúcich obrázky mužov s odhalenými hrudníkmi bola o 28% vyššia. Naopak, príspevky zobrazujúce fotografie s jedlom alebo scenériou boli o 60% menej pravdepodobné, že sa zobrazia v informačnom kanáli.
Tieto výsledky, ktoré je možné podrobne prečítať na vyhradenej stránke, absolvovať štandardné testy štatistickej významnosti.
Čaká sa na audit
Náklon k nahote sa nemusí vzťahovať na všetkých používateľov Instagramu. Aj keď to bolo pre väčšinu dobrovoľníkov konzistentné a zrejmé, malá menšina dostala príspevky, ktoré lepšie odrážali rozmanitosť príspevkov tvorcov obsahu. Algoritmus Instagramu pravdepodobne uprednostňuje nahotu všeobecne, ale personalizácia alebo iné faktory obmedzujú účinok na niektorých používateľov.
Naše výsledky nie sú ani zďaleka závery, ktoré by mohol mať úplný audit algoritmu informačných kanálov Instagramu. Dokumentujú iba to, čo sa stalo v novinkách našich dobrovoľníkov. (Inštaláciou rozšírenia nám môžete pomôcť vylepšiť vaše výsledky. Aktualizácie uverejníme, až budeme mať viac údajov.) Bez prístupu k interným údajovým a produkčným serverom spoločnosti Facebook bude vždy nemožné vyvodiť konečné závery.
Facebook na naše otázky neodpovedal presne, poslal však vyhlásenie: „Tento výskum je chybný z niekoľkých dôvodov a ukazuje nedorozumenie, ako funguje Instagram. Hodnotíme príspevky vo vašom informačnom kanáli na základe obsahu a účtov, o ktoré ste prejavili záujem, nie na základe svojvoľných faktorov, ako je napríklad prítomnosť plaviek. “
Máme však dôvod domnievať sa, že naše zistenia predstavujú spôsob, akým Instaram funguje všeobecne.
Maximalizácia záväzku
V patente zverejnenom v roku 2015 inžinieri z Facebooku, spoločnosti prevádzkujúcej Instagram, vysvetlili, ako si môže newsfeed zvoliť, ktoré obrázky majú uprednostniť. Keď používateľ zverejní fotografiu, podľa patentu sa automaticky analyzuje na mieste. K fotografiám je pripojená „metrika zapojenia“, ktorá sa používa na rozhodnutie, či sa má v informačnom kanáli používateľa zobraziť konkrétny obrázok.
Metrika zapojenia je na jednej strane založená na minulom správaní používateľov. Ak používateľ ocenil určitú značku a obrázok zobrazuje produkt rovnakej značky, metrika zapojenia sa zvyšuje. Metriku zapojenia je však možné vypočítať aj na základe správania všetkých používateľov služieb. Patent konkrétne stanovuje, že na výpočet metriky zapojenia je možné použiť pohlavie, etnický pôvod a „úroveň vyzliekania sa“ ľudí na fotografii.
Zatiaľ čo Instagram tvrdí, že informačný kanál noviniek je organizovaný podľa kritéria „na čom záleží najviac“ pre konkrétneho používateľa, patent spoločnosti vysvetľuje, že ho možno klasifikovať podľa toho, čo sa všetkým používateľom páči. To, či používatelia uvidia alebo zverejnia fotografie zverejnené v účtoch, ktoré sledujú, závisí nielen od ich histórie správania, ale aj od toho, čo si Instagram myslí, že najviac zaujme ostatných používateľov platformy.
Falošné korelácie
Facebook predtým, ako algoritmus rozhodne, čo sa má zobraziť v informačnom kanáli používateľa, automaticky analyzuje fotografie pomocou softvéru známeho ako počítačové videnie. Takýto softvér zhromažďuje automatické závery zo sady tréningových údajov navrhnutých z tisícov ručne anotovaných obrázkov. Jeho obmedzenia môžu mať vplyv na to, ako Instagram uprednostňuje fotografie v informačných kanáloch.
Počítačoví vedci už mnoho rokov vedia, že takéto systémy kopírujú a zosilňujú sa predsudky o ich údajoch o odbornej príprave, ktoré vedú k nesprávnym alebo chybným koreláciám. Napríklad program na identifikáciu vlkov a psov na základe fotografií špičákov nájdených online nerozpozná zvieratá v obvyklom zmysle slova. Namiesto toho označí každé zviera na zasneženom pozadí.
Údaje o školeniach v oblasti počítačového videnia zvyčajne produkujú nízko platení pracovníci, ktorých stimuluje skutočnosť, že musia pracovať rýchlo a prinášať uspokojivé výsledky pre zamestnávateľov. To ich núti bez rozdielu prijímať priradené kategórie a prehliadať jemnosti, ktoré fotografia môže obsahovať, napísala doktorka Agathe Balayn, doktorandka o zaujatosti automatizovaných systémov na Delft University of Technology.
Tieto následky môžu byť závažné. V decembri sa brazílsky umelec pokúsil propagovať jeden zo svojich príspevkov na Instagrame. Jeho žiadosť bola zamietnutá z dôvodu, že príspevok obsahoval násilné prvky. Vystupoval na ňom iba jeden chlapec a pilot formuly 1 David Hamilton. Obaja mali tmavú pokožku. V apríli bola inštruktorke jogy zamietnutá reklama z dôvodu, že snímka vyžaduje vulgárne výrazy, aj keď zobrazuje iba polohu kohúta na boku. Je ázijsko-americká.
(V našom experimentálnom nastavení sme použili aj systém počítačového videnia, Google Vision. Aj keď sú jeho výsledky mimoriadne - napríklad značka „krása“ bola daná iba ženám - je veľmi pravdepodobné, že jej predsudky sú podobné ako modul počítačového videnia Facebooku, aj keď len preto, že ho vytvorili prevažne tí istí ľudia.)
Nasleduje tenká čiara
Sprievodca inštrukciami k Instagramu podporuje skutočnosť, že nahota nie je v ich službách povolená, ale uprednostňuje príspevky, ktoré zobrazujú vzhľad. O jemnom rozdiele medzi tým, čo sa odporúča a čo je zakázané, rozhodujú neslýchané a pravdepodobne zaujaté algoritmy počítačového videnia. Tvorcovia obsahu musia zakaždým, keď zverejnia fotografiu, sledovať túto veľmi tenkú hranicu medzi zobrazením dostatočného množstva na to, aby sledovalo sledujúcich, a neprezradiť toľko, aby boli odstránení z platformy.
Dotazník z roku 2019, ktorý uskutočnil americký časopis Salty pre 128 používateľov Instagramu, ukázal, že nevhodné mazanie obsahu bolo na dennom poriadku. Aké časté sú takéto udalosti a či sú neprimerane postihnutí černosi a ženy, je nemožné povedať, kým nebudú algoritmy Instagramu neauditované.
V každom prípade preskúmanie 238 patentov podaných spoločnosťou Facebook, ktoré obsahovali frázu „počítačové videnie“, ukázalo, že z 340 ľudí zapísaných ako vynálezcovia bolo iba 27 žien. Prostredie, v ktorom dominujú muži, zvyčajne vedie k nepriaznivým výsledkom pre ženy. Napríklad bezpečnostné pásy automobilov sa testujú iba na mužských figurínach, čo vedie k vyššej miere zranenia žien. Náš výskum ukazuje, že algoritmy Facebooku by sa mohli riadiť týmto vzorom.
Strach zo zákazu tieňov
Sarah a ďalší podnikatelia z Instagramu sa zľakli rozhovoru pre tlač. Väčšina profesionálnych tvorcov obsahu na Instagrame sa bojí možnej odvety z Facebooku, ktorá sa prejaví vo forme odstránenia účtu alebo tieňových zákazov (metóda, pri ktorej sa príspevky používateľa nezobrazujú nikomu alebo iba niekoľkým sledujúcim bez jeho vedomia) - trest smrti pre ich podnikanie.
Mladá podnikateľka s približne 70 000 sledovateľmi, ktorá uviedla, že Instagram je pre jej podnikanie „veľmi dôležitý“, pre AlgorithmWatch uviedla, že si neželá byť uznaná pre svoj strach zo zákazu tieňov. Ely Killeuse v oficiálnom vyhlásení uviedla, že vlastníctvo iného zdroja príjmu je pre ňu „podmienkou číslo jeden“. Príliš veľká závislosť od Instagramu by znamenala stratu slobody a duševného zdravia, dodala Ely.
Všeobecné nariadenie o ochrane údajov (GDPR), ktoré vstúpilo do platnosti v roku 2018, a nariadenie o obchodných platformách (P2B), ktoré začne platiť od 12. júla 2020, už teraz prináša veľa záruk pre používateľov aj profesionálov. Nariadenie GDPR konkrétne vyžaduje, aby mali používatelia „právo na vysvetlenie“ automatických rozhodnutí a nariadenie P2B by malo donútiť online sprostredkovateľské služby zverejňovať „hlavné parametre, ktoré určujú (algoritmické) poradie“.
Toto nové opatrenie by podľa Petry de Sutterovej, ktorá vedie komisiu Európskeho parlamentu pre vnútorný trh a spotrebiteľské projekcie, nemalo nútiť platformy odhaľovať špecifiká svojich algoritmov. Zabrániť tomu, aby Instagram triedil informačné kanály svojich používateľov, by nebolo právne možné, napísala v e-maile pre AlgorithmWatch. Namiesto toho by transparentnosť P2B mala umožniť informované politické rozhodnutia v neskoršej fáze, dodala. Pokiaľ ide o obavy zo zákazu tieňov, de Sutter sa domnieva, že sa im pripisuje príliš veľký význam. „Otázka sa nikdy neoplatila,“ napísala.
P2B sa môže líšiť, ale dva roky po nadobudnutí účinnosti nariadenia GDPR sa niektorí odborníci sťažujú na veľmi chybnú implementáciu. Jedným z problémov je, že írsky úrad pre ochranu údajov, ktorý je zodpovedný za reguláciu európskej dcérskej spoločnosti Facebooku v Dubline, vyzerá, akoby mal vážne personálne obsadenie a „zdá sa, že nechápe GDPR“, mechanizmy platformy vysvetlené pre AlgorithmWatch. Ďalším problémom je nedostatok politík. Žiadny orgán na európskej úrovni ani medzi členskými štátmi nemá právomoc ani nástroje na počúvanie žiadnej z gigantických platforiem vrátane Instagramu, takže mnohé ustanovenia nariadenia GDPR nie sú implementované.
Možná diskriminácia
Aj keď naše výsledky ukazujú, že tvorcovia obsahu pre mužov a ženy sú nútení ukazovať svoje kúsky podobným spôsobom, ak sa chcú dostať k svojmu publiku, účinok by mohol byť pre ženy širší a možno ich považovať za diskrimináciu podnikateľiek. Aj keď Charta základných práv Európskej únie zakazuje diskrimináciu na základe pohlavia, pre používateľa Instagramu neexistuje žiadny legálny spôsob, ako začať akékoľvek právne konanie. Legislatíva nezohľadňuje špecifiká podnikania na sociálnych sieťach.
Miriam Kullmann, odborná asistentka na Vysokej škole ekonomickej a obchodnej WU vo Viedni, napísala pre AlgorithmWatch, že európska antidiskriminačná legislatíva sa zaoberá takmer výlučne pracovnoprávnymi vzťahmi. Nezávislí pracovníci, ako sú napríklad odborníci, ktorých sme sledovali, nie sú chránení.
Niektoré skupiny bojujú za svoje práva ako nezávislí tvorcovia na sociálnych sieťach. IG Metall, najväčší odborový zväz v Európe, podporuje kolektívne akcie autorov na YouTube a požaduje od spoločnosti Google (ktorá vlastní YouTube) v prípade demonetizácie videa viac spravodlivosti a transparentnosti. Neplánujú rozšíriť svoj program na tvorcov obsahu a späť od nich na Instagrame alebo iných platformách.
Jeden z troch Európanov
Tisíce európskych podnikateľov, ktorí vytvárajú obsah na Instagrame, majú obrovský vplyv na ich príspevky, pretože sa môžu pochváliť státisícmi sledovateľov. Facebook tvrdí, že takmer 140 miliónov obyvateľov EÚ, alebo každý tretí, používal v apríli Instagram.
Medzi ľuďmi vo veku od 18 do 24 rokov je penetrácia na Instagrame okolo 100% v každej krajine EÚ . Štátne objednávky doma počas pandémie Covid-19 drasticky predĺžili čas strávený na Instagrame. Za týždeň v karanténe v Taliansku sa názory Instagramu zdvojnásobili oproti normálu, informoval Facebook investorov.
Vlastný profil
Pred takmer storočím slávna britská autorka Virginia Woolfová uviedla, že ženy potrebujú na rozvoj svojej kreativity „vlastnú izbu“. Na základe názorov zahraničných orgánov, ktoré napísala, to bolo ako pozvať hnilobu, aby sa množila v srdci svojej práce.
Na Instagrame nie je možné zohľadniť názor orgánov, ktoré vytvorili algoritmus informačného kanála,. Odmietnutie ukázať časti tela dramaticky znižuje publikum. Ženy alebo podnikatelia musia dodržiavať pravidlá stanovené inžiniermi Facebooku, ak chcú mať šancu zarobiť si na živobytie.