Ako môžeme rozumne používať algoritmy? Jörg Dräger, člen výkonnej rady nadácie Bertelsmann Foundation, im
Výkonná rada Bertelsmannovej nadácie neverí v desivú debatu o dôsledkoch digitalizácie. V rozhovore s Thoralfom Clevenom 51-ročný mladík popisuje, ako môžu digitálne zmeny modernizovať našu spoločnosť a urobiť ju spravodlivejšou - ak budeme rozumne používať algoritmy.
Keď idem po práci k autu, môj smartphone sa pravidelne a bez výzvy hlási s časom vypočítaným pre cestu domov a alternatívnymi trasami, v závislosti od dopravnej situácie. Je to praktické, ale aj trochu strašidelné, však?
Takéto podpery sú strašidelné, pokiaľ v nich vyvolávame pocit, že sa neovládame. U mňa sa táto správa objaví po vstávaní - s časom do kancelárie alebo po stretnutí. Ale viem, aké údaje táto aplikácia používa, a - čo je veľmi dôležité - ako to môžem zastaviť. Všetci máme túto moc. Na druhej strane by nás nikdy nenapadlo spochybniť, ako fungujú algoritmy, ak by sme počas jazdy museli zrazu šliapnuť na brzdy a protiblokovací systém ABS nám pomôže zostať v jazdnom pruhu. Je to však tiež výsledok algoritmickej analýzy údajov.
Pre každého z nás je preto čoraz dôležitejšie uvedomiť si, kedy a ako s nami algoritmus koná?
Áno. Predovšetkým si musíme uvedomiť sociálne dôsledky. Navigačný prístroj vo vozidle napríklad určuje môj čas jazdy a tým aj životnosť podľa navádzania k cieľu, ale aj prostredníctvom prípadne optimalizovaných emisií CO2 a rýchlosti podnebia alebo hlučnosti.
Existujú ešte oblasti života, v ktorých údaje nehrajú úlohu?
V súkromí áno, aspoň pokiaľ ich vypneme. Inak? V USA používajú sudcovia na určenie stupňa trestu algoritmy. Stali sa nepostrádateľnou súčasťou výberu personálu. Týmto spôsobom sú teraz prideľované dokonca aj miesta základných škôl - napríklad v Berlíne. Algoritmy teda už dávno neurčili technické oblasti, ako je samotné ABS, ale teraz hrajú rozhodujúcu úlohu v živote každého jednotlivca. Preto je dôležité hovoriť menej o krátkodobých účinkoch používania umelej inteligencie a viac o dlhodobých účinkoch. Sú mimoriadne formujúce pre budúcu spoločnosť.
Skutočne radšej hovoríte o algoritmoch, umelej inteligencii alebo inteligentných strojoch?
Algoritmus znie veľmi technicky a je skôr odstrašujúci. Umelá inteligencia vytvára dojem, že my ľudia sme nahradení. Z môjho pohľadu je správny výraz „rozšírená inteligencia“. Môže to iba rozšíriť naše schopnosti a pomôcť nám pri prijímaní veľmi konkrétnych úloh, ako je napríklad analýza veľkého množstva údajov.
Prečo sme sa v minulosti menej obávali o použitie údajov - kľúčové slovo ABS - a teraz sa v nás objavuje skutočný strach?
Umelá inteligencia je často spájaná s terminátorom alebo matricou z filmov. A politická debata sa väčšinou točí okolo toho, koľko pracovných miest bude zničených. Oba majú negatívne konotácie a vedú k obranným reakciám. Bolo by lepšie, keby sme diskutovali o tom, ako môžeme pomocou strojov vylepšiť svoje ľudské schopnosti. Pretože o to ide. V popredí by mala byť sociálna dávka. Prečo sa nepýtame, ako môžeme pomocou lepšej inteligencie budovať lepšiu spoločnosť?
Možno preto, že ich práca je pre mnohých dôležitá? Aké by boli vaše stĺpy v takejto diskusii?
Samozrejme, pracovné miesta sú veľmi dôležité. Preto je také dôležité rozhodnúť sa dnes, ako chceme zajtra žiť a pracovať. Pri rozumnom použití ponúkajú algoritmy možnosti väčšej spravodlivosti a globálnej spravodlivosti, lepšieho prístupu k vzdelaniu alebo pracovným miestam, ako máme alebo môžeme dnes.
Čo konkrétne myslíš?
Použitím technológie v aplikačných procesoch už môžem zabezpečiť, aby šancu na vedúcich pozíciách dostalo viac žien. Môžem tiež umožniť menšiu diskrimináciu podľa pôvodu v právnych konaniach. Je teda na ľudskom úsudku, ako a pre čo zostavujeme a používame algoritmy. Ide o kontrolu a transparentnosť postupov. Algoritmus často drží zrkadlo toho, ako sa správame. Môže to posilniť naše nespravodlivé správanie, ale ľudia ním môžu tiež prepnúť vypínač.
Ekonomika si vyžaduje efektivitu. Nie je to často v rozpore so sociálnymi záujmami, ako je účasť všetkých ľudí - bez ohľadu na to, či sú telesne postihnutí alebo chronicky chorí alebo či pochádzajú z chudobnej rodiny?
Myslím si, že je cennejšie urobiť spoločnosť o 20 percent spravodlivejšou ako výroba automobilov o 20 percent efektívnejšou. Príklad: V USA call centrum používalo algoritmy na vyhľadanie zamestnancov od uchádzačov, ktorí by dlho zostali bez opustenia zamestnania. Fungovalo to výborne. Potom sa však zistilo, že ľudia z problémových oblastí sa vôbec nezamestnali, takže boli jednoducho diskriminovaní. Preto sa spoločnosť rozhodla v tomto okamihu zmierniť algoritmus, aby už viac nediskriminoval. Prioritou bolo: spravodlivosť pred efektívnosťou.
Algoritmy však nemôžu zabrániť neskoršej diskriminácii v každodennom živote alebo v práci na základe farby pleti alebo pôvodu.
Nie, citlivosť na problémy musí byť pred ich algoritmickým riešením. Potom ľudia dostanú príležitosti, ktoré predtým len ťažko mali. Som presvedčený o tom, že to následne povedie k zmene postojov a hodnôt. Algoritmy je jedno, odkiaľ pochádzate, koľko máte rokov, farbu pleti, pohlavie a vzdelanie. Napríklad budete môcť pomocou počítačových hier rozpoznať svoje kompetencie a skombinovať ich s požiadavkami na prácu. Pôsobivá nie je iba presnosť. Imponuje mi potenciál pre spravodlivejšiu spoločnosť - programy sa nezameriavajú iba na hrboľatú cestu vzdelávania a nedostatok formálnych kvalifikácií. Vidíte tiež neviditeľné, skryté schopnosti jednotlivca.
Môžeme potom pred rozhodnutím vypnúť naše vnútorné cítenie?
Určite nie. Môžeme však porovnať našu vnútornú citlivosť pomocou údajov a dať nášmu črevu pocítiť inú látku. Ak sa najskôr pozrieme bližšie, aby sme každému poskytli rovnaký prístup k čoraz digitálnejšiemu svetu, dosiahlo by sa veľa.
Sú algoritmy spravodlivé?
Sú rovnako spravodliví alebo nespravodliví ako ľudia. Ak ich podľa toho postavím, môžu dosiahnuť spravodlivosť. Nemôžu nás však zbaviť spoločenskej debaty o tom, čo je spravodlivé. Napríklad v USA sa zistilo, že niektoré populácie majú ľahší prístup na univerzity ako iné. Potom sa stanovilo, že postihnuté menšiny budú v budúcnosti stačiť na to, aby mali slabšiu stredoškolskú kvalifikáciu, aby si získali miesto na univerzite, pre ktoré by väčšina potrebovala lepšie vysvedčenie. Je to spravodlivé? Musí sa o tom diskutovať a rozhodnúť v politickom procese. V každom prípade je to páka na odbúranie štrukturálnych nevýhod.
Nie je to vyrovnanie?
Najmä v rezorte školstva by umelá inteligencia mohla ukončiť vyrovnávanie pomocou personalizovaného vyučovania a zároveň by sa stala sociálne spravodlivejšou: Individuálna podpora by už nemala závisieť od kreditnej karty rodičov. Algoritmy nenahradia učiteľa - bude od sprostredkovateľa vedomostí pre všetkých až po spoločníka učiaceho sa pre jednotlivca.
Teraz už algoritmy prijímajú oficiálne rozhodnutia. Kto berie zodpovednosť, keď sa mýlite?
Každý, kto sa rozhodne používať algoritmy, musí za ne následne prevziať zodpovednosť vrátane zabezpečenia kvality.
Poznáme posudzovanie vplyvov stavebného a environmentálneho práva. Potrebujeme niečo také aj pre algoritmy ?
Je to mysliteľné. Vždy sa nájdu oblasti, kde stačí vedieť, že algoritmy fungujú - napríklad pri poskytovaní prenájmu vozidiel. Potom existujú oblasti, v ktorých chceme porozumieť rozhodnutiam - napríklad v oblasti poistných taríf pre automobily, ktoré sú určené programami na analýzu údajov a nemôžu diskriminovať žiadnu skupinu obyvateľstva. Potrebujeme záväzné schvaľovacie postupy v citlivých, spoločensky relevantných oblastiach - napríklad pri schvaľovaní lekárskych robotov alebo pri podpore na súdoch. Musí existovať možnosť kontroly a riešenia sťažností v digitálnej aj v analógovej podobe.
Nakoniec je algoritmická spoločnosť demokratickejšia ako dnes?
Algoritmy nám určite poskytnú prístup k ďalším informáciám. To, či môžu tiež urobiť spoločnosť demokratickejšou, bude závisieť od toho, či sa nám podarí dostať do vážnych procesov politickej diskusie s poskytovateľmi sociálnych médií o nebezpečenstvách katalyzátorov, ozvučovacích komôr radikalizácie. Ich algoritmy v súčasnosti propagujú a posilňujú čoraz extrémnejšie názory. Kompenzáciu je však možné podporiť aj technicky.
Zostatok sa na Facebooku alebo Twitteri považuje za nudný.
Musíme to však akceptovať, ak chce väčšina spoločnosti dosiahnuť rovnováhu? Myslím si, že v tomto okamihu je spoločenskou zodpovednosťou firiem preraziť svoje obchodné záujmy - v záujme mierového spolužitia. Určite tu existujú pozitívne príklady: Po poslednej americkej volebnej kampani mal Facebook na krku obrovskú debatu o politickom vplyve. Výsledkom bolo, že počas federálnej volebnej kampane bol preskúmaný mechanizmus vyhľadávania Google - výsledkom bolo, že osobné vlastnosti ťažko zohrávajú úlohu v politických vyhľadávacích dotazoch na výsledky. Takže to funguje.
Federálna vláda prijala „stratégiu AI“ pre prácu s umelou inteligenciou. Aká zodpovednosť nesie štát, pokiaľ ide o digitálne zmeny?
Pre štát znamená digitálna zmena predovšetkým to, že musí rozvíjať príslušné dizajnérske schopnosti. V dvoch ohľadoch: Štát vytvára rámcové podmienky pre prevádzku inteligentných strojov s cieľom, aby slúžili spoločnému dobru. Samotný štát zároveň prevádzkuje algoritmické systémy v bezpečnostných, sociálnych alebo finančných orgánoch, ktorých rozhodnutiam sa nemôže vyhnúť žiadny občan. Štát má preto dvojakú úlohu, ktorú musí plniť rýchlo a komplexne.
Sme dosť rýchli?
Možno by stálo za to pozrieť sa na Čínu. Život Číňanov je takmer algoritmický. Zachádza to až tak ďaleko, že pri dodržiavaní vládnych predpisov alebo iného dobrého správania sa na vašom účte občana vytvárajú bonusy, pomocou ktorých sa dostanete do lietadla za čakacími radmi.
To znie dosť odstrašujúco.
Čína by nám tu nemala byť vzorom - príklad nás však vyzýva, aby sme sa ponáhľali hľadať svoje vlastné odpovede. Či sa nám to páči alebo nie: musíme sa rozprávať o tom, čo chceme a čo by nemalo byť. Je to však náročnejšie ako debata vyvolávajúca strach o tom, koľko pracovných miest by sa dalo digitalizáciou stratiť. Pretože je to o našich hodnotách a otázke, ako ich spájame s našou budúcnosťou. Príklad Číny dokazuje, že táto budúcnosť sa už začala.