K; čo! Ale k; roboty môžu tiež f; vyberte APuZ
Keby ste si mohli želať inteligentný stroj, aký by to bol?
Thea Dorn - Chcem pracovať s hlavou a srdcom, a preto si myslím, že je úžasné, že prístroje za mňa robia domáce práce, na ktoré by som si brúsil iba zuby. Ale nikdy ma nenapadlo nazývať svoju práčku inteligentnou.
Raúl Rojas - Chcem technológiu, ktorá mi neustále neprekáža a nepripojí ma k počítaču, ako to robia napríklad e-maily. Nemám mobilný telefón, toto je moja cesta von. Chcem svoj mozog využiť na niečo iné. Takže vyvíjam napríklad autonómne vozidlá, ktoré sa dajú použiť ako taxíky.
Čiže nie sme im vydaní na milosť a nemilosť?
Rojas - nie Práve naopak. Chcem z auta urobiť formu verejnej dopravy. V Berlíne máme 1,3 milióna vozidiel, plus autobusy a metro. Chcel by som mať 100 000 autonómnych vozidiel namiesto automobilov: zdieľané taxíky. Zbierali ľudí na ulici a odviezli ich k metru, autobusu alebo inému cieľu. Jazdíte spolu, zdieľate náklady. To odľahčuje dopravu. Už by viac neboli parkovacie pruhy a bicykle by mohli využívať jazdný pruh, ktorý sa stal zadarmo. Nehôd by bolo menej. A bolo by to také pohodlné! Už nepotrebujem šoférovať sám, môžem sadnúť do taxíka, čítať, pracovať. To by bola moja „autopsia“ pre mesto.
tŕň - Proti tejto vízii nie sú námietky! V konečnom dôsledku mi je úplne jedno, či je šofér za volantom alebo či auto šoféruje samo. Ale zatiaľ sme sami za volantom - a neustále sme sponzorovaní. Je zo mňa blázon, keď mi moje auto snaží hysterickým pípnutím povedať, ako zaparkovať alebo kedy si mám dať prestávku. A navigačné systémy sú najčistejšie z orientačných strojov. Ak je to možné, všetko vypnem.
Rojas - Nemám ani navigačný systém. Ale vážne: Robím veľa prednášok o autonómnych vozidlách a najbežnejšia reakcia je: Nechcem, aby mi niekto vzal volant! Odpovedám: Bohatí ľudia majú vodiča a nezaujímajú ich detaily. Nechceme všetci byť bohatí? Potom už nemám záujem jazdiť. Čítal som svoje noviny, svoju knihu, až kým šofér nepovie: Prišli sme.
tŕň - Aj toto: krásna vízia! Len sa bojím, aby ľudia nevyužili ušetrený čas na čítanie Aristotela alebo aspoň na čítanie novín. So svojimi zariadeniami budú ešte viac fičať. Ale samozrejme je pravda, že - najmä vo veľkých mestách - je potrebné veľa zlepšiť v doprave. Každý, kto je v Berlíne pešo alebo na bicykli, neznáša automobilovú dopravu.
ale?
tŕň - Mám obavy z rýchlosti, s akou delegujeme na technologické rozhodnutia, ktoré sme predtým museli robiť sami, alebo na zručnosti, ktoré sme si museli osvojiť sami: Rozvíjať cit pre to, či som sa dnes pohyboval dosť? Nie je potrebné, hovorí mi aplikácia pre zdravie. Plánovanie zásob? Nie je potrebné, chladnička vie, kedy má pridať nové mlieko. Učiť sa cudzie jazyky? Existujú prekladové programy.
Pán Rojas, chcete technológiu, ktorá robí veci za vás a udržuje prácu mimo vás. Poďme si teda predstaviť domácnosť, ktorá sama perie bielizeň, robí jedlo ...
Rojas - Nie nie. Nemám rád domácich robotov. Môj osobný šport je kosenie trávnika, zbieranie lístia a pranie bielizne. Nemali by ste ľudí zbavovať všetkého, čo je v domácnosti, pretože sa prestanú hýbať a priberú. Rovnako ako vo filme „WALL-E“. Vieš to?
tŕň - Iba príves.
Rojas - Ľudia sedia na lietajúcom gauči s obrazovkou pred nosom a roboty prinášajú jedlo. Takáto budúcnosť by bola krutá. Niektoré stroje, ktoré by sa dali postaviť, by sa preto nemali vyrábať zo sociálnych dôvodov. Napríklad ošetrovacie roboty pre nemocnice, ktoré minimalizujú kontakt medzi chorými a inými ľuďmi.
tŕň - Na ich vývoji sa intenzívne pracuje. Na jednej strane je to pochopiteľné: ošetrovateľov je nedostatok, tak prečo nevyužiť pomoc aj pomocou robotov? Na druhej strane, s každým technologickým riešením sociálneho problému bude naša sociálna tvorivosť naďalej klesať. V podstate sa mi zdá, že ide o: Ako vyplníme voľné miesta, ktoré nám poskytuje nová technológia? Blížime sa k Aténe 4.0, v ktorej môže každý filozofovať a športovať od rána do večera, pretože priateľskí robotní otroci za nich vykonávajú všetku namáhavú prácu? Alebo skončíme tak, ako to naznačuje „WALL-E“: tučný, lenivý a hlúpy?
Rojas - To je dilema. Klasická antika aj tak nie je mojím vzorom, pretože slobodní boli iba muži, prácu robili ženy a otroci. Myslím skôr na utopických socialistov.
tŕň - Trockij by dnes bol veľkým zástancom technologizácie, pretože by dúfal, že to dá ľuďom slobodu vzdelávať sa.
Rojas - Veľkou otázkou prvých socialistov bolo, kto vykonáva nižšie pracovné miesta. Vaša odpoveď: stroje. Friedrich Engels napísal ešte ako mladý: Povedali ste, že potrebujeme nižšiu triedu, ktorá čistí toalety, ale teraz existuje automatická toaleta, ktorá sa splachuje sama! Pre neho to dokázalo, že ľudstvo budúcnosti sa uvoľní z týchto priemerných pracovných miest - socialistickej utópie 19. storočia. Teraz máme oveľa viac strojov, o akých sa Marxovi a Engelsovi ani nesnívalo, ale nemáme veľkú budúcnosť so slobodnými ľuďmi. Človek môže takmer zúfať.
tŕň - no Myslím si, že ľudia majú iba dve možnosti: Buď naďalej rezignujú na skutočnosť, že okrem všetkých skvelých vecí, ktoré môžu robiť, sú to aj obmedzené nedostatky: niekedy smutné, niekedy choré a nakoniec smrť. Alebo chce toto všetko nadobro nechať a byť navždy fit, vždy v dobrej nálade a nakoniec nesmrteľný. Náš náhodný, humanisticky tvarovaný obraz človeka by bol na konci. Mám podozrenie, že v Silicon Valley by som si vyslúžil posmešný smiech, keby som tam povedal, že ďalšiu optimalizáciu ľudí v strojovom štýle považujem za koniec našej autonómie a dôstojnosti. Najodvážnejší tam snívajú o tom, že nahrajú svoje mozgy do cloudu, kde sa môžu spojiť so svetovými poznatkami: úplné rozpustenie hraníc. V mojom jazyku: koniec osobnosti, charakteru, jednotlivca.
Rojas - Všetko sú to fantázie, všetko sú nezmysly.
tŕň - Upokojuje ma, keď to hovoríte.
Ako bežný čitateľ, ako viem, že je to nezmysel?
Rojas - Je ťažké to zistiť. Ray Kurzweil, strojca transhumanizmu, pred desiatkami rokov tvrdil, že ľudí nahradia stroje, že v určitom okamihu bude existovať iba strojová inteligencia. Hovorí, že do roku 2030 budú mať počítače toľko tranzistorov, koľko ľudí bude mať neuróny, takže stroje budú automaticky inteligentnejšie. To je nezmysel a je to trúfalosť. Znovu a znovu si všimneme, ako ďaleko sme ešte od pochopenia mozgu a poznania. Každý, kto verí, že stroje môžu byť presne také ako ľudia, nedokáže rozpoznať, že sme telo a myseľ.
tŕň - Kurzweil je taký dôsledný, že telo je nepríjemným doplnkom mysle.
Rojas - Keby dokázal všetky svoje informácie uložiť na pevný disk, rýchlo by zistil, že bez tela by na tom nebol rovnako.
tŕň - Ako som už povedal: Dúfam, že máte pravdu a „jedinečnosť“, o ktorej sníva Kurzweil, nikdy nebude existovať. Stále si nemyslím, že by človek mal pokrčiť všetky trans- a posthumanistické vízie ...
Rojas - Ale. (smiech)
tŕň - ... pretože nás konfrontujú s bodom miznutia našich technologických dejín civilizácie. Nútia nás položiť si otázku: Naozaj chceme radikálne ukončiť cestu, ktorú sme si vybrali?
Rojas - Stavať robotov je ako kúzelník a ľudia sú oklamaní. Príklad: ak necháte malých robotov náhodne tlačiť kocky, v určitom okamihu sa uprostred arény vytvorí hromada. Je to náhoda, ale ľudia si myslia: Aha! Roboti spoločne stavajú vežu. Si inteligentný!
tŕň - Nie je to preto, že ľudia vždy snívali o stvorení bytostí, ktoré nekonečne prekonávajú - čo sa týka zdravia, dlhovekosti, krásy, sily, inteligencie? Pygmalion a ideálna žena, židovská mytológia a Golem, Nietzsche a nadčlovek. Preto sa tomuto nadšeniu nedivím. Ale zdieľam vaše hodnotenie, že aspoň v tejto chvíli stále máme do činenia s pomerne lacnou stánkovou mágiou. Druhý deň som bol na recepcii, keď okolo prechádzal malý biely robot, zdravil sa s hosťami a bol schopný - väčšinou - povedať, či je to muž alebo žena. Ak si myslel, že vidí dámu, bola tam ruža.
Rojas - Toto je populárne hlúpanie. Viem, aký je súčasný stav techniky. Všetci varíme iba na vode. Ľudia, ktorí stavajú týchto robotov, sa správajú ako robot, ktorému veľa rozumejú. Namiesto toho, aby vysvetľovali limity a problémy technológie, prehnane preháňajú, aby získali investorov alebo nové peniaze na výskum.
tŕň - Veríte tomu, že tieto umelé inteligencie môžu jedného dňa vyvinúť niečo ako emócie?
Rojas - Č. To je absolútne nemysliteľné. Pracujem na tom už 35 rokov. Existujú určité skromné zručnosti, ktoré sa snažíme naučiť počítače. Ale: rozpoznávanie reči stále nie je skvelé. Existuje niekoľko užitočných vecí, ako napríklad rozpoznávanie tváre na letisku alebo prekladové systémy. Posledné fungujú, pretože v súčasnosti je online toľko kníh v nemčine a angličtine, že počítač sa môže automaticky naučiť korešpondenciu medzi týmito dvoma jazykmi.
Toto sa nazýva hlboké učenie - ľudia trénujú programy s veľkým objemom údajov.
Rojas - Áno. Funguje to však iba do istej miery. Ukazujem počítaču milióny obrázkov mačiek. Potom v určitom okamihu bude vedieť, čo je to mačka. Ale keď sa ho spýtam prečo? Nevie to vysvetliť.
Odkiaľ pochádzajú tieto údaje?
Rojas - Od nás všetkých.
tŕň - Každý deň.
Rojas - Ak nahráte obrázky na Instagram, dáta skončia na Facebooku. To im umožňuje zdokonaliť svoje programy rozpoznávania tváre. Alebo programy na rozpoznávanie mačiek. Tieto údaje generujeme - dobrovoľne a bezplatne pre Google a Facebook.
Google AI nedávno nazval černochov gorily. Ďalšia AI spájala kuchyňu a ženy. Systémy sa neučí hodnotovo neutrálnym spôsobom?
Rojas - Č. S hlbokým učením existujú iba vzorce. A z toho vyplýva rozhodnutie. Ak má byť žena videná v 90 percentách kuchynských reklám, potom je zrejmé, odkiaľ to pochádza. Veľké dáta obsahujú všetky naše hodnoty, rozpory a predsudky.
tŕň - Počul som, že jeden z týchto takzvaných autonómnych systémov vo vojenskom sektore, ktorý rozpoznal tanky, náhle zlyhal. Nikto nevedel prečo. Potom sa zistilo, že väčšina obrázkov použitých na trénovanie systému ukazovala tanky pod modrou oblohou. Teraz bola obloha zatiahnutá a systém stratený.
Rojas - Bohužiaľ je to rozprávka, takýto systém nebol nikdy použitý. Vážnym príkladom je nehoda spoločnosti Tesla, pretože išlo o skutočný komerčný systém. Potom diaľnicu zablokoval biely nákladný automobil. Kamera automobilu nedokázala rozlíšiť mraky na oblohe od nákladného vozidla; nebrzdila.
tŕň - Nič nemôže nahradiť ľudský úsudok. Ľudia sú schopní zvážiť a dospieť k súdu, argumentovať a odôvodniť svoje rozhodnutie. Môže to byť jeden z rozdielov medzi umelou inteligenciou a nami?
Rojas - Áno. V skutočnosti stroje nemajú hlboký úsudok. Predovšetkým nemajú intuíciu, žiadny takt.
tŕň - Je toho zapojených oveľa viac: Umelé inteligencie nemajú pocity hanby ani viny, nemajú zľutovanie, nemajú svedomie. Otázka, ktorá sa vo vašej oblasti výskumu často kladie, je: Kto je zodpovedný za to, ak sa auto šoférujúce auto rozhodne v neistej situácii, že namiesto matky a dieťaťa prejde okolo dôchodcovského páru? Nemali by sme sa naozaj musieť pýtať, čo to znamená, keď sú čoskoro na našich cestách státisíce vozidiel, ktorým je úplne jedno, či po niekom prejdú?
Rojas - Stále počúvam túto otázku: Kto je zodpovedný? Samozrejme ľudia, ktorí systém vytvárajú! Navrhujem, aby ste pracovali tak dobre vopred, že k takýmto situáciám vôbec nemôže dôjsť. Minimálna vzdialenosť, znížená rýchlosť, ľahké stavebné materiály - ak vezmeme do úvahy toto všetko, môžeme vytvoriť systémy vozidiel, ktoré nespôsobia vážne kolízie a budú v konečnom dôsledku bezpečnejšie ako dnešné automobily.
Malo by byť AI regulované medzinárodne?
tŕň - Ľudstvo založilo Medzinárodnú agentúru pre atómovú energiu, keď si uvedomili, akú nebezpečnú a potenciálne pre zem ohrozujúcu moc rozpútali jadrovou energiou. Pravdepodobne je čas zamyslieť sa nad tým, či nepotrebujeme porovnateľné zariadenie na dohľad nad vývojom a používaním AI.
Rojas - Vždy som za reguláciu, napríklad genetického inžinierstva a zbraní. Len v tomto špeciálnom prípade okamžite nevidím, ako je možné regulovať inteligentné algoritmy. Musíte si to dobre premyslieť - riešenie nie je práve triviálne.
A naozaj sa nemusíme báť, pán Rojas, že roboty budú jedného dňa inteligentnejšie ako ľudia, alebo sa jedného dňa od nás emancipujú.?
Rojas - V tomto storočí určite nie! Všeobecne si nemyslím, že nás robot v určitom okamihu prevezme. Konrad Zuse, prvý výrobca počítačov v Nemecku, raz povedal: Ak sú počítače príliš drzé, vytiahnite zástrčku.
Rozhovor sa prvýkrát objavil v časopise „Chrismon“.
Moderovanie: Mareike Fallet a Michael Güthlein, chrismon 12/2017, www.chrismon.de
Tento text je publikovaný pod licenciou Creative Commons „CC BY-NC-ND 3.0 DE - uvedenie zdroja - nekomerčný - žiadne odvodené diela 3.0 Nemecko“. Autori: Thea Dorn, Rául Rojas pre snímku Z politiky a súčasných dejín/bpb.de
Zdieľanie textu je povolené povolením názvu licencie CC BY-NC-ND 3.0 DE a autorov.
Informácie o autorských právach na obrázky/grafiku/videá nájdete priamo k obrázkom.
Thea Dorn, Rául Rojas
Thea Dorn
je spisovateľka a filozofka. Jej román „Die Unglückseligen“ (Knaus) pojednáva o zrušení úmrtnosti. Téma umelej inteligencie sa jej týka: Na tohtoročnom výročnom zasadaní Nemeckej etickej rady k téme „Autonómne systémy“ skúmala otázku, ako tieto stroje menia náš sebaobraz.
Rául Rojas
je matematik a profesor informatiky na Slobodnej univerzite v Berlíne. Vedie Dahlemovo centrum pre strojové učenie a robotiku a stal sa známym vďaka robotom hrajúcim futbal, s ktorými on a jeho tím vyhrali mnoho majstrovských súťaží. V súčasnosti pracuje na autonómnych vozidlách, prototyp sa volá „AutoNOMOS“. Jeho vtedajšia dizertačná práca mala úplne inú tému: Karl Marx.