Potrebujeme morálny kódex pre robotov

Dnes žijeme v dobe zrýchleného technologického pokroku, v ktorom sa realita rýchlo blíži závratne k Asimovovej vízii. Roboty sú čoraz viac súčasťou nášho života, čoraz inteligentnejšie, čoraz autonómnejšie, čoraz viac schopné samy iniciovať akcie, „premýšľať hlavou“ - aj keď je táto „hlava“ procesorom - ísť nad rámec uložených podmienok. ľudskej kontroly. Za týchto podmienok môže robot urobiť veľa dobrého a rovnako ublížiť. Tu už sme v situácii, keď vypracúvame morálny kódex našich robotov, systém zákonov podobný tomu, ktorý si myslel Asimov. Jeho vízia sa stala skutočnosťou, budúcnosť už je tu. Je však tento morálny kódex taký ľahký?

Zákony robotov a ich interpretácie

Tisíce projektov sú v súčasnosti zamerané na stavbu strojov, ktoré sú schopné nielen sa pohybovať, komunikovať, plniť úlohy presne stanovené ľuďmi, ale podľa podmienok aj rozhodovať o výbere vlastných riešení.; inými slovami, byť autonómia. A pod strojmi alebo robotmi nemáme na mysli iba humanoidné roboty (ktoré však v dnešnom svete robotov predstavujú menšinu), ale aj mnoho vojenských a úžitkových robotov všetkých tvarov a veľkostí, ako aj počítačové systémy, ktoré zabezpečujú autonómnu činnosť týchto robotov. rozmanitejšie kompozície, ktoré budú v budúcnosti hrať obrovskú úlohu a budú integrované do tisícov systémov, od dronov po zariadenia používané v stavebníctve, od domácich spotrebičov po ponorky, od automobilov bez vodičov po chirurgické miniroboty. Inými slovami - akýkoľvek systém, ktorý „myslí“ pomocou procesorov, pričom je vybavený takzvanou umelou inteligenciou.

Konečným cieľom výskumu v oblasti umelej inteligencie je vytvoriť stroje, ktoré sú čo najbližšie k ľuďom, čo sa týka kognitívnych a rozhodovacích schopností. Vedci snívajú o automatických systémoch, ktoré rovnako ako človek dokážu rýchlo vyhodnotiť situáciu, vybaviť si predtým nahromadené vedomosti, prejsť všetkým cez sito morálnych pravidiel a integrujúc všetky tieto aspekty prijímať rozhodnutia, podľa ktorých budú konať. . Znie to jednoducho. Ale nie je.

Asimovovi roboti museli dodržiavať tri zákony, veľký a široký, všetky však vychádzali zo zákazu ublížiť človeku.

Robot nesmie ublížiť človeku alebo nedovoleným činom nesmie spôsobiť zranenie človeka.
Robot sa musí riadiť príkazmi vydanými ľuďmi, pokiaľ tieto príkazy nie sú v rozpore s Prvým zákonom.
Robot sa musí chrániť, pokiaľ takáto ochrana nie je v rozpore s prvým a druhým zákonom.

Článok, ktorý bol nedávno publikovaný v časopise The Economist, však upriamil pozornosť na niektoré scenáre - nateraz hypotetické -, v ktorých by sa poslušný a vzdelaný „robot“, vedomý si dôležitosti týchto troch zákonov a odhodlaný ich dodržiavať, dostal do mimoriadne zložitých situácií. . Čo by malo robiť napríklad auto bez vodiča, keď hrozí nebezpečenstvo nárazu do chodcov: prudké odbočenie, aby sa im zabránilo, riziko zranenia cestujúcich a nárazu do iných automobilov? Alebo dron, ktorý musí strieľať na budovu, kde sa ukrýva terorista, čo má robiť? Budovu za každú cenu zničiť, aby sa dosiahol jej cieľ, aj keď to znamená zabitie nevinných civilistov, ktorí sú v tej istej budove.?

Samotný Asimov si v niektorých poviedkach napísaných počas celého svojho života po publikácii Obehu v skutočnosti predstavoval scenáre, v ktorých roboti porušili jeden alebo druhý zákon alebo o tom aspoň snívali., čo naznačuje, že žiadny súbor pevných pravidiel nemôže úplne pokryť všetky možné situácie. Čo dokazuje, že veci nikdy nie sú také jednoduché ako na papieri.

Napriek skutočnosti, že zákony robotov boli formulované pred 7 desaťročiami, problém morálneho kódexu začal byť akútny až v posledných rokoch, keď búrlivý vývoj systémov vybavených umelou inteligenciou prinútil ľudí uvedomiť si to, s úspechmi sa objaví znepokojujúca stránka: to, ako sa budú tieto výtvory správať - takmer stvorenia - keď sa stanú autonómnymi, ako chcú ich tvorcovia. Hovoríme teda o veľmi nedávnom fenoméne. Dôkazom je, že komplexná práca na túto tému je nedávna:

V roku 2009 publikoval Oxford University Press Moral Machines: Teaching Robots Right from Wrong (autori: Wendell Wallach a Colin Allen), komplexnú syntézu výziev budovania AMA a cituje približne 450 bibliografických zdrojov, z ktorých veľká väčšina pochádza z roku 21. storočia.
V roku 2011 vydala Cambridge University Press zbierku esejí o etike umelých systémov (Machine Ethics; autori: Michael Anderson a Susan Leigh Anderson)
Aj v roku 2011 vložili Nick Bostrom a Eliezer Yudkowsky do dokumentu Cambridge Handbook of Artificial Intelligence článok s názvom Etika umelej inteligencie.

A tak veľká väčšina kníh a článkov, ako aj populárnych článkov publikovaných v rôznych publikáciách, pochádza iba z niekoľkých rokov, čo, zdá sa, naznačuje, že problém sa stal akútnym. Tento fenomén nepochybne súvisí so skutočnosťou, že za posledných pár rokov sa roboty a všeobecne systémy vybavené umelou inteligenciou skutočne stali schopnými mnohých rôznych činov a rozhodnutí, čo striktne nastoľuje problém morálna výchova týchto skladieb.

Pred našimi očami sa objavuje nový typ tvorov: už sa hovorí o zvláštnej kategórii „bytostí“, takzvaných umelých morálnych agentoch (AMA), systémoch vybavených umelou inteligenciou, ktoré však budú (a budú) nevyhnutné rozhoduje nielen podľa objektívnych podmienok, ale aj v súlade s morálkou, ktorú im „dajú do hláv“ tí, ktorí ich navrhli a postavili.

Experimenty, názory, vízie

Tu je niekoľko nedávnych štúdií, ktoré ilustrujú nesmierny význam tohto aspektu technológie, ako aj názory niektorých odborníkov na túto zložitú otázku:

V roku 2008 expert na umelú inteligenciu Noel Sharkey z University of Sheffield vo Veľkej Británii upozornil na skutočnosť, že roboty postavené tak, aby bavili deti a starali sa o starších ľudí, by mali byť podrobené etickej prísnosti.

Aká je však pravdepodobnosť vývoja robotov, že bude potrebné vybaviť ich morálnym kódexom? Článok v odbore Popular Science prináša na scénu zvláštny charakter ležiaceho robota, nie postava fantastickej literatúry, ale skutočný. Jedná sa o experiment uskutočnený výskumníkmi v laboratóriu inteligentných systémov na Federálnej polytechnickej škole vo švajčiarskom Lausanne, experiment zameraný na evolučné možnosti robotov, ich schopnosť učiť sa a spolupracovať pri hľadaní určitého zdroja (užitočný materiál ) a vyhýbajte sa zdrojom škodlivého materiálu.

Experiment zahŕňal 1 000 robotov rozdelených do skupín po desiatich. Každý robot bol vybavený snímačom, signalizačným systémom (modré svetlo) a „genómom“ - binárnym kódom, ktorý riadi, ako robot reaguje na podnety. Roboty prvej generácie boli naprogramované tak, aby rozsvietili svoje modré svetlo, keď objavili užitočný zdroj, čo pomohlo iným robotom ho nájsť.

200 najlepších robotov, ktorým sa podarilo najrýchlejšie nájsť najlepší dobrý zdroj, tvorilo základ pre ďalšiu generáciu. Ich „genómy“ boli skombinované a výsledok bol použitý na programovanie novej generácie robotov.
Po 9 generáciách sa roboty stali mimoriadne efektívnymi pri hľadaní zdrojov a komunikácii s inými robotmi, aby ich nasmerovali k zdrojom. Ale ak robot našiel zdroj, signalizoval, že ho našiel a všetci ostatní sa tam hromadia, aby ho mohli použiť, znamenalo to, že na toho, kto ho našiel, zostáva menej, nie? Neuveriteľné, ale pravdivé: toto si „mysleli“ niektorí z robotov v experimente. A nielenže problému porozumeli, ale aj našli riešenie.
Po 500 generáciách sa 60% robotov naučilo klamať: nezapálili si žiarovky, keď našli zdroj, ktorý hľadali; čím našli (iba) svoje! Ale bolo to ešte hlasnejšie, keď si ostatní roboti všimli, že ich klamári predstierajú, nechávajú zhasnuté svetlo a začali hľadať tých bez žiarovky, uvedomujúc si, že je pravdepodobnejšie, že našli to, čo sa má nájsť. . Inými slovami, robili presný opak toho, čo mali v pláne!

Roboti sa teda môžu naučiť klamať. A ak si klamú navzájom, nemohli by jedného dňa klamať aj nám? A ak by nám mali klamať, čo by mohlo zabrániť niektorým z nich, aby si počínali ešte horšie (z nášho pohľadu)? Niektoré z nich by nám mohli ľahko fyzicky ublížiť; obdarený zbraňami (ktovie, či by si ich nedokázali sami postaviť?) by nás mohol dokonca zabiť. Znie to ako paranoidné delírium? Možno. Ale ak veľké neinteligentné priemyselné stroje predstavujú skutočné nebezpečenstvo pre ľudí, ak sa s nimi zaobchádza bez náležitej starostlivosti, dopad AMA bez morálnych bŕzd, ktoré umožňujú ľudstvu žiť svoje životy v relatívnom nebezpečenstve, môže byť o to nebezpečnejší. bezpečnosť.

Samozrejme, extrémny scenár, ale tu, viac ako polstoročie po tejto interpretácii, už máme problém s vývojom umelých inteligentných systémov, s hranicami tejto evolúcie, ako by sme ich mohli vybaviť lekciami potrebnými pre harmonické spolužitie. s človekom, ich tvorcom, keď hranica medzi ľudskými kognitívnymi schopnosťami a schopnosťami WADA úplne poklesne alebo zmizne.

Ako ich naučíme rozlišovať zlo od dobra? Ako ich chrániť pred zlami, ktoré nás prenasledujú a často unikajú zovretiu morálnych obmedzení a spôsobujú toľko škody okoliu: sebectvo, chamtivosť, túžba po moci?

Zatiaľ ich ovládame a možnosť, že by ich ovládli, sa javí ako utópia. Skutočnosť, že ľudia, ktorí pracujú s týmito systémami na dennej báze (a dobre vedia, čo môžu a nemôžu robiť), sa zaoberajú otázkou etiky svojho fungovania, ukazuje, že čas, keď budeme musieť nájsť morálny základ pre koexistenciu, nie je pokiaľ som si myslel.