Autonómne stroje v medicíne Príležitosti a etické limity
Richter-Kuhlmann, Eva
Autonómne systémy majú pre spoločnosť značný potenciál. Nemecká etická rada na svojom výročnom zasadnutí diskutovala o tom, ako to môže spoločnosť zodpovedne využívať pri zachovaní etických noriem pri rozhodovaní.
Inteligentné stroje nemôžu nahradiť ľudský kontakt. Dohodli sa na tom lekári a prírodovedci, etici, filozofi a teológovia na výročnom zasadaní Nemeckej etickej rady na tému „Autonómne systémy“ 21. júna v Berlíne. Jedno je však tiež isté: prototypy inteligentných strojov sú už schopné prevziať úlohy starostlivosti a motivovať starých a kognitívne postihnutých ľudí k rehabilitačným opatreniam. Pri výrobe môžu kolaboratívni roboti zbaviť ľudí ťažkých fyzických aktivít. V takzvaných inteligentných domoch by asistenčné systémy mohli podporovať rehabilitáciu po pobytoch v nemocnici a varovať susedov, priateľov alebo lekárov v prípade nezrovnalostí - napríklad pri páde. Komplexné snímače, algoritmy samoučenia a rozsiahle sieťové možnosti umožňujú systémom rýchlo reagovať na svoje prostredie pri porovnávaní rôznych údajov.
Vzhľadom na tieto možnosti predseda Nemeckej etickej rady prof. Dr. teol. Peter Dabrock za aktívnu diskusiu o autonómnych strojoch. „Je na nás ako spoločnosti, či pomôžeme pri formovaní tejto priemyselnej revolúcie alebo ju prenecháme iným,“ uviedol na úvod konferencie, pre ktorú si rada zámerne vybrala podtitul „Ako nás inteligentné stroje menia“, informoval. Pretože sa to stane, je takmer konsenzus.
Predseda rady okrem príležitostí upozornil aj na možné nebezpečenstvá a etické limity: „Môžeme zostať v mori našich dátových tokov rozhodní sami alebo narazíme - viac intoxikovaní ako pri vedomí - do pasce nezrelosti pre úplnú radosť z miniatúrnych zlepšení v našom každodennom živote?“ on. Pretože sa autonómne systémy používajú v mnohých rôznych životných situáciách, nemalo by sa o nich diskutovať eticky izolovane, zdôraznil profesor Dr. rer. nat. Henning Kagermann, prezident acatech - Nemeckej akadémie vied a techniky. Všade sú potrebné právne a etické pravidlá a bezpečnostné normy. Preto „je nevyhnutný skorý a dlhodobý sociálny dialóg, pri ktorom sa príležitosti a riziká sprehľadnia a vzájomne porovnajú,“ uviedol Kagermann. Potom sú šance otvorené systémami veľké. Vo všeobecnosti však platí toto: „Autonómne systémy môžu ľudí podporovať a dopĺňať ich zručnosti, ale nie ich nahrádzať,“ zdôraznil fyzik. „Potrebujeme ľudskú bytosť ako posledný dozorný orgán.“
Autonómne systémy by mohli zlepšiť účasť ľudí počas celého ich životného cyklu, uviedol profesor Dr. rer. pól. Christoph M. Schmidt z RWI - Leibnizov inštitút pre ekonomický výskum a predseda odbornej rady pre hodnotenie celkového ekonomického rozvoja. Zároveň však potrebujeme nové regulačné prístupy, ktoré sa zameriavajú na schopnosť individuálne sa zúčastňovať a chrániť pred ochranou zo strany štátu.
Limity autonómnych systémov zohrávajú hlavnú úlohu, najmä v medicíne. Účastníci výročnej konferencie preto konkrétne diskutovali o možnom použití autonómnych strojov a ošetrovacích robotov: „Automatizácia bežných činností v medicíne bude postupovať pomaly, ale čoraz viac,“ hovorí profesor Dr. med. Dr.-Ing. Steffen Leonhardt, lekársky informačný technik z Aachenskej univerzity, presvedčil. Z hľadiska demografického vývoja v Nemecku sú asistenčné funkcie v použitých zariadeniach nevyhnutné.
Toto by sa v zásade nemalo odmietnuť, uviedol Dr.-Ing. Birgit Graf z Fraunhoferovho inštitútu pre výrobnú techniku a automatizáciu, Stuttgart. „Servisné roboty ponúkajú potenciál na zlepšenie fungovania opatrovateľských pomôcok z hľadiska efektívneho a ergonomického použitia, a tým uľahčenia práce ošetrovateľského personálu,“ hovorí. To pomáha zvyšovať atraktivitu starostlivosti ako profesie. Inteligentné stroje by mohli znížiť množstvo práce, ktorá sa nestará o starostlivosť, a ponechať tak viac času ľudstvu.
V žiadnom prípade by však použitie autonómnych strojov nemohlo znížiť kvalifikačné požiadavky na zdravotnícky personál, hovorí profesor Dr. phil. Adelheid Kuhlmey z Inštitútu pre lekársku sociológiu a rehabilitačné vedy na Charite Berlin a člen Nemeckej etickej rady. Je to naopak, povedala Nemke Drzteblattovej. Neveríte, že v budúcnosti už nebudú dôverovať odborným znalostiam lekárov a sestier. "V budúcnosti zostanete tým, kto dokáže čítať a klasifikovať nálezy - vrátane nálezov z automatizovaných strojov," uviedla. Napriek tomu stroj mohol zmeniť vzťah medzi pomocníkom a pacientom. Proces sa začal schopnosťou získať zdravotné informácie na internete.
Na výročnom zasadnutí etickej rady sa hovorilo aj o tom, či nové autonómne systémy nielenže používateľov zbavia nudných, náročných alebo nebezpečných úloh, ale budú tiež schopní prijímať „správne“ rozhodnutia. Počítačový vedec Prof. Dr. rer. nat. Katharina Anna Zweig z Technickej univerzity v Kaiserslauterne to vidí v ďalekej budúcnosti. Sťažovala sa na pochybnú kvalitu rozhodovacích systémov založených na algoritmoch a požadovala zabezpečenie kvality. Ďalej je potrebné spoločensky prediskutovať, ktoré sociálne procesy sú skutočne vhodné pre algoritmické rozhodovacie systémy a ako by sa mali optimalizovať.
Existujú aj zákonné limity: Prof. Dr. por. Christiane Wendehorst z viedenskej univerzity jasne uviedla, že podľa súčasného zákona nemajú stroje právnu subjektivitu, aj keď sú vybavené pokrokovou umelou inteligenciou. „Algoritmizácia eticky opodstatnených rozhodnutí autonómnych systémov podlieha prísnym limitom,“ zdôraznil prof. Dr. phil. Julian Nida-Rьmelin z LMU Mníchov. Autonómne systémy nemohli prevziať zodpovednosť, pretože koncept zodpovednosti je spojený s intencionalitou a osobnosťou, to znamená so schopnosťami, ktoré majú iba ľudia. „Roboti sú čisté nástroje, ktoré by sa nemali personalizovať.“ Filozof tiež poukázal na existenciu situácií dilemy. Vyžadujú sa individuálne rozhodnutia, ktoré systém nemôže prijať. Celkovo je však Nida-Rьmelin ohľadom zavedenia autonómnych systémov do každodenného života optimistický, ale iba „ak vývoj neberie svoj vlastný život a nebude sprevádzaný politicky, kultúrne a sociálne“.
DR. med. Eva Richter-Kuhlmann
Prof. Dr. phil. Adelheid Kuhlmey, člen Nemeckej etickej rady
Urobia lekárske stroje a ošetrovacie roboty staršiu spoločnosť lepšie ako náš súčasný zdravotný systém?
Kuhlmey: Je pozoruhodné, že demografické zmeny sa stali hlavným argumentom pre zavedenie autonómnej technológie do systému zdravotníctva. Na jednej strane je to zrejmé: správna technológia by mohla prispieť k zmierneniu starostlivosti o čoraz väčší počet veľmi starých ľudí, ktorí starostlivosť potrebujú. Na druhej strane, medicína a ošetrovateľstvo znamenajú pre rôznych ľudí veľmi zložité zdravotné problémy. Používanie ďalších technológií ešte musí dokázať, že stroj reaguje rovnako pružne ako lekár alebo zdravotná sestra. Nikto dnes nevie s istotou povedať, ako dôkazy dopadnú.
Do akej hranice je možné ľudský faktor nahradiť robotmi?
Kuhlmey: Podľa môjho názoru sa ľudia nedajú nahradiť. Ale stroje by mohli pomôcť ľuďom v medicíne a starostlivosti. Obrazne som stanovil hranicu pri predstavovaní si plne automatizovaného ošetrovateľského domu. Musíme si uvedomiť, že použitie mnohých technológií mení vzťah medzi pomocníkom (lekárom/zdravotnou sestrou) a pacientom.
Ako je možné zachovať etické normy?
Kuhlmey: Tým, že nikdy nestratíte zo zreteľa skutočný cieľ: Stroje by mali podporovať životy ľudí. Ak to neurobia, mali by sme konať autonómne a nedovoliť týmto strojom.