Nový produkt spoločnosti Google naberá hrôzostrašné vlastnosti - Business Insider
Nový produkt spoločnosti Google naberá desivé vlastnosti a môže ohroziť ľudstvo
Minulý rok vydal slávny fyzik Stephan Hawking varovanie týkajúce sa vývoja umelej inteligencie s tým, že buď „bude to najlepšie alebo najhoršie, čo sa ľudstvu kedy stalo“.
Všetci sme videli film „Terminátor“ a žasli sme nad apokalyptickou nočnou morou, ktorú umelá inteligencia Skynet rozpútala na ľudstvo. Posledné testovanie správania systému AI DeepMind spoločnosti Google ukazuje, ako veľmi musíme byť pri vytváraní robotov budúcnosti opatrní.
V testoch vykonaných koncom roka 2016 demonštrovala technológia DeepMind AI spoločnosti Google schopnosť samostatne sa učiť a pristupovať k dátam z pamäte - čím porazila najlepšieho hráča Go vo svojej vlastnej hre.
Odvtedy sa snaží zistiť, ako presne napodobniť ľudský hlas.
Teraz vedci testovali, či je AI ochotná spolupracovať s ostatnými, a zistili, že DeepMind je zlý porazený. Keď je AI na spadnutie, používa „vysoko agresívne“ stratégie, aby sa ubezpečila, že aj tak vyhrá.
Tím Google odštartoval 40 miliónov kôl jednoduchej hry „zberateľ ovocia“, v ktorej proti sebe súperili dvaja hráči DeepMind, aby zhromaždili čo najviac virtuálnych jabĺk.
Hru zberateľov si môžete pozrieť vo videu. Hráči DeepMind sú červení a modrí, jablká zelené a laserové lúče žlté:
Je zaujímavé, že úspešné označenie súpera laserovým lúčom nie je odmenené osobitne. Vyradí súpera z hry iba na krátke obdobie, čo dáva úspešnému hráčovi príležitosť nazbierať viac jabĺk.
Ak by oponenti nepoužili laserové lúče, mohli by teoreticky prestať s rovnakým počtom jabĺk, na čo sa zameriavajú menej zložité procesy DeepMindu.
Až keď Google testoval zložitejšie formy DeepMindu, začala sa objavovať sabotáž, chamtivosť a agresia.
Rhett Jones povedal Gizmondovi, že vedci videli vyššiu pravdepodobnosť mierového spolužitia ako hráči s malými sieťami DeepMind.
Keď však ako hráči používali väčšie a zložitejšie siete, umelá inteligencia bola ochotnejšia skôr sabotovať súpera, aby získala leví podiel na virtuálnych jablkách.
Vedci tvrdia, že čím je herec inteligentnejší, tým je ochotnejší učiť sa od svojho okolia a tiež používať agresívne stratégie, aby vyhral.
„Model ukazuje, že niektoré aspekty ľudského správania vznikajú pri učení sa z prostredia,“ uviedol Joel Z Leibo Matt Burgess z agentúry Wired.
„Menej agresívne prístupy vznikajú, keď prostredie neposkytuje toľko príležitostí na úspešné manévre. Motivácia nenásytnosť odráža pokušenie vytiahnuť súpera a zhromaždiť jablká pre seba. ““
DeepMind bol potom testovaný na ďalšej videohre s názvom Wolfpack. Tentoraz boli hráčmi tri umelé inteligencie: dvaja z nich boli vlci a jeden bol korisťou.
Na rozdiel od zberateľskej hry táto hra podporovala spoluprácu. Keď boli obaja vlci blízko koristi a bola zabitá, obaja dostali odmenu, bez ohľadu na to, ktorý z nich korisť urobil.
Vloženie na YouTube:
http://www.youtube.com/embed/0kaIqz6AvwE?rel=0
Šírka: 800px
Výška: 450 pixelov
"Myšlienka je taká, že korisť je nebezpečná." Osamelý vlk ich môže poraziť, ale riskuje stratu jatočného tela pre supy, “vysvetľuje tím vo vysvetlení.
"Ak títo dvaja vlci chytia korisť spoločne, potom môžu chrániť jatočné telo pred supmi, a preto získať vyššiu odmenu."
DeepMind sa zo zberateľskej hry dozvedel, že sebectvo a agresivita môžu priniesť čo najväčší zisk. Na „Wolfpack“ sa dozvedela, že spolupráca môže byť kľúčom k väčšiemu individuálnemu úspechu, aspoň v niektorých situáciách.
Aj keď sú to len malé počítačové hry, vhľad do nich je jasný: Ak prinesiete rôzne umelé inteligencie s konkurenčnými záujmami v situáciách v reálnom čase, mohlo by to viesť k otvorenej vojne, ak záujmy AI nie sú prvoradým cieľom, ľudskou bytosťou. slúžiť je konzistentné.
Pamätajte, že svetlá môžu spomaliť a autá bez vodičov môžu nájsť najkratšiu cestu. Aby sme to dosiahli, musia sa brať do úvahy ciele oboch, aby sa dosiahol najbezpečnejší a najefektívnejší výsledok pre spoločnosť.
Stále sme na začiatku DeepMind a tím spoločnosti Google musí ešte vykonať peer review, ale počiatočné výsledky ukazujú, že roboti nie vždy automaticky sledujú naše záujmy len preto, že ich vytvárame.
Namiesto toho musíme do našich strojov implementovať nápomocnú povahu a predvídať medzery, aby sme im zabránili uchýliť sa k laserovým zbraniam.
Ako zakladatelia OpenAI, nový výskumný tím od Elona Muska venujúci sa etike umelej inteligencie, v roku 2015 uviedol:
„Umelá inteligencia má v dnešnej dobe pôsobivé, ale obmedzené schopnosti. Zdá sa, že obmedzujeme ich obmedzenia a v určitom okamihu, v extrémnych prípadoch, prejavia ľudské správanie prakticky pri akejkoľvek intelektuálnej úlohe. ““
„Je ťažké predpovedať, akú úroveň môže spoločnosť umelej inteligencie využívať, a rovnako ťažké je si predstaviť, ako veľmi by to mohlo spoločnosti ublížiť, ak bude zostrojená alebo nesprávne použitá.“
My ľudia by sme mali byť opatrní ...