Dogfight v simulátore; 5 0 pre stroj; Oči priamo vpred!

Stroj 5: 0 ľudí. K tomu došlo tento týždeň v súťaži AlphaDogfight, ktorú organizovala Agentúra pre výskum pokročilých obranných výskumov (DARPA), agentúra pre výskum americkej armády. Dogfight označuje súboj na blízko medzi dvoma bojovými lietadlami a pri tomto pokuse umelá inteligencia (AI) súperila v simulátore proti ľudskému pilotovi. AI vyhrala vo veľkom. Čo to však znamená?

Frank Sauer, politológ z Univerzity Bundeswehru v Mníchove, sa zaoberá významom umelej inteligencie pre zbraňové systémy - vrátane otázky, ktoré pravidlá by sa mali vzťahovať na smrtiace autonómne zbraňové systémy. Má to priamo pred očami! zapísal svoje pozorovania tohto experimentu, ktorý sa skončil vo štvrtok (včera) vyvrcholením medzi mužom a strojom:

Už v auguste 2019 DARPA vybrala osem tímov z univerzít a priemyslu - od veľkých spoločností ako Lockheed Martin po malé skupiny ako Heron Systems - aby sa zúčastnili programu Air Combat Evolution (ACE). Tento týždeň, od 18. do 20. augusta, softvérové riešenia vyvinuté ôsmimi tímami spočiatku súperili medzi sebou v simulovanom vzdušnom boji a proti softvéru z laboratória aplikovanej fyziky na Univerzite Johns Hopkins určili, kto bude vo finále. ľudskému pilotovi by bolo umožnené merať.

Heron Systems vyšiel víťazne z predbežných bojov a nakoniec súťažil s ľudským stíhacím pilotom „Bangerom“. Sedel v simulátore s okuliarmi pre virtuálnu realitu a nakoniec dostal krátku slamu s 0 až 5.

Zvyčajné vzdušné bojové manévre sú zbytočné, uviedol Banger po 0 až 4 proti stroju. Preto chcel na konci vyskúšať niečo iné. Posledné kolo v skutočnosti trvalo znateľne dlhšie, ale nakoniec softvér Heron mal ľudského nositeľa Bangera pred nosom simulovaného lietadla dostatočne dlho na to, aby duel vyhral.

Ako sa má toto všetko hodnotiť? Najskôr je potrebné poznamenať, že výsledok súťaže nie je nijako prekvapujúci. Už v roku 2016 softvér ALPHA vyvinutý spoločnosťou Psibernetix Inc., ktorý v tom čase bežal na remeselnom počítači Raspberry Pi za 35 dolárov, porazil ľudského pilota pri testoch Výskumného laboratória amerických vzdušných síl. Keby Banger vyhral jedno kolo simulácie proti Heronovi, bola by to senzácia.

Pretože kľúčové slovo je simulácia. Človek a stroj si navzájom konkurovali vo veľmi zjednodušenom prostredí, v ktorom mal stroj k dispozícii úplné informácie. Pre Herona neostávalo nič iné ako optimalizovať energiu, uhol, vzdialenosť a niekoľko ďalších parametrov - ľahké cvičenie pre systém hlbokého učenia posilnenia.

Systém sa nemusel báť straty vedomia počas zákrut letiacich s 9G. Pretože aj tak to nemá. Banger však v tejto súvislosti dokázal využiť aj simulované prostredie. V skutočnosti by ťažko zvládol manévre, ktoré pohodlne zletel zo svojho kresla.

Zmyslom a účelom simulácie ACE preto nie je generovať výsledky, ktoré je možné preniesť do reality. V širšom zmysle sa majú skôr uspokojiť záujmy priemyslu na jednej strane a dôvera amerických ozbrojených síl v umelú inteligenciu na druhej strane.

Stručne povedané: ľudskí piloti by si mali v budúcnosti zvyknúť na myšlienku, že ich budú sprevádzať a podporovať softvérovo riadené bezpilotné systémy. Softvér pre takýto sprievodný systém sa v súčasnosti vyvíja pre stíhacie lietadlo F-35 - ako súčasť programu s názvom „Skyborg“ so všetkou vážnosťou. V rámci hľadania hardvéru okrem iných spoločnosť Kratos s XQ-58A Valkyrie a Boeing s dronom Loyal Wingman. Podobný koncept sa plánuje aj v Európe so systémom Future Combat Air System.

Ofenzíva kúzla AI má teda nielen technické, ale predovšetkým organizačno-politické pozadie. Pretože ani s USA Letectvo, zatiaľ čo je stále v námorníctve, sú piloti obzvlášť nadšení myšlienkou odovzdania riadenia letu - je to vidieť napríklad z programov amerického námorníctva z posledných rokov.

Technologický demonštrátor X-47B z Northrop Grumman úspešne absolvoval vzlety a pristátia na lietadlových lodiach a doplňovanie paliva za letu, avšak nebol, ako mnohí pozorovatelia očakávali, ďalej rozvinutý do bezpilotného bojového vzdušného vozidla s podporou dopravcu, ktoré zvládlo zväčša bez ľudskej kontroly. Namiesto toho teraz Boeing dodáva námorníctvu MQ-25 Stingray, bezpilotný tanker a prieskumnú plošinu. „Skutočné lietanie“ zostáva v ľudských rukách - a dôvody pre toto sú podľa ThinkTanks vo Washingtone a bývalých zamestnancov Pentagónu viac kultúrne ako technické.

Z dlhodobého hľadiska si však AI nájde cestu do kokpitu. Bez ľudí s obmedzenou nosnosťou je možné dosiahnuť vyšší výkon nielen s existujúcimi drakmi lietadla. Možné sú aj úplne nové dizajny a taktiky. Skutočnosť, že ľudia, aj keď sú fyzicky neprítomní, vo väčšine prípadov budú aj naďalej hrať - v pravom slova zmysle - rozhodujúcu úlohu, je tiež na chvíľu nespochybniteľná.

Pretože nedostatok vedomia o softvéri je výhodou aj nevýhodou. Na jednej strane pri 9G nemôže stratiť to, čo nemá. Na druhej strane systémy hlbokého učenia ako Heron and Co. nebudú schopné v dohľadnej budúcnosti kognitívne dosiahnuť to, čo dokáže mysliaci človek. Sú nielen hladní po dátach (chamtiví), ale aj mimoriadne náchylní na chyby pri riešení neznámych situácií (krehké). Ľudia na druhej strane rozumejú súvislostiam, môžu klasifikovať nové situácie a prijímať rázne rozhodnutia aj napriek nedostatku informácií. Takže niet divu, že na ACE sa veľa hovorilo o Manned-Unmanned Teaming ako o skutočnom cieli. Budúcnosť bude teda vyzerať takto: Stroj letí, človek si myslí - a rozhoduje na diaľku.

A ešte jedna poznámka od Missy Cummingsovej, bývalej stíhacej pilotky z USA. Výskumník námorníctva a AI: Dajte mi vedieť, keď AI dokáže natrvalo rozlíšiť medzi bojujúcimi a nebojujúcimi.

Nie je žiadnym prekvapením - súboje psov sú založené mimoriadne na pravidlách, vyhráva ten, kto dokáže najdlhšie lietať na okraji obálky manévrovania. Ľudia nemali šancu. Keď AI v lietadle dokáže neustále rozlišovať medzi bojujúcimi a nebojujúcimi, zavolajte mi https://t.co/d69yUjuFaL https://t.co/rp81Q6NZ5g

(Frank je tiež jedným z mojich spoluhostiteľov na podcaste, aby som bol na bezpečnej strane, veľmi mu ďakujem!)

(Foto: Screenshot z videa o 4:50:30)

23 reakcií na „Letecké súboje v simulátore - 5: 0 pre stroj“

Chcete AI „dôsledne“ alebo s prijateľnou chybovosťou? https://en.wikipedia.org/wiki/190th_Fighter_Squadron,_Blues_and_Royals_friendly_fire_incident times ako príklad ľudskej chyby.

Dôsledne už znamená s prijateľnou chybovosťou. Chyby môžu byť tiež konzistentné. Nehovorí výslovne „bezchybne“.

„„ Skutočné letectvo “zostáva v ľudských rukách - a dôvody pre to majú podľa think-tankov vo Washingtone a bývalých zamestnancov Pentagónu skôr kultúrny ako technický charakter.“ “
Z dôvodu stále vysokej chybovosti AI je to dobrá vec. Mali by ste si však uvedomiť, že toto je momentka.
Pokiaľ ide o otázku kultúrneho alebo technického charakteru, chcel by som len poznamenať, že kormidelníci dronov sa objavujú aj vo vzdušných silách s nárokom na výcvik ako piloti bojaschopní. A služba sa samozrejme musí vykonávať v letovom obleku (neexistuje žiadny iný spôsob ovládania dronu, SARC OFF). Pýtam sa sám seba, koľko núdzových lietadiel budeme v budúcnosti potrebovať, ktoré by sa nikdy nemali používať, ale ktoré sú potrebné na výcvik riadiacich dronov v bojovej pohotovosti.

Drony môžu nielen dosiahnuť vyšší výkon, ale tiež so sebou nesú podstatne menší záťaž (napr. Kokpit, sedadlo, vyhadzovacie sedadlo, kyslík).

Spoľahlivosť navyše nie je nijako zvlášť vysoká. Ak dron spadne, nikoho to neovplyvní.

To znamená, že drony sa dajú vyrábať oveľa lacnejšie, menšie a ľahšie.

Potom jedného dňa proti sebe stoja dve vzdušné sily:
Jeden sa skladá z 1 000 malých, ľahkých a lacných dronov, ktoré vyhrajú 90% bojov vo vzdušných súbojoch, ale jeden modrý, jeden zelený a dva šedé zabíjajú za desať červených zabití. Druhé letectvo pozostáva zo 100 veľkých, ťažkých a drahých klasických lietadiel, ktoré vyhrávajú iba 10% vzdušných bitiek, ale na 1000 misiách majú toľko zlyhaní ako drony na 10.

Na ktorej strane chcem byť, na Schieß-ins-Kraut alebo na Trifftnix?

Hovorme o programovaných algoritmoch alebo skutočnej AI?
Zaujímavé to bude už od 1 proti 1, napríklad pri skóre 4 proti 4.
Keď skúsení piloti analyzujú manévre počítača a uplatňujú svoje vlastné závery v novej taktike, ako na ne potom reaguje počítač alebo aspoň AI.

„Pýtam sa sám seba, koľko núdzových lietadiel budeme v budúcnosti potrebovať, ktoré by sa nikdy nemali používať, ale sú potrebné na bojový výcvik riadiacich dronov.“

@ SB63: Ktoré pohotovostné lietadlá by mali posádky RPAS potrebovať? Relevantné koncepty a nariadenia nemusia 100% definovať budúcu cestu odbornej prípravy, ale cesta k LCR je už opísaná pomerne presne. Jasne sa hovorí aj o samostatnom TCTP a potrebných tréningových krokoch. Ale nikde sa nehovorí o tom, že ani budúce organizácie WSO, ani AVO nevyžadujú ani nekonfiškujú žiadny typ nasadenia.

Missy Cummingsová poukazuje na podstatu veci „extrémne na pravidlách“. Charakter súťaže by sa dal oveľa presnejšie opísať výrazom „šachisti proti šachovým počítačom“. Keď už hovoríme o AI, pôsobí to nesprávnym dojmom.

@Magmakammer
Hovoríme o vývoji softvéru.

To znamená, že Bundestag bude diskutovať ďalších 10 rokov o tom, či je morálne opodstatnené zaviesť tieto systémy (pozri francúzsko-nemecký projekt FCAS), zatiaľ čo iné národy ich budú zavádzať dlho.

Opäť - „bojovníci a nebojovníci“ ... Čo ak sa to stane v urputnom boji so silnými nepriateľmi? Ak dôjde k náletu na mestá? („Hybridná vojna“ a „nebojujúci“ ...) „To nikdy nemôže byť, pretože to tak nemôže byť ...“ Zdá sa, že Izrael to cíti inak a skúma umelú inteligenciu. S pozdravom ...

Existuje tiež riziko presýtenia senzorov a efektorov. A: ak je to potrebné, bezpilotné lietadlo jednoducho zbije nepriateľa, keď sa priblíži.

Prečo je potom sakra AI v leteckých simuláciách vždy taká zlá?;)

Aby ste mali šancu ako ľudský hráč!;-)

Keby bola AI v simuláciách jednoducho naprogramovaná podľa „čistých“ parametrov, zásahy prvého zásahu by padli na maximálny dosah zbrane. Preto musí byť do každej AI zabudované zodpovedajúcim spôsobom „nečisté“ správanie, aby bola zachovaná zábava z hry.

Ako už bolo uvedené vyššie, toto funguje iba v sterilnom prostredí simulátora so 100% známymi a vypočítanými hodnotami a parametrami.

„V skutočnosti by ťažko zvládol manévre, ktoré pohodlne zletel zo svojho kresla.“

Rád by som tomu protirečil. Boje vyzerali ako tie, ktoré pravidelne trénujú piloti.

Je to nová verzia TacAir SOAR alebo naozaj niečo nové?

V súkromí nemajú izraelské letectvo a námorníctvo problémy nie s Iránom, ale s ... Ruskom. Bohužiaľ, nečudujte sa. Musíme predbehnúť tento, priateľský Skynet (v hebrejčine) a „Solomona Sealona“, pre každý prípad ... (zábavný smajlík) S pozdravom ...

Musím sa priznať, že ani po 5 rokoch odbornej činnosti v oblasti strojového učenia (ML) si neviem zvyknúť na pojem „umelá inteligencia (AI)“. V priemysle sa tento pojem používa zriedka alebo sa dokonca považuje za indikátor toho, že dotyčná osoba musí byť manažér, predajca alebo novinár;-)

Najmä pri správach, ktoré dávajú čitateľom pocítiť: „Čoskoro budeme zastaraní“, vždy treba mať na pamäti, čo to vlastne umelá inteligencia (AI) je: menovite nič iné ako matematický vzorec s pevnou sadou parametrov a Váha AI preto nie je schopná reagovať na úplne nové parametre, pretože vzorec tieto parametre jednoducho neobsahuje. AI teda nevie nič o svete mimo priestoru parametrov - ktorým bola kŕmená počas tréningu.

Rovnakým spôsobom má AI tendenciu úplne nepredvídateľne reagovať, ak sú hodnoty dodávané do už známych parametrov, ktoré sa významne líšia od hodnôt pozorovaných počas tréningu (buď prostredníctvom historických údajov alebo prostredníctvom hodnôt v simulovanom tréningovom prostredí) (TW už pripojený výraz „krehký“).

Na rozdiel od strojov sa zvieratá a ľudia evolúciou naučili reagovať na také neznáme situácie heuristikou. Jedným z takýchto heuristov je napríklad reakcia na únik. Tieto heuristiky nie sú vždy efektívne, ale sú robustné. To ukazuje zásadný rozdiel medzi skutočne inteligentným životom a stochastickými strojmi.

Osobne zastávam názor, že nedostatok schopnosti vyrovnať sa s úplne novými alebo neznámymi situáciami dostatočne predvídateľným a robustným spôsobom (bez preškolenia) je tvrdým limitom pre strojové učenie.

Na druhej strane sú súčasné prístupy strojového učenia neočakávane silné, napríklad pokiaľ ide o detekciu rakovinových buniek s nízkou mierou falošne pozitívnych alebo falošne negatívnych výsledkov. Preto úplne nesúhlasím s tweetom Missy Cummingsovej tu: Zacielenie je jednou zo silných stránok ML a jednou zo slabostí ľudí. Posledné menované sa unavujú, boja sa a preukázateľne sa im nedarí robiť objektívne rozhodnutia v stresových situáciách. Na druhej strane, model ML môže (do značnej miery) bez subjektívnych vplyvov na základe všetkých dostupných údajov vypočítať stochastickú pravdepodobnosť (istotu), že terčom je bojovník. Tu môžu vývojári nastaviť vysoký prah spoľahlivosti, ktorý by v prípade pochybností viedol k tomu, že sa stroj obetuje pred bojom s náhodnými ľuďmi. Na druhej strane systémy s posádkou sa musia báť vlastného zničenia a je pravdepodobnejšie, že stlačia spúšť.

V súčasnosti sa dosahuje veľký pokrok v riešení neúplných informácií a dlhodobého plánovania. Pozoruhodným príkladom je tu AlphaStar: model ML, ktorý vyvinula spoločnosť Deepmind a je schopný hrať počítačovú hru StarCraft 2 v reálnom čase a konkurovať najlepším hráčom na svete. Okolnosť, ktorú dlho považovali odborníci dokonca za nemožnú. Pretože hra môže trvať od niekoľkých minút až po viac ako hodinu. Každá predchádzajúca akcia alebo rozhodnutie ovplyvňuje možnosti akcie v neskoršom čase. Ďalej takzvaná „vojnová hmla“ skrýva akcie súpera. Model si teda musí zvoliť stratégiu bez toho, aby vedel, akú stratégiu zvolí súper. Situácia sa vyvíja úplne dynamicky a vyžaduje si zásadnú zmenu stratégie v nepriaznivých situáciách, zatiaľ čo žiadna stratégia ani taktika nie sú jednoznačne lepšie (pretočenie mince).

[Doteraz som toleroval komentáre v anglickom jazyku na blogu v nemčine ... to, čo nie som ochotný tolerovať: Používanie úvodzoviek bez uvedenia zdroja. T.W.]

Oleg, považujem tvoje postrehy za zaujímavé a dobrý príspevok. A ako T.W. napísal, že toleruje anglické príspevky, ale nie je ochotný mať ponuky bez zdroja. Veľmi častý doplnok aj pre nás nemecky hovoriacich ľudí tu ...;-)

Ako často platí, aj tu platí - najlepšia kombinácia Čo hovorí proti tomu, že ľudia ako osoby s rozhodovacími právomocami v lietadle môžu byť podporovaní počítačmi alebo algoritmami. Cesta tam už bola aj tak dlho vedená. Už dlho je možné, aby operácia prebiehala takmer autonómne s ľuďmi výlučne ako supervízor, ktorý v prípade potreby môže stratégiu zmeniť. Automatické vykonanie vzdušných bojových manévrov je iba jedným ďalším krokom.

Na čo by sa nemalo zabudnúť v úplne autonómnom bezpilotnom lietadle, je aspekt prípustnosti.

Teraz som na dôchodku a mám problém s internetom. Ale stále je čas (smajlík)
Ďakujeme za vašu podporu, chodci!

@ Oleg Olkha 19:23
Dôchodcovia a hráči? V žiadnom prípade vás to však neteší! (Usmievavý)

Dajte mi vedieť, kedy (...) osoba (...) môže natrvalo rozlišovať medzi bojujúcimi a nebojujúcimi. Alebo chcete . . .