Spracovanie signálu s neurónovými sieťami typu echo state network - PDF na stiahnutie zadarmo

Spracovanie signálu s neurónovými sieťami typu echo state network podľa imatrikulačného čísla Georga Fette 948955 Diplomová práca z informatiky predložená Fakulte informatiky TU Darmstadt 24. mája Vedúci: Dr. Julian Eggert a Dr. Marc-Oliverößig, HRI-EU Offenbach Recenzent: Prof. Dr. Oskar von Stryk, Simulácie a optimalizácia systémov, TU-Darmstadt

neurónovými

Týmto sa uisťujem, že som prácu napísal samostatne a že som nepoužil iné zdroje a pomôcky, ako sú uvedené. Darmstadt 27. mája 24. Georg Fette

Dakujem dr. Julian Eggert, ktorý trpezlivo nasmeroval moje nečisté matematické vysvetlenia na správnu cestu, ako aj Dr. Mark-Oliver mocný, ktorý ma podporil mnohými návrhmi. Chcel by som sa poďakovať celému personálu spoločnosti Honda-HRI-EU, najmä Volkerovi Willertovi, Inne Michajlovej, Rasvanovi Enacheovi a Björnovi Schöllingovi za ich logistickú podporu medzi Darmstadtom a Offenbachom za to, že som mohol svoju diplomovú prácu napísať v zaujímavom prostredí. Ďakujem svojim rodičom a všetkým svojim spolužiakom a priateľom za pomoc počas celého štúdia. 2

Obsah Úvod 5. Všeobecná štruktúra. 5.2 Učenie a čítanie. 7.3 Prvé experimenty. 8.3. Rekonštrukcia minulej VR. 8.3.2 Rozpoznávanie vzorov. 9.3.3 Aproximácia nelineárnych funkcií. 4 Predbežné závery. 2 Analytické skúmanie ESN v lineárnych 3 2. Diagonalizácia. 3 2.2 Jadro. 3 2.3 Sklady. 6 2.4 Výstupy. 6 2,5 vstupov. 7 2.6 Celkovo jadro. 8 3 Opakovanie experimentov s novým zameraním 2 3. Rekonštrukcia minulej VR. 2 3.2 Konštrukcia celkových jadier p s pre VR. 22 3.3 Regresia na požadovanom jadre. 25 3.4 Rozpoznávanie vzorov. 26 4 Úložná kapacita 3 4. Kapacita pamäte (MC). 3 4.2 Stredná štvorcová chyba za minulé s (mse (s)). 33 4.3 Zdroje rušenia. 34 4.3. Duchové rušenie. 34 3

4.3.2 Odchýlka od homogénnej siete v dôsledku rôznych α v. 4.3.3 Odchýlka od homogénnej siete ktorýmkoľvek ω v. 4.3.4 Hluk na excitačné stavy neurónov echa. 4 4.3.5 Porovnanie s loveckými sieťami. 42 4.3.6 Rušenia v dôsledku nelinearít. 44 5 Vyšetrovanie ESN v nelineárnych 45 5. Prenosové funkcie. 45 5 . tanh (x) ako prenosová funkcia. 45 5.2 Alternatívna prenosová funkcia prostredníctvom Taylorovho rozšírenia tanh (x) 45 5.3 Výbojová funkcia ako prenosová funkcia. 46 5.2 Topológie siete. 5.3 Porušenie MC nelinearitami. 48 5.4 Nelineárne problémy. 49 5.4. Rozpoznávanie vzorov. 55 5.4.2 Počítanie. 59 6 Príklad aplikácie 65 7 Zhrnutie a výhľad 68 8 Príloha 69 8. Použité skratky. 69 8.2 Spätná väzba výstupov. 7 8.3 Ekvivalentné schémy zapojenia. 7 8.4 všeobecný dôkaz pre MC = č. 73 8.5 Girkov kruhový zákon. 74 8.6 Softvér. 76 4

o (t) o (t) o (t) o (t) .8.8.6.6 o (t) .4 o (t) .4.2.2.2.2 2 4 6 8 2 4 6 8 2 t 2 4 6 8 2 4 6 8 2 až (t) o (t). 8,6 o (t) .4.2.2 2 4 6 8 2 4 6 8 2 t Obrázok 4: o (t) a ô (t) rôzne varianty trénovaných sietí na rozpoznávanie vzorov: niekoľko nelineárne korelovaných vstupov, funkcia lineárneho prenosu (lo); lineárny vstup, nelineárna prenosová funkcia (r.o.); lineárny vstup, funkcia lineárneho prenosu (l.u.). 29

blízko vstupu. Dá sa preto predpokladať, že lineárne siete so vstupmi, ktoré sú dostatočne korelované (napr. Ako tu vynásobením minulými vstupmi), môžu mať rovnakú výpočtovú silu ako nelineárne siete, alebo že nelineárne siete môžu vykonávať výpočty podobné koreláciám. 3