Zaujímavosti o referátoch
Ďaľšie referáty z kategórie
Neurónové siete
Dátum pridania: | 11.03.2003 | Oznámkuj: | 12345 |
Autor referátu: | dusdos | ||
Jazyk: | Počet slov: | 438 | |
Referát vhodný pre: | Stredná odborná škola | Počet A4: | 1.6 |
Priemerná známka: | 2.97 | Rýchle čítanie: | 2m 40s |
Pomalé čítanie: | 4m 0s |
Topológia hornej vrstvy: pre každý neurón tejto vrstvy je definovaná sústava okolí zahrňujúcich susedné neuróny tejto vrstvy. Algoritmus: 1) Inicializácia váh – nastavenie počiatočných polomerov susedstva, inicializácia váh od n vstupov do m výstupných vrcholov na malé, náhodné veličiny 2) Prezentácia nového vstupu – na vstupnú vrstvu siete je privedený vstupný vektor. 3) Výpočet vzdialeností ku všetkým vrcholom dj = Σ (j=1 až n) (xi(t)-wij(t))2, kde xi(t) je vstup do i-tého vrcholu v čase t, pre 1<=j<=m. 4) Výber vrcholu s minimálnou vzdialenosťou – vybrať vrchol j* ako výstupný vrchol s minimálnou hodnotou dj. 5) Úprava váh do vrcholu j* a k susedom – v tvare „mexický klobúk“. 6) Opakovanie prechodom na krok 2
Simulované žíhanie: -robené pre Boltzmannove siete. Princíp – umožniť sieti prechod do stavu s vyššou energiou, než akú mal predošlý stav, pričom počet týchto prechodov je vždy menší ako počet krokov, pre ktoré ΔE<0, takže celkove sa zachováva základná myšlienka zachovania energie. Metropolisov algoritmus – popisuje ako vychýliť sieť z daného minima. V každom kroku vyberie náhodne jeden neurón a ten preklopí, vypočíta ΔE, v prípade že sa zmení jeho stav: ak ΔE<0, tak O.K. – opakovanie kroku s novou konfiguráciou, ak ΔE>0, nový stav bude akceptovaný s pravdepodobnosťou ρ|ΔE| = e-(ΔE)/T (T je konštanta (teplota systému)). Rýchlosť, akou postupne znižujeme teplotu od počiatočnej hodnoty až po koncový stav: Tk >= T0/(1+k). T0 je dosť veľká počiatočná hodnota, potom sieť s pravdepodobnosťou 1 skonverguje do stavu s minimálnou energiou. Konvergencia algoritmu pre simulované žíhanie: Zmena stavu neurónu znižuje energiu siete s pravdepodobnosťou p>1/2. Pri zmene energie siete pri prechode neurónu k zo stavu sk(t) do sk(t+1) platí: ΔE = (-(1/2))/(sk(t+1)-sk(t)).hk(t) Vypočítame pravdepodobnosť, že pri tejto zmene ΔE<0: 1.) pre sk(t)=-1, sk(t+1)=1 => ΔE<0, ak hk(t)>0 => p>1/2. 2.) pre sk(t)=1, sk(t+1)=-1 => ΔE závisí od hk(t) => p>1/2. Sieť teda prejde do stavu s nižsou energiou s pravdepodobnosťou p>1/2.