Započteno jest

Včera ve 14:15 jsem do OpenOffice Impress vložil poslední obrázek, zaklapl notebook a spěchal do podzemní místnosti H20, kde mě ve 14:30 čekala prezentace semestrálky ze Speciálních diagnostických metod. Prezentace prý byla trochu ukecaná (na slidech bylo moc textu), grafy neměly popisky, ale síť se chovala hezky.

Doktorand, kterému jsem práci prezentoval, nenápadně vyzvídal, jestli už někde dělám diplomku... Pověděl jsem mu o Martinovi, který se mě ptal na detaily k neuronovým sítím a já si to teď musím prostudovat, abych fundovaně odpověděl.

Nuže Martine a ostatní, které to zajímá :

Matlab je profesionální nástroj, který obsahuje tuny tzv. toolboxů, které se specializují na různá odvětví vědy a techniky. Existují toolboxy na symbolické výpočty (počítání s písmenky, místo s čísly ;), pro simulace, zpracování signálů, obrazů (co, Vendo?), všemožné grafování, numerické výpočty a další, další. Samozřejmě se v něm dá programovat a to velmi snadno. NASA v něm například simuluje některé části vesmírného programu a mezi demo aplikacemi v základní instalaci je autopilot stíhačky F-14. Pochvalme ČVUT, protože pro Matlab zakoupila licenci pro všechny studenty.


Jeden z toolboxů nese název Neural Network Toolbox a s jeho pomocí jsem síť navrhoval. Sítí existuje celá řada, mně osobně v vyhledání té správné pomohl jeden článek v časopise Automa. Takto vypadá kus zdrojáku, kde sestavuji síť.


S=[5 7 6 7 1];
TF={'PURELIN' 'LOGSIG' 'LOGSIG' 'LOGSIG' 'PURELIN'};
bob=newff(PR,S,TF,'trainlm','learngd');

bob.trainParam.epochs = 3000;
bob = train(bob,tren,tren_lab);


Jednoduché, což?

Síť S obsahuje 5 vrstev, počty neuronů jsou v hranatých závorkách. Na posledním řádku síti předhodím trénovací data tren, což je matice 4x75. V každém sloupci jsou 4 parametry, charakterizující daný signál.

Proč je 29 neuronů tak moc? Neuron přijme parametry na svých vstupech, vynásobí váhami, sečte a pošle výsledek neuronům do další vrstvy. Spojení je hodně, všechny váhy se musí během učení nastavit. Pokud to stále nevypadá složitě, tak věz, že pro většinu semestrálních úloh stačili jeden/dva neurony.

A jak je to s přeučením? Při hodně dlouhém učení se může stát, že síť začně vidět souvislosti i tam, kde žádné nejsou (ony tam být můžou, ale nechtěné, nesouvisející s výstupní funkcí). Dobrý příklad je film Čistá duše, potažmo situace, kdy matematik John Nash vidí komplikované šifry v novinových článcích apod. Nechci naznačovat, že přeučená síť má schizofrenické sklony (aspoň ne teď, dokud stále na počítači běží).

Na obrázcích vidíte
1) chování výsledné sítě na reálných datech - puntík mimo "schody" znamená, že síť špatně určila třídu chyby.
2) struktura kousku sítě podobné té mé
3) takto spojený za chvíli usnu

A jestě pro Martina : Neuronové sítě v PHP