Jak jsem učil neuronovou síť

Maličko jsem zvolnil v přispívaní na blog, ale to jen proto, že mám po dlouhé době hodně práce. Zápočtový týden totiž neznamená, že se pro zápočty chodí, ale že se na nich teprve po nocích pracuje. Mým prvním zápočtem je klasifikace poruch hřídelí z naměřených vibrací. Dostal jsem 300 naměřených průběhů, kde každý průběh má přiřazenu vadu (číslo od jedné do pěti). A co s tím?

Průběhy mám zpracovat, získat z nich podstatné informace(příznaky) a vybrat si vhodnou trénovací skupinu. Trénovací skupinu předhodím klasifikátoru, kterému prozradím konkretní číslo chyby. Vytrénovaný klasifikátor vezmu a pustím jej na ostatní průběhy, které ještě nikdy neviděl. Pokud je dobře vycvičený, dokáže u neznáměho průběhu zjistit, o jaký typ chyby jde.

Předzpracování dat bylo celkem jednoduché, ale vycvičení klasifikátoru byl větší oříšek. Vybral jsem si neuronovou síť, protože mě vždy zajímalo, jak to funguje. Neuronová síť pracuje podobně jako neurony v mozku. Každý neuron má jeden či více výběžků, kterými je spojen s ostaními neurony. Nebudu se pouštět do detailů, jen prozradím, že moje neuronová síť, která se právě na počítačí učí, má 29 neuronů (což je poměrně dost). Kolik je mezi nimi synapsí, netuším.


Síť se učí podobně, jak baletka. Cvičí a pohyby kontroluje v zrcadle. Pohyby opakuje až do té doby, kdy její představa o pohybu odpovídá tomu, co v zrcadle vidí. Popřípadě tomu, co chce její učitel(ka). Čím déle cvičí, tím více se výsledek blíží očekávání. Ovšem jen do určité hranice, kdy začne být baletka unavená a výsledek tomu odpovídá.

S tou mou neuronou sítí je to stejné. Má svá trénovací data a ví, jak má vypadat výsledek. Při počátečním pokusu, kdy data vidí poprvé, jsou výsledky spíše náhodné. Ale protože síť ví, o kolik se sekla, při další epoše učení (tak se tomu říká ;) své vnitřní váhy nastaví trochu jinak. Pokud není úplně pitomá, a že ta moje ze začátku byla, po mnoha opakováních už si je celkem jistá. V tom okamžiku nastává chvíle napětí, neuronové síti předložím data, která nikdy neviděla. Pokud je dobře naučená, měla by většinu určit správně.

A vida, síť se právě doučila a správně určila 86% průběhů. Učila se na 75 průbězích, určovala (225 nových + 75 z trénovací skupiny)=300 vzorků. Když ji trénuji na 150 průbězích, její úspěšnost na celé skupině je okolo 97%.

Normálně se moje síť učí asi 3 minuty, ale když jsem odcházel na fotbal, řekl jsem ji, ať se učí půl hodiny. Když jsem se vrátil, síť hlásila, že rozpoznala 26% průběhů ze 300. Byla holt přetažená, stejná jako já teď, protože jsem ji předchozí tři noci piplal, málo spal. Ale jsem na ní pyšný, je moc šikovná.