# Neuronove site I zk.

<{ForumPost(poster="pasky", timestamp=2010-02-01 15:11:18)}>
Zkouska z NN mela dve casti, rano pisemka, pozdeji ustni. V pisemne casti jsme dostali  
  
(i) Backpropagation (algoritmus a odvozeni delta-clenu)  
(ii) Hopfieldovy site (popsat algoritmus a konvergenci - pokud mozno vcetne dukazu)  
  
(V jedne z minulych zkousek bylo dle exklusivnich informaci Perceptronove uceni vc. dukazu a Ojuv algoritmus.)  
  
Na pisemku bylo 50 minut, pak jsme meli cca 2 hodiny pauzu a nasledovala ustni. Nejdriv se ptala na ruzne nejasnosti a chybejici veci v pisemce a pak volne presla k ruznym zaludnym otazkam z celeho uciva - mne se postupne ptala na perceptronove uceni + ideu dukazu, Oju (zase jen strucne) a nastrel vzorecku uceni Kohonenovych map. U dalsich jsem zaslechl geneticke algoritmy, druhoderivacni uceni, perceptron s prihradkou, atd.  
  
Nakonec mi dala jednicku s tim, at se to ke statnicim jeste doucim. ;-) To jsem to neumel nijak skvele. Celkem pomahala nasmerovat spravnym smerem, kdyz jsem rikal ptakoviny, tak se mne ptala detailneji, abych na to sam prisel - ptala se tak, ze clovek musel vedet, jaky ty vzorecky maji vyznam a jak se na ne zhruba prislo, ale nevrtala se v detailech, byla ferova. Velke minus byla strasliva zdlouhavost ustni zkousky - mela byt od 1130, prisla v 1155, po 5 minutach mi zadala zderivovat sigmoidu, a pak jsem cekal *hodinu a pul*, nez se ke mne vrati; mezitim jsem si kreslil, z nudy dokazal nejakou vetu, zase kreslil, a zkousel spat, ale chodba byla studena... Kdybych to vedel, vezmu si tam nejakou knizku. ;-)  
  
Rekl bych, ze na zkousku je urcite potreba detailne znat perceptronove uceni a backpropagation, ze zbytku pak mit alespon hruby prehled, jak se co uci a rozumet tem principum - pak se to neda nedat. Good luck!
<{/ForumPost}>

<{ForumPost(poster="Dr_Zlo", timestamp=2010-02-15 16:04:46)}>
Zkouska 15.02.2010   
  
Cas: asi 65minut  
1) Odvození adaptačních pravidel algoritmu BackPropagation   
2) Samoorganizace a Kohonenovy mapy  
---------  
ad 1) v úvodu upřesněno, že máme popsat i na jaký typ sítě se BP hodí a popsat neuron takové sítě.  
Nakreslil a popsal jsem model site jako 6-tice(neurony, zapojeni, input,output  vrstva, vahova fce, prenosova fce).  
Popsal co dela jeden neuron (vypocetni jednotka vypocita vystup na zaklade vstupu, vah, biasu, prenosove fce) + nacrtky.  
Popsal "error" funkci E. Napsal co je cilem uceni. Odvodil adaptacni pravidlo z: d(E)/d(w_ij) pro vystupni vrstvu.  
  
K adaptaci pro skryte vrstvy jsem napsal jen prislusny vztah + ze se k nemu dojde stejnou uvahou jako pro vystupni vrstvu + nacrtek chyby lezouci dovnitr do site.  
  
2) Otazka zadana bez dalšího upřesnění  
asi 5 odrazek vykriku o samoorganizaci  
+ podrobny popis fungovani Kohonena (bez dukazu konvergence) + v odrazkach zminil mozne upravy (Winner-takes-all, mechanismus "svedomi", lateralni inhibice, LVQ ) a hybridni site: RBF  
---------  
  
Cas tak tak.  Po pisemce 45minut pauza. Pote ustni cast zkousky. Pi. Mrazova si pisemku cetla az pri ustni casti zkousky.   
Nalezene chyby jsem dostal za ukol opravit a dale napsat co vim o RBF sitich. A odesla zkouset dalsiho.   
Pripravte se, ze pi. Mrazova v pripade chyby pouze ukaze dane misto (napr. tuto cast si jeste promyslete), ale nijak zvlast nenapovi.   
  
Chyby: Ve finalnich vzorcich adapt. pravidel jsem mel  f(vystup_neuronu) namisto f(vnitrni_potecnial), dale znamenko minus pred Error fci, a ve vzorci adaptace Kohonena mi chybel clen  *(vstupni_vektor - w_x,y).   
  
Po zhruba 20minutach se pi.Mrazova vratila, opraveno vse - prezentovano s mirnymi zmatky.  
U RBF jsem vedel jen autory, funkci vycislovanou neurony RBF, a jak je definovana error funkce, vyznam jednotlivych clenu ve vzoreccich.  
Coz jsem na rovinu povedel.  
  
Vysledek za 1 se slovy - ze zkouska by na 1 nebyla, ale ze jsme meli hodne dobrou zapoctovku a tez prezentaci. A at se to na statnice doucim.  
  
Jako studijni material doporucuju Raula Rojase je ve studnici v .pdf. Neleknete se jeho 500stran, velmi dobre odpovida slidum, latka navic se da snadno rozpoznat a nemilosrdne preskocit.  PCA analyzu se ucte z .pdf ze studnice. Good Luck!
<{/ForumPost}>