Zasady zjawiska podczas uczenia sieci

Zasady
zjawiska
podczas uczenia sieci
WYKŁAD © Piotr Ciskowski
generalizacja
o
cel uczenia: generalizacja
o
generalizacja - aproksymacja
wejścia
o
wybór cech = wejść do sieci
preprocessing
o
preprocessing danych wejściowych
generalizacja
o
błąd generalizacji:
generalizacja
o
dobra generalizacja
•
mądrze budować sieć
•
mądrze ją uczyć
dane uczące
o
podział danych:
•
zbiór uczący
•
zbiór sprawdzający
•
zbiór testujący
dopasowanie
o
dopasowanie sieci:
•
underfitting
•
w sam raz
•
overfitting
generalizacja
•
gdy mało danych – cross-validation
•
wtrącanie szumu
rozmiar sieci
•
•
metody wstępujące
metody zstępujące
•
redukcja sieci
redukcja sieci
•
OBD – optimal brain damage
redukcja sieci
•
OBS – optimal brain surgeon
redukcja sieci
•
funkcja kary
generalizacja
•
kilka sieci
śledzenie procesu uczenia
•
miary błędu