Lekcja 7: Sieci neuronowe

Lekcja 7: Sieci neuronowe - Zastosowanie
S. Hoa Nguyen
Rysunek 1: Weka GUI
Zadanie 1 (Klasykacja gatunków Irisa)
W systemie Weka zaprojek-
towa¢ sie¢ neuronow¡ umo»liwiaj¡c¡ klasykacj¦ kwiatów Iris. Zbiór danych jest
umieszczony w katalogu data Przeprowad¹ uczenie i przetestuj sie¢.
Zastosuj
model testu 5-krotna walidacja.
a) Zaprojektowa¢ dwu-warstwow¡ sie¢ neuronow¡
b) Ustaw wspóªczynnik uczenia na
0.1, 0.25, 0.5, 0.75 i 1
oraz liczba epok na
500. Obserwuj poziom bª¦du i wybieraj optymalny wspóªczynnik uczenia.
c) Dobiera¢ optymaln¡ liczb¦ neuronów w warstwie ukrytej.
d) Skomentowa¢ otrzymane wyniki
Zadanie 2 (Klasykacja wniosków o karty kredytowe) Zaprojektowa¢
sie¢ neuronow¡ umo»liwiaj¡c¡ klasykacj¦ wniosku o kart¦ kredytow¡.
wnioskodawców s¡ zapisane w zbiorze danych data/australian.dat.
Opisy
Zadaniem
jest przewidywanie, czy wniosek b¦dzie pozytywnie rozpatrywany? Przeprowad¹
uczenie i przetestuj sie¢. Zastosuj model testu 10-krotna walidacja do werykacji jako±ci modelu.
a) Przeprowadzi¢ zbiór danych ucz¡cych i testowych do stosownej postaci w
systemie WEKA.
b) Ustaw wspóªczynnik uczenia na
0.1, 0.5, 1 oraz liczba epok na 50, 500, 1000.
Obserwuj poziom bª¦du i wybieraj optymalny wspóªczynnik uczenia oraz
liczb¦ epok.
1
c) Sprawdzaj jako±¢ klasykacji sieci dwu-warstwowej. Dobieraj optymaln¡
liczb¦ neuronów na warstwie ukrytej.
d) Porównaj jako±ci sieci z i bez momentum
e) Poda¢ dokªadno±¢ klasykacji
f ) Obserwuj¡c macierz pomyªek podaj w krórej klasie sie¢ popeªnia najwi¦cej
bª¦dów?
g) Powtórz kroki
a - e dla sieci trzy-warstwow¡ i porównywa¢ jako±¢ klasy-
kacji tej sieci z jako±ci¡ sieci dwu-warstwowej.
h) Przeprowad¹ wst¦pne przetwarzanie danych.
Znormalizowa¢ wszystkie
atrybuty poza atrybutem klasy. Przeprowadzi¢ selekcj¦ cech. Utworzy¢
sie¢ dla przetworzonego zbioru tereningowego.
Porównywa¢ jako±¢ sieci
tworzonych dla danych oryginalnych i danych po przetwarzaniu.
Zadanie 3 (Wyznaczenie parzystobitowo±ci) Zaprojektowa¢ sie¢, która
potra wyznaczy¢ parzystobitowo±¢ liczb trzybitowych.
a) Liczby przedstaw gracznie, po cztery w ka»dej klasie (patrz Rysunek 2)
b) Udowodnij, »e sie¢ jedowarstwowa podczas nauki nie potra rozpozna¢
klasy liczb.
c) Przygotuj odpowiedni zbiór danych dla systemu Weka.
d) W systemie Weka utwórz sie¢ wielowarstwow¡, ucz¡c¡ si¦ metod¡ propogacji wstecznej bª¦du.
Znajd¹ optymalne parametry:
wspóªczynnik
uczenia, liczba epok, liczba warstw, ilo±¢ neuronów na ka»dej warstwie.
Rysunek 2: Klasykacja liczb parzystobitowych
Zadanie 4 (Rozpoznawanie cyfr r¦cznie pisanych) Zaprojektowa¢ sie¢,
która potra rozpoznawa¢ cyferki r¦cznie pisane. Opis zbioru danych jest umieszczony w pliku optdigit.doc w katalogu data/OpticalDigits
a) Przeprowadzi¢ zbiór danych ucz¡cych i testowych do stosownej postaci w
systemie WEKA.
2
b) Zaprojektowa¢ sie¢ i dobieraj odpowiednie parametry: wspóªczynnik uczenia,
liczba epok, uczenie z momentum czy nie
c) Sporz¡dzi¢ raport: jako±¢ klasykacji ka»dej z nauczonych sieci. Komentowa¢ otrzymane wyniki. Która sie¢ jest optymalna dla podanego problemu?
Weka Home page: http://www.cs.waikato.ac.nz/ml/weka
Weka Tutorial: http://www.cs.utexas.edu/users/ml/tutorials/Weka-tut/index.htm
3