35 z forum

35. Cechy wspólne i różnice identyfikacji metodą najmniejszych kwadratów i
modelowania neuronowego.
Metoda najmniejszych kwadratów, metoda służąca do wyrównywania empirycznych szeregów
statystycznych.
Liczby występujące w takich szeregach są z reguły obarczane błędami losowymi. Przy pomocy
metody najmniejszych kwadratów szeregi statystyczne oczyszcza się z błędów losowych.
Mając szereg punktów empirycznych (x1,y1), (x2,y2),....., (xn,yn) należy a priori ustalić postać
funkcji Y=f(a,b,c,...), a następnie na podstawie punktów empirycznych tak dobrać wartości
parametrów a,b,c..., aby funkcja Y=f(a,b,c,...) możliwie najlepiej "pasowała" do
zaobserwowanych punktów (xi,yi).
Załóżmy że a priori wyznaczyliśmy za najlepszą następującą funkcję :
Zgodnie z tą metodą za najlepiej pasujące współczynniki uznaje się taki dla których wyrażenie
Osiąga wartość minimalna. Co prowadzi do rozwiązania następującego układu równań:
Sieć neuronowa jest siecią wielu prostych procesorów (przetworników informacji) zwanych
neuronami, z których każdy dysponuje lokalną pamięcią w postaci wag jego połączeń z innymi
neuronami. Przetwarzanie realizowane przez neuron ma całkowicie lokalny charakter – zależy
ono tylko od wartości docierających do niego sygnałów oraz wartości przechowywanych w jego
lokalnej pamięci wag
W korzystaniu z sieci neuronowej można wyróżnić dwa etapy:
· etap uczenia – w oparciu o przedstawiane sieci dane, sieć uczy się realizować zadanie dla
którego została zbudowana
· etap uogólniania – sieć realizuje zadanie dla którego została zbudowana dla danych które są
jej przedstawiane
Twierdzenie Funahashi zapewnia, że standardowa sieć wielowarstwowa z pojedynczą warstwą
ukrytą składającą się z skończonej liczby neuronów jest uniwersalnym aproksymatorem.
Metoda najmniejszych kwadratów
Metoda zawsze daj wynik o najmniejszej sumie kwadratów
błędów. Rezultaty jednak mogą nie mieć nic wspólnego z
rzeczywistością w przypadku gdy istnieje wiele elementów
odstających.
Podczas tworzenia modelu wymagana jest wiedza a priori
projektanta na temat doboru najlepszej funkcji
aproksymującej
Jednoetapowy proces tworzenia modelu podczas którego
jest tworzona funkcja aproksymująca.
Metoda popularnie stosowana od początku XIX wieku.
Uznawana za jedną z najlepszych metod aproksymacyjnych.
Raz zbudowany model nie posiada żadnych możliwości
adaptacji.
Możliwe jest sekwencyjne dostarczanie danych
Poprawność pracy modelu wymaga dostarczenia
odpowiednio dużej ilości pomiarów
Modelowanie neuronowe
Według twierdzenia
Funahashi sieć neuronowa
jest uniwersalnym
aproksymatorem.
Podczas tworzenia modelu
wymagana jest wiedza a
priori projektanta na temat
wyboru najlepszej struktury
neuronów oraz funkcji
aktywacji.
Dwuetapowy proces
tworzenia modelu.
- stworzenie struktury
neuronów
- przeprowadzenie procesu
uczenia się modelu
Sieci neuronowe stają się
coraz popularniejsze. Zaczęły
być stosowane w latach 70
ubiegłego wieku.
Poprawnie zbudowany model
dobrze zinterpretuje dane
które nie brały udziału w
procesie uczenia.