Rozpoznawanie obrazów

Rozpoznawanie obrazów
Ćwiczenia – lista zadań nr 2
autorzy: A. Gonczarek, J.M. Tomczak
Gradient funkcji
Zad. 1
Policz gradienty:
h) ∇a log(aT x)
a) ∇x aT x
i) ∇a σ(aT x), gdzie σ – funkcja sigmoidalna
b) ∇x xT a
j) ∇A xT Ax
c) ∇x xT Ax
k) ∇A tr(AT B)
d) ∇x xT Ax, gdzie A – macierz symetryczna
l*) ∇A log det(A),
e) ∇x kxk22
gdzie A – macierz dodatnio określona
m*) ∇A xT A−1 y,
f ) ∇x kAx − bk22
gdzie A – macierz symetryczna
g) ∇x (Ax − b)T W(Ax − b),
n) ∇A σ bT σ(Ax)
gdzie W – macierz symetryczna
1
DODATEK
Definicja normy. Normą k · k : X → R+ nazywamy funkcję spełniającą następujące warunki:
1. kxk = 0 ⇔ x = 0,
2. kαxk = |α|kxk, gdzie α ∈ R,
3. kx + yk ¬ kxk + kyk.
Definicja iloczynu skalarnego. Iloczynem skalarnym h·, ·i : X × X → R nazywamy funkcję
spełniającą następujące warunki:
1. hx, xi ­ 0,
2. hx, yi = hy, xi,
3. hαx, yi = αhx, yi,
4. hx + z, yi = hx, yi + hz, yi.
Wybrane własności normy i iloczynu skalarnego:
ˆ hx, xi = kxk2 ,
ˆ |hx, yi| ¬ kxkkyk (dla wektora w RD hx, yi = kxkkyk cos θ),
ˆ kx + yk2 = kxk2 + 2hx, yi + kyk2 .
ˆ kx − yk2 = kxk2 − 2hx, yi + kyk2 .
Wybrane własności wektorów:
T
φ(x) w = w0 φ0 (x) + w1 φ1 (x) + . . . + wM −1 φM −1 (x) =
M
−1
X
wm φm (x),
m=0
gdzie w = (w0 w1 . . . wM −1 )T , φ(x) = (φ0 (x) φ1 (x) . . . φM −1 (x))T
Wektory ortogonalne i ortonormalne. Wektory x i y nazywamy wektorami ortogonalnymi,
jeżeli hx, yi = 0. Dodatkowo jeśli kxk = kyk = 1, to wektory te nazywamy ortonormalnymi.
2
Wybrane własności macierzy:
ˆ (AB)−1 = B−1 A−1
ˆ (AB)T = BT AT
ˆ Macierz A jest dodatnio określona ⇔ dla każdego wektora x 6= 0 zachodzi następująca
własność xT Ax > 0
ˆ ∇x xT x = 2x
1
ˆ ∇x kW 2 (b − Ax)k22 = −2AT W(b − Ax), gdzie W jest macierzą symetryczną
Wyrażenia dla macierzy odwrotnych:

a b
A−1 = 

−1




a b c
A−1 = d e f 


g h k
−1

c d


d −b
1


=
ad − bc −c a

(ek − f h) (ch − bk) (bf − ce)
=


1 


(f g − dk) (ak − cg) (cd − af )

det A 
(dh − eg) (bg − ah) (ae − bd)
3