Miary zale˙zno´sci dla modeli PARMA ze stabilnymi innowacjami

Miary zależności dla modeli PARMA ze
stabilnymi innowacjami
Joanna Nowicka-Zagrajek
Agnieszka Wylomańska
Instytut Matematyki i Informatyki
Centrum Metod Stochastycznych
im. Hugona Steinhausa
Politechnika Wroclawska
Kraków, kwiecień 2006
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Spis treści
1. Wprowadzenie do modeli PARMA z α−stabilnymi innowacjami
2. Miary zależności dla modeli PARMA z α−stabilnymi
innowacjami
(a) Definicja miar zależności i ich najważniejsze wlasności
(b) Postać tych miar dla omawianych systemów
3. Modele PARMA z gaussowskimi innowacjami (α = 2), jako
szczególy przypadek omawianych systemów
(a) Warunki gwarantuja̧ce istnienie ograniczonego rozwia̧zania
dla modeli PARMA(1,1) i postać tego rozwia̧zania
(b) Wykorzystanie modeli do opisu danych zwia̧zanych z
handlem energia̧ elektryczna̧
Kraków, kwiecień 2006
1
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
4. Rozszerzenie teorii dla ogólnych modeli PARMA z α−stabilnymi
innowacjami (1 < α < 2)
(a) Warunki gwarantuja̧ce istnienie ograniczonego rozwia̧zania
dla modeli PARMA(1,1) i postać tego rozwia̧zania
(b) Relacja pomiȩdzy dwoma miarami zależności
(c) Ilustracja wyników teoretycznych
Kraków, kwiecień 2006
2
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Wprowadzenie
• Modele PARMA (Periodic Autoregressive Moving Average),
modele ARMA z okresowymi wspólczynnikami, sa̧ alternatywa̧
dla konwencjonalnych stacjonarnych szeregów czasowych.
• Wykorzystywane sa̧ do modelowania danych wykazuja̧cych
okresowość (hydrologicznych, meteorologicznych, ekonomicznych,
zwia̧zanych z energia̧ elektryczna̧).
• Modele PARMA wykazuja̧ okresowy ”rytm”, co jest znacznie
bardziej skomplikowane, niż okresowość średniej.
• W przypadku modeli PARMA z gaussowskimi innowacjami
(α = 2), strukturȩ zależności opisuje funkcja cowariancji, która
jest okresowa, podobnie jak średnia szeregu.
• W przypadku modeli PARMA z α−stabilnymi innowacjami dla
Kraków, kwiecień 2006
3
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
1 < α < 2, struktura zależności opisana jest przez dwie miary:
kodyferencjȩ (codifference, CD) oraz kowariacjȩ (covariation,
CV), które sa̧ najbardziej popularnymi miarami zależności
rozszerzaja̧cymi pojȩcie kowariancji.
• Miary CD oraz CV sa̧ zdefiniowane dla symetrycznych
α−stabilnych szeregów czasowych.
• Dla modeli PARMA z α−stabilnymi innowacjami (1 < α < 2),
CD i CV sa̧ okresowe.
• Dla modeli PARMA z α−stabilnymi innowacjami (1 < α < 2),
CD i CV sa̧ proporcjonalne ze wspólczynnikiem α, tzn. CD
CV = α.
Kraków, kwiecień 2006
4
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Modele PARMA z α−stabilnymi innowacjami
• Modele PARMA z gaussowskimi innowacjami zostaly
wprowadzone jako klasa procesów okresowo skorelowanych, tzn.
procesów maja̧cych okresowa̧ średnia̧ i kowariancjȩ.
• Sa̧ one specjalnym przypadkiem modeli ARMA ze zmiennymi
wspólczynnikami, które sa̧ naturalnym rozszerzeniem klasycznych
stacjonarnych modeli ARMA, a ponadto wykazuja̧ wiele ich
wlasności. Ich wyższość polega na tym, że moga̧ być
wykorzystywane do analizy danych niestacjonarnych bez utraty
ich dlugookresowej zależności.
• Modele PARMA wykorzystywane sa̧ przy opisie danych
wykazuja̧cych okresowość na różnych plaszczyznach.
Kraków, kwiecień 2006
5
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
6
Modele PARMA z α−stabilnymi innowacjami
Definicja 1 PARMA(p,q) z symetrycznymi α−stablinymi
innowacjami dany jest wzorem
Xn −
p
X
j=1
bj (n)Xn−j =
q−1
X
ai (n)ξn−i ,
(1)
i=0
gdzie wspólczynniki (bj (n))pj=1 oraz (ai (n))q−1
i=0 sa̧ okresowe z tym
samym okresem T , a innowacje {ξn } sa̧ niezależnymi zmiennymi
losowymi o symetrycznym rozkladzie α−stabilnym (SαS) z
parametrem skali 1, tzn. z funkcja̧ charakterystyczna̧ dana̧ wzorem:
Eexp(iθξn ) = exp(−|θ|α ), 0 < α ≤ 2.
Kraków, kwiecień 2006
(2)
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Miary zależności dla modeli PARMA z
α−stabilnymi innowacjami
Definicja 2 Miary zależności dla SαS zmiennych losowych X1 i X2 :
• Kowariacja CV (X1 , X2 ) zdefiniowana jest dla 1 < α ≤ 2
nastȩpuja̧co:
Z
CV (X1 , X2 ) =
s1 s<α−1>
Γ(ds),
2
S2
gdzie Γ jest miara̧ spektralna̧ wektora losowego (X1 , X2 ),
z <p> = |z|p−1 z̄,
• Kodyferencja CD(X1 , X2 ) zdefiniowana dla 0 < α ≤ 2
nastȩpuja̧co:
CD(X1 , X2 ) = ln E exp{i(X1 −X2 )}−ln E exp{iX1 }−ln E exp{−iX2 }.
Kraków, kwiecień 2006
7
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
8
W przeciwieństwie do kodyferencji, kowariacja nie jest symetryczna.
Ponadto, gdy α = 2 wówczas mamy
Cov(X1 , X2 ) = CV (X1 , X2 ) =
1
CD(X1 , X2 ).
2
Najważniejszymi wlasnościami kowariacji sa̧:
• addytywność wzglȩdem pierwszego argumentu:
CV (X1 + X2 , Y ) = CV (X1 , Y ) + CV (X2 , Y ),
• skalowanie: CV (aX, bY ) = ab<α−1> CV (X, Y ),
• jeśli X i Y sa̧ niezależne, wówczas CV (X, Y ) = 0,
• jeśli Y1 i Y2 sa̧ niezależne, wówczas
CV (X, Y1 + Y2 ) = CV (X, Y1 ) + CV (X, Y2 ).
Kraków, kwiecień 2006
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
9
Za normȩ ||X||α dla SαS zmiennej losowej przyjmujemy
||X||α = (CV (X, X))1/α (norma kowariacyjna). Szereg {Xn }, n ∈ Z
jest ograniczony w przestrzeni K z norma̧ ||.||α gdy sup ||Xn ||α
α < ∞.
n∈Z
Oznaczamy X = Y w K wtedy i tylko wtedy, gdy ||X − Y ||α = 0.
Kraków, kwiecień 2006
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Lemat 1 Jeśli Xn =
∞
P
cj (n)ξn−j , gdzie innowacje {ξn } sa̧
j=−∞
niezależnymi SαS zmiennymi losowymi z parametrem skali 1,
wówczas prawdziwe sa̧:
CV (Xn , Xk ) =
∞
X
cj (n)ck−n+j (k)<α−1> α > 1,
j=−∞
CD(Xn , Xk ) =
∞
X
j=−∞
Kraków, kwiecień 2006
(|cj (n)|α + |ck−n+j (k)|α − |cj (n) − ck−n+j (k)|α ) .
10
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Modele PARMA z gaussowskimi innowacjami
(α = 2)
Analiza szeregów czasowych w znacznej mierze wykorzystuje
stacjonarne szeregi czasowe. Jednak w wielu przypadkach zalożenie o
stacjonarności badanego szeregu jest zbyt upraszczaja̧ce. Modele
PARMA, jako procesy okresowo skorelowane, sa̧ alternatywa̧ dla
takich procesów. Z zalożenia sa̧ niestacjonarne, ale wykazuja̧ wiele
wlasności procesów stacjonarnych.
Kraków, kwiecień 2006
11
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Twierdzenie 1 (Makagon, Weron, Wylomańska, 2004) System
PARMA(1,1) dany w Definicji 1 dla α = 2, p = 1, q = 1 z okresem T
ma jednoznaczne ograniczone rozwia̧zanie wtedy i tylko wtedy, gdy
|P | = |b1 b2 . . . bT | =
6 1. Ponadto rozwia̧zanie to dane jest wzorem:
 X
∞

n

B

n−j+1 an−j ξn−s , gdy |P | < 1,

s=0
Xn =
(3)
∞
X

an+s


gdy |P | > 1,
−

n+s ξn+s ,
Bn+1
s=1
Qs
s
gdzie Br = j=r bj (z konwencja̧ Brs = 1 gdy r > s).
Kraków, kwiecień 2006
12
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Szereg dany wzorem (3) jest okresowo skorelowany, tzn. dla każdego
k ∈ Z kowariancja E(Xn Xn+k ) jest okresowa wzglȩdem n z okresem
T i dana jest wzorem
 n+k T −1
2
Bn+1 P

n

gdy |P | < 1

 1−P 2 s=0 Bn−s+1 an−s ,
!2
E(Xn Xn+k ) =
T
X an+k+s

P2


, gdy |P | > 1.
 n+k 2
n+k+s
Bn+1 (P − 1) s=1 Bn+k+1
Kraków, kwiecień 2006
13
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Przyklad 1 Rozpatrujemy godzinowe spotowe ceny energii na
Towarowej Gieldzie Energii S.A. z okresu: styczeń 2003-styczeń
2005. Na Rysunku 1 umieszczono wykres funkcji autokowariancji dla
maksymalnego opóźnienia h = 200. Dodatkowo zaznaczono również
95% przedzial ufności dla ruchu Browna.
Kraków, kwiecień 2006
14
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
15
Funkcja autokowariancji z maksymalnym opóźnieniem h = 200.
1.2
1
0.8
0.6
0.4
0.2
0
−0.2
Kraków, kwiecień 2006
0
20
40
60
80
100
h
120
140
160
180
200
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
16
• Wykres funkcji autokowariancji wskazuje, że analizowane dane
moga̧ być modelowane przez model PARMA z okresem 24.
• Kryteria wyboru optymalnego modelu (BIC, FPE) wskazaly na
najlepszy model PARMA(1,1) z P = 0.0053.
• Optymalny model ma postać
Xn =
∞
X
n
Bn−s+1
an−s ξn−s .
s=0
• Funkcja kowariancji dana jest zatem wzorem
EXn Xn+k
23
n+k X
2
Bn+1
n
=
a
B
n−l
n−l+1
1 − |P |2
l=0
i jest okresowa wzglȩdem n.
Na Rysunku 2 pokazano jednokrokowa̧ predykcjȩ dla nastȩpnych 24
godzin bazuja̧c na otrzymanym modelu PARMA(1,1).
Kraków, kwiecień 2006
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
17
Jednokrokowa predykcja dla spotowych cen energii elektrycznej.
4
1.5
x 10
the prediction
the real data
1.4
1.3
1.2
1.1
1
4000
4005
4010
4015
4020
1.4
the percent error
1.2
1
0.8
0.6
0.4
0.2
0
Kraków, kwiecień 2006
4000
4005
4010
4015
4020
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
18
Rozszerzenie teorii dla ogólnych modeli
PARMA z α−stabilnymi innowacjami
(1 < α < 2)
W dalszej czȩści rozpatrujemy jedynie modele PARMA(1,1) z
innowacjami z rozkladu SαS dla 1 < α < 2, dane wzorem:
Xn − bn Xn−1 = an ξn ,
gdzie wspólczynniki i innowacje maja̧ takie same wlasności jak w
Definicji 1.
Kraków, kwiecień 2006
(4)
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
19
Twierdzenie 2 Jeśli |P | = |b1 b2 . . . bT | =
6 1, wówczas system
PARMA(1,1) z innowacjami z rozkladu SαS zdefiniowany w (4) ma
ograniczone rozwia̧zanie dane wzorem:
Xn =
∞
X
n
Bn−s+1
an−s ξn−s , gdy |P | < 1
s=0
∞
X
an+s
Xn = −
n+s ξn+s ,
Bn+1
s=1
Kraków, kwiecień 2006
gdy |P | > 1.
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Modele PARMA dla |P | < 1
Lemat 2 Jeśli |P | < 1 i {Xn } jest ograniczonym rozwia̧zaniem (4),
wówczas dla 1 < α ≤ 2 i n, m ∈ Z mamy
sign(n−m)
max(n,m)
T
−1 α
Bmin(n,m)+1
X
m
CV (Xn , Xm ) =
a
B
min(n,m)−s+1 min(n,m)−s .
1 − |P |α
s=0
Lemat 3 Jeśli |P | < 1 i {Xn } jest ograniczonym rozwia̧zaniem (4),
wówczas dla 1 < α ≤ 2 i n, m ∈ Z mamy:
CD(Xn , Xm ) =
α α
max(n,m) max(n,m) −1 α
1 + Bmin(n,m)+1 − 1 − Bmin(n,m)+1 TX
min(n,m)
B
a
min(n,m)−s+1 min(n,m)−s .
1 − |P |α
s=0
Miary wyznaczone w Lematach 2 i 3 sa̧ okresowe z okresem T .
Kraków, kwiecień 2006
20
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Twierdzenie 3 Jeśli |P | < 1 i {Xn } jest ograniczonym
rozwia̧zaniem (4), wówczas
(a) dla każdego n ∈ Z i 1 < α ≤ 2 mamy:
CD(Xn+k , Xn )
CD(Xn , Xn−k )
= lim
= α,
lim
k→∞ CV (Xn+k , Xn )
k→∞ CV (Xn , Xn−k )
(b) dla każdego n ∈ Z i 1 < α < 2 mamy:
CD(Xn−k , Xn )
CD(Xn , Xn+k )
= lim
= 0.
k→∞ CV (Xn−k , Xn )
k→∞ CV (Xn , Xn+k )
lim
Kraków, kwiecień 2006
21
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
22
Modele PARMA dla |P | > 1
Lemat 4 Jeśli |P | > 1 i {Xn } jest ograniczonym rozwia̧zaniem (4),
wówczas dla 1 < α ≤ 2 i n, m ∈ Z mamy
sign(n−m)
α
max(n,m)
T
|P |α Bmin(n,m)+1
X amax(n,m)+s CV (Xn , Xm ) =
max(n,m)+s .
B
|P |α − 1
s=1
m+1
Lemat 5 Jeśli |P | > 1 i {Xn } jest ograniczonym rozwia̧zaniem (4),
wówczas dla 1 < α ≤ 2 i n, m ∈ Z mamy:
CD(Xn , Xm ) =
α α α
max(n,m)
max(n,m)
T
|P |α 1 + Bmin(n,m)+1 − 1 − Bmin(n,m)+1 X
amax(n,m)+s .
max(n,m)+s |P |α − 1
s=1 Bmin(n,m)+1 Kraków, kwiecień 2006
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Twierdzenie 4 Jeśli |P | > 1 i {Xn } jest ograniczonym
rozwia̧zaniem (4), wtedy
(a) dla każdego n ∈ Z i 1 < α < 2 mamy
CD(Xn+k , Xn )
CD(Xn , Xn−k )
= lim
= 0,
lim
k→∞ CV (Xn+k , Xn )
k→∞ CV (Xn , Xn−k )
(b) dla każdego n ∈ Z i 1 < α ≤ 2 mamy:
CD(Xn−k , Xn )
CD(Xn , Xn+k )
= lim
= α.
k→∞ CV (Xn−k , Xn )
k→∞ CV (Xn , Xn+k )
lim
Kraków, kwiecień 2006
23
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Przyklad 2 Rozpatrzmy dwa modele PARMA(1,1) z innowacjami z
rozkladu SαS dla α = 2 (przypadek gaussowski) i α = 1.4. Ponadto
przyjmujemy T = 3 oraz:



 0.5 dla n = 1, 4, 7, . . . ,
bn =
1.6, dla n = 2, 5, 8, . . . ,



0.4, dla n = 3, 6, 9, . . . ,


dla n = 1, 4, 7, . . . ,

 1
an =
2,
dla n = 2, 5, 8, . . . ,



0.003, dla n = 3, 6, 9, . . . .
W tym wypadku P = 0.32. Na Rysunku 3 przedstwiono po jednej
realizacji z każdego modelu.
Kraków, kwiecień 2006
24
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
25
Realizacje modeli PARMA(1,1) dla α = 2 i α = 1.4.
60
α=2
40
20
0
−20
−40
0
100
200
300
400
500
600
700
800
900
1000
60
α=1.4
40
20
0
−20
−40
0
Kraków, kwiecień 2006
100
200
300
400
500
n
600
700
800
900
1000
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Na Rysunku 4 pokazano ilorazy
CD(Xn ,Xn+k )
αCV (Xn ,Xn+k )
CD(Xn+k ,Xn )
CD(Xn ,Xn−k )
,
αCV (Xn+k ,Xn ) αCV (Xn ,Xn−k ) ,
CD(Xn−k ,Xn )
i αCV
(Xn−k ,Xn ) dla k = 0, 1, ..50, n = 50 i α = 1.4.
Zgodnie z Twierdzeniem 3 pierwsze dwa ilorazy da̧ża̧ do 1, a ostatnie
dwa - do 0 wraz ze wzrostem k.
Kraków, kwiecień 2006
26
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
27
Miary zależności modeli PARMA(1,1) dla α = 2 i α = 1.4.
2
CD(Xn+k,Xn)/αCV(Xn+k,Xn)
1.5
1
0
5
10
15
20
25
30
35
40
45
50
2
CD(Xn,Xn−k)/αCV(Xn,Xn−k)
1.5
1
0
5
10
15
20
25
30
35
40
45
50
2
CD(Xn,Xn+k)/αCV(Xn,Xn+k)
1
0
0
5
10
15
20
25
30
35
40
45
50
2
CD(Xn−k,Xn)/αCV(Xn−k,Xn)
1
0
Kraków, kwiecień 2006
0
5
10
15
20
25
k
30
35
40
45
50
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
Na Rysunku 5 przedstwiono miary zależności: Cov(Xn , Xn+k ) dla
modelu PARMA(1,1) z innowacjami z rozkladu dla α = 2 oraz
CV (Xn , Xn+k ), CD(Xn , Xn+k ) dla PARMA(1,1) z innowacjami o
symetrycznym rozkladzie α−stabilnym dla α = 1.4. Przyjȩto k = 6.
Kraków, kwiecień 2006
28
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
29
Miary zależności modeli PARMA(1,1) dla α = 2 i α = 1.4.
2.5
Cov
2
1.5
1
0.5
0
5
10
15
20
25
30
35
40
45
50
2.5
CV
CD
2
1.5
1
0.5
0
5
10
15
20
25
30
n
Kraków, kwiecień 2006
35
40
45
50
Miary zależności dla modeli PARMA ze stabilnymi innowacjami
References
[1] Gladyshev E. G., 1961, Periodically correlated random
sequences, Sov. Math. 2., 385-388.
[2] Makagon, A., Weron A., Wylomańska A., 2004, Bounded
solutions for ARMA model with varying coefficients , Appl.
Math. 31, 273-285.
[3] Nowicka J., Weron A., 1997, Measures of Dependence for ARMA
Models with Stable Innovations, Annales vol.LI 1,14, 133-144.
[4] Nowicka J., 1997, Asymptotic behavior of the covariation and
the codifference for ARMA models with stable innovations,
Stochastic Models 13, 673-685.
[5] Wylomańska A., 2005, Description of the spectral measures for
periodically correlated solutions of PARMA sequences, Research
Report HSC/05/3, Wroclaw University of Technology.
Kraków, kwiecień 2006
30