1. An´alisis de Series de Tiempo Univariadas y Metodolog´ıa
Box - Jenkins para predicci´on
Series de Tiempo Estacionarias
Juan Carlos Campuzano S.
Escuela Superior Polit´ecnica del Litoral
Semestre I 2013
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 1 / 30
2. Contenido
Introducci´on al an´alisis Series de Tiempo
Proceso Estoc´astico
Procesos Estacionarios
Funci´on de Autocorrelaci´on
Ejemplos de procesos de series temporales
Ruido Blanco Normal
AR(1)
Paseo aleatorio
Operadores de Rezago
Procesos Autoregresivos
Media M´ovil
Procesos ARMA
Ejemplos
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 2 / 30
3. An´alisis Series de Tiempo
Uno de los objetivos del an´alisis de las series de tiempo es la predicci´on.
1 De la teor´ıa a los datos.- Se establecen las ecuaciones de regresi´on en
funci´on de lo que dice la teor´ıa econ´omica. Supone que la relaci´on se
va a mantener en el tiempo.
2 De los datos a la teor´ıa.- No hay mejor forma de predecir una variable
que en funci´on del comportamiento de dicha variable en el pasado.
Luego se trata de dar la interpretaci´on econ´omica a estos resultados.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 3 / 30
4. La predicci´on cient´ıfica pretende alcanzar dos grandes objetivos:
Proporcionar un valor probable o previsto de algunos resultados.
Reducir la incertidumbre sobre el rango de valores que pueden resultar
de un evento futuro
La esencia de cualquier decisi´on de riesgo es que no se puede conocer con
certeza cual ser´a el resultado futuro de una decisi´on que se tomar´a con la
informaci´on disponible en el presente. El riesgo es b´asicamente la falta de
conocimiento sobre el futuro.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 4 / 30
5. Proceso Estoc´astico - Definici´on
Un proceso estoc´astico {yt}∞
t=−∞ es una colecci´on de variables aleatorias
indexadas por un conjunto t.
La teor´ıa de procesos estoc´asticos nos da una visi´on formal de observar las
series de tiempo de las variables econ´omicas.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 5 / 30
7. Procesos Estacionarios
El problema fundamental en el an´alisis de series de temporales es que
unicamente se pueden observar las realizaciones del proceso s´olo una
vez. De esta manera, si la distribuci´on de una determinada variable
permanece sin cambio, se dice que el proceso es estacionario.
Por ahora el inter´es se centra en procesos estoc´asticos estacionarios,
en particular sobre los estacionarios en covarianza.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 7 / 30
8. Proceso estrictamente estacionario
Un proceso estocastico zi (i = 1, 2, ...) es (estrictamente) estacionario si,
para cualquier valor r finito de enteros y para cualquier conjunto de
subindices, i1, i2, i3, ..., ir , la distribucion conjunta de (zi , zi1 , zi2 ..., zir )
depende solo de i1 − i, i2 − i, ..., ir − i, pero no de i. Por ejemplo, la
distribucion conjunta de (z1, z5) es la misma de (z12, z16).
Proceso estacionario en convarianza
Un proceso zi es debilmente estacionario (o estacionario en covarianza) si:
1 E(zi ) no depende de i, y
2 cov(zi , zi−j ) existe, es finito y depende solo de j pero no de i.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 8 / 30
9. Proceso Estacionario en Covarianza
Sean los elementos de una serie de tiempo aquellos denotados por:
{Yt} = y1, y2, ..., yt, ...
y sean la media y la varianza de las observaciones en el momento t
aquellas dadas por:
µt = E[Yt]
σ2
t = E[(Yt − µ)2
]
Sea adem´as la covarianza de Yt, Ys
cov(Yt, Ys) = E[(Yt − µt)(Ys − µs)] = λt,s
Una serie es estacionaria de segundo orden si:
µt = µ
σ2
t = σ
λt,s = λt−s
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 9 / 30
10. Autocorrelaciones
En ocasiones se utilizan las correlaciones en lugar de las covarianzas. As´ı,
la autocorrelaci´on en el rezago τ, ρτ se define como:
ρτ =
λt,t+τ
λ0
= λτ
λ0
= E[(Xt−µ)(Xt+τ −µ)
E[(Xt−µ)(Xt−µ)]
Una gr´afica de ρτ contra τ se conoce como autocorrelograma o
funci´on de autocorrelaci´on y usualmente es una buena gu´ıa para
analizar las propiedades de las series.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 10 / 30
11. Ruido Blanco Normal (Gaussiano)
Si los εt son variables aleatorias independientes y normalmente distribuidas
con media cero y varianza σ2, entonces se dice que siguen un proceso
denominado ruido blanco normal. Esto es:
µ = E[εt]
µ = 0
Var(εt) = σ2
ε
ρ0 = 1
ρτ = E[εtεt+τ ]
ρτ = 0, siτ = 0
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 11 / 30
13. Proceso AR(1)
Las autocovarianzas est´an dadas por:
λk = E[XtXt+k]
= E
∞
0
αi
εt−i
∞
0
αi
εt+k−i
=
∞
0
αi
αk+i
σ2
ε
= . . .
= σ2
ε
αk
1 − α2
y las autocorrelaciones por:
ρk =
γk
γ0
= αk
, k = 0, 1, ...
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 13 / 30
14. Paseo Aleatorio
Consideremos un proceso AR(1) con α = 1. Adem´as mantengamos el
supuesto de que εt es ruido blanco. Xt es un paseo aletorio si:
Xt = Xt−1 + εt
Es estacionario el proceso?
Sea el valor en t = 0, X0 = 0. Por sustituci´on:
Xt = εt + εt−1 + ... + ε1 + X0
De esta manera:
E[Xt] = X0
Var[Xt] = tσ2
ε
El proceso NO es estacionario.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 14 / 30
15. Operadores de Rezago
Sean X1, ..., Xt una serie de tiempo, se define el operador de rezago L
como:
LXt = Xt−1
L2Xt = Xt−2
LpXt = Xt−p
Sea ahora el polinomio de rezagos aquel expresado como:
α(L) = 1 − α1L − α2L2 − ... − αpLp
un proceso AR(p) se define como:
Xt = α1Xt−1 + α2Xt−2 + ... + αpXt−p + εt
Donde εt es un ruido blanco. En t´erminos de operadores de rezago se
puede expresar como:
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 15 / 30
16. Xt = α1LXt + α2L2Xt + ... + αpLpXt + εt
(1 − α1L − α2L2 − ... − αpLp)Xt = εt
α(L)Xt = εt
Los operadores de rezago son manipulados usando las reglas ordinarias del
algebra. Dhrymes(1976).
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 16 / 30
17. Procesos Autoregresivos
Proceso AR(2)
Sea el proceso AR(2) aquel definido como:
Xt = φ1Xt−1 + φ2Xt−2 + εt
En t´erminos de los operadores de rezago se puede expresar como:
(1 − φ1L − φ2L2)Xt = εt
Se puede escribir el proceso como:
Xt = ψ(L)εt
= (1 + ψ1L + ψ2L2
+ ...)εt
donde
(1 − φ1L − φ2L2
)−1
≡ (1 + ψ1L + ψ2L2
+ ...)
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 17 / 30
18. Recordemos que el proceso AR(1) era estacionario si |α| < 1. Qu´e
condiciones se deber´ıan imponer en un proceso AR(2) para que ´este sea
estacionario?
Sean g1 y g2 las ra´ıces de:
(1 − φ1L − φ2L2) = 0
La ecuaci´on se puede escribir como:
(1 − g1L)(1 − g2L) = 0
El proceso es estacionario si |g1| < 1 y |g2| < 1. Las ra´ıces pueden ser
reales o complejas. Estas restricciones imponen las siguientes condiciones
sobre φ1 y φ2:
φ1 + φ2 < 1
−φ1 + φ2 < 1
|φ2| < 1
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 18 / 30
19. La funci´on de autocorrelacion (ACF) de un proceso AR(2) estacionario se
puede obtener de la siguiente manera: multiplique el proceso
Xt = φ1Xt−1 + φ2Xt−2 + εt
por Xt−k y tome las expectativas, esto es:
Xt − φ1Xt−1 − φ2Xt−2 = εt
E[XtXt−k] − φ1E[Xt−1Xt−k] − φ2E[Xt−2Xt−k] = E[Xt−kεt]
γk − φ1γk−1 − φ2γk−2 = E[Xt−kεt]
E[Xt−2Xt−k] = {
σ2
ε , k = 0
0, k = 1, 2, ...
γ0 − φ1γ−1 − φ2γ−2 = σ2
ε = γ0 − φ1γ1 − φ2γ2
γk − φ1γk−1 − φ2γk−2 = 0, k = 1, 2, ...
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 19 / 30
20. En t´erminos de las autocorrelaciones, se tiene:
ρk − φ1ρk−1 − φ2ρk−2 = 0 , k=1,2,...
Dadas las condiciones iniciales (ρ0 = 1, ρ−1 = ρ1) se puede resolver el
problema por sustituci´on directa:
Para k=1
ρ1 − φ1ρ0 − φ2ρ−1 = 0
ρ0 = 1
ρ1 = ρ−1
ρ1 =
φ1
1 − φ2
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 20 / 30
21. Para k=2
ρ2 − φ1ρ1 − φ2ρ0 = 0
ρ2 = φ1ρ1 + φ2ρ0
=
φ2
1
1 − φ2
+ φ2
de la misma manera se pueden obtener los otros valores para k=3,4,...
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 21 / 30
23. Proceso AR(p)
Un proceso AR(p) se define como aquel proceso estoc´astico que sigue la
siguiente expresi´on:
xt − φ1xt−1 − φ2xt−2 − ... − φpxt−p = εt
de manera equivalente
(1 − φ1L − φ2L2 − ... − φpLp)xt = εt
o
Φ(L)xt = εt
Para un proceso AR(p)las condiciones de estacionariedad se deben
plantear como sigue:
Φ(L) = (1 − g1L)(1 − g2L)...(1 − gpL)
las condiciones de estacionariedad requieren que:
|gi | < 1, para i=1,2,...,p
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 23 / 30
24. Proceso de Medias M´oviles
Proceso MA(1)
Sea el proceso MA(1) aquel definido como:
Xt = εt + θεt−1
donde εt es ruido blanco. Entonces, se tiene que:
E[Xt] = 0
var[Xt] = E[εt + θεt−1]2
= E[εt]2
+ θ2
E[εt−1]2
(independencia)
= (1 + θ2
)σ2
ε
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 24 / 30
25. Las autocovarianzas y autocorrelaciones vienen dadas por:
λ1 = E[xtxt−1]
= E[(εt + θεt−1)(εt−1 + θεt−2)]
= θE[ε2
t−1]
= θσ2
ε
por lo tanto:
ρ1 =
θ
1 + θ2
λ2 = E[xt−1xt−2]
= E[(εt−1 + θεt−2)(εt−2 + θεt−3)]
= 0
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 25 / 30
26. Proceso MA(q)
Un proceso MA(q) se define como sigue, en donde εt es el usual ruido
blanco gaussiano.
Xt = εt + θ1εt−1 + ... + θqεt−q
Su media y varianza est´an dadas por:
E[Xt] = 0
var[Xt] = (1 + θ2
1 + θ2
2 + ... + θ2
q)σ2
ε
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 26 / 30
27. Las autocovarianzas y autocorrelaciones vienen dadas por:
λk = COV (XtXt−k)
= E[XtXt−k]
= E[(εt + θ1εt−1 + ... + θqεt−q)(εt−k + θ1εt−k−1 + ... + θqεt−k−q)]
= (θk + θk+1θ1 + ... + θqθq−k)σ2
ε
y
ρk = λk
var[Xt ]
El punto importante a notar es que la funci´on de autocorrelaci´on para un
proceso MA(q)es cero para rezagos mayores a q.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 27 / 30
28. Invertibilidad
Una propiedad requerida en ocasiones en el an´alisis de series de tiempo es
la de invertibilidad. Recordemos que el proceso AR(1)
Xt = αXt−1 + εt
era estacionario si |α| < 1. En cuyo caso, el proceso AR(1) tiene una
representaci´on MA(∞).
xt = (1 − αL)−1
εt
= (1 + αL + α2
L2
+ ...)εt
= εt + αεt−1 + α2
εt−2 + ...
y esta serie converge debido a sus propiedades estacionarias.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 28 / 30
29. Consideremos ahora un proceso MA(1) con |θ| < 1 o, lo que es lo mismo
|θ|
−1
> 1
xt = (1 + θL)εt
(1 + θL)−1
xt = εt
(1 + θL + θ2
L2
+ ...)xt = εt
xt + θxt−1 + θ2
xt−2 + ... = εt
el lado izquierdo converge si |θ| < 1. En cuyo caso el proceso MA(1) tiene
una representaci´on AR(∞) y se dice que el proceso es invertible. Si el
proceso MA(q) xt = Θ(L)εt es invertible, las raices de Θ(L) = 0 est´an
fuera del c´ırculo unitario.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 29 / 30
30. El Proceso ARMA(p,q)
Considere ahora el proceso (mixto) ARMA(p,q) siguiente:
Xt = φ1Xt−1 + φ2Xt−2 + ... + φpXt−p + εt + θ1εt−1 + ... + θqεt−q
(1 − φ1L − φ2L2
− ... − φpLp
)Xt = (1 + θ1L + θ2L2
+ ... + θqLq
)εt
Φ(L)Xt = Θ(L)εt
Las condiciones de estacionariedad son las mismas que para un
proceso AR(p). Esto es, Φ(L) = 0 tiene sus ra´ıces fuera del c´ırculo
unitario.
Las condiciones de invertibilidad son las mismas que para un proceso
MA(q). Esto es, las ra´ıces de Θ(L) = 0 caen dentro del c´ırculo
unitario.
En el autocorrelograma de un proceso ARMA(p, q), los rezagos est´an
determinado por la parte del proceso AR(p) mientras que el efecto del
proceso MA decae lentamente.
J. Campuzano (E.S.P.O.L) Metodolog´ıa Box - Jenkins Semestre I 2013 30 / 30