Los procesos estocásticos. Las series históricas son sucesiones de variables aleatorias siendo su índice el tiempo {X_t}. Son observaciones tomadas a intervalos iguales, con lo cual las aplicaciones usuales corresponden a datos observados cada año, cada mes, cada hora, etc.

Con los datos se analiza la estructura de correlación que presenta la muestra, de aquí se propone y se  estima un modelo basado en ecuaciones en diferencias, el cual busca capturar la dinámica de la serie, de ser correcta la formulación del modelo este se valida y después se pronostican las futuras observaciones.

Estos les llamaremos procesos Autoregresivos Integrados de Media Móvil (ARIMA).

En su libro G.E.P. Box y G.M. Jenkins (1976) Abrieron un camino al uso masivo de técnicas que ya se habían venido estudiando por Schuster (1898, 1906), Yule (1921, 1927), Wold (1938), Walker (1931), Kolmogoroff (1939, 1941) Bartlett (1946), Wiener (1949), Doob (1953), Yaglom (1955), Jenkins (1956), Durbin (1960), Hannan (1960), Tiao (1976), Engle (1982), Granger (1987) y otros. Ellos dos propusieron un método general para abordar las aplicaciones de este tema de tal modo que su estrategia ha demostrado ser de enorme importancia.

El método de Box-Jenkins consiste en construir un modelo en varias etapas, ellos proponen las siguientes etapas:

1.- Postular una clase general de modelos.

2.- Identificar tentativamente el modelo.

3.- Estimar los parámetros de modelo tentativo.

4.- Validar del modelo, con pruebas de diagnóstico.

¿es el modelo adecuado?, NO buscar una nueva formulación.

5.- SI es adecuado, pasar a realizar un pronóstico.

Un proceso estocástico discreto es una sucesión infinita de variables aleatorias    .., Z₁, Z₂,...,Z_T,... de la cual solo tenemos una muestra (digamos 60 o más observaciones) y queremos anticipar su evolución futura.

La muestra consta de una serie de datos z₁, z₂,...,z_T, los cuales corresponden a observaciones hechas a intervalos iguales de tiempo: cada hora, día, semana, mes, trimestre, año etc.

Cada muestra es una realización de una serie; { Z_T } en la que cada elemento Z_T es una variable aleatoria y z_T, el dato registrado es solo una observación de la variable Z_T. La serie es llamada un proceso estocástico discreto z será denotada por {Z₀, Z₁, Z₂,...}, los datos observados: z₀, z₁,...,z_T son una realización.

Procesos estacionarios en covarianza. El proceso ...,Z₀, Z₂,...,Z_T, ... se llama debílmente estacionario de orden m si todos sus momentos hasta orden m existen y no dependen del tiempo. Se trabajará solamente con procesos que son debílmente estacionarios del segundo orden, también llamados procesos estacionarios en covarianza. Lo que implica que el proceso estocástico { Z_T } tiene media constante , varianza constante, además la covarianza no depende del tiempo solo depende de la distancia a la que se toman las observaciones:

La covariación observada entre la variable y su propio pasado (z_t , z_t-k ), nos da una información vital para entender como la tendencia a moverse conjuntamente permite entender su desenvolvimiento.

Repitiendo las ideas de modo indirecto. Hacer, si se necesita, una transformación para que la serie a modelar presente una oscilación alrededor de un nivel fijo y el patrón de co-movimiento de la variable con su pasado no se altere con el paso del tiempo, por lo tanto las covariaciones reveladas en su historia serán las covaraciones a presentarse en el futuro ya que la covarianza no depende del tiempo.

Las covariariaciones se capturan en una ecuación en diferencias, llamada ARMA(p,q) que veremos mas adelante.

W_t = Z_t - m_Z.    E[W_t]=0.  En la práctica siempre es recomendable tomar datos centrados.

Estos procesos estacionarios del segundo orden llamados también estacionarios en covarianza, forman la familia que define el ámbito de estudio, la cual tiene un miembro que lleva un lugar destacado en la teoría y la práctica, es el ruido blanco {a_t }.

La serie { a_t }, o sea; a₁,...,a_T,...., se le llama ruido blanco si cumple las condiciones:

E[a_t]      =  0 media cero.

Cov( a_t, a_s) = 0 para t diferente de s. No hay co-movimiento entre la serie y sus retrasos.

La importancia radica en que el ruido blanco al no depender de su pasado las nuevas observaciones son solo innovaciones debidas puramente al azar. ya que no hay covariación entre a_t con a_t-k. El enlace lineal que presenta la serie {Z_t}, con su pasado, lo cual se medirá por la covariación ya normalizada que es la correlación entre Z_t con Z_t-k.

Otro ejemplo de un proceso estocástico estacionario es cuando se trata de un proceso autoregresivo del primer orden AR(1), o sea es de la forma:

Si r = 1 se le llama al proceso una caminata aleatoria, al parámetro r se le llama una raíz unitaria. Usando la idea de un polinomio de retraso B(Z_t) = z_t-1 el proceso se expresa como (1- rB)z_t = a_t.

Otro ejemplo sencillo de un proceso estocástico estacionario en covarianza es una media móvil de orden dos MA(2), en esta el ruido blanco y su pasado es quien describe la evolución del proceso estocástico {z_t}

Usando nuevamente la idea de un polinomio de retraso tenemos la expresión:

z_t = (1-m₁B-m₂B²)a_t

Es conveniente tomar los parámetros de modo que satisfagan las condiciones, para que la serie sea invertible:

Los anteriores ejemplos se pueden conjuntar en un proceso ARMA(1,2) dando un nuevo tipo de proceso estocástico:

Por otra tenemos un MA(2)                  e_t =      a_t -m₁ a_t-1 - m₂ a_t-2

Ejemplos de algunos procesos estacionarios usuales de hallar en la práctica son:

Media Móvil de orden uno,   MA(1)      z_t = a_t - m₁a_t-1

Media Móvil de orden tres,   MA(2)      z_t = a_t - m₁ a_t-1 - m₂ a_t-2

Media Móvil,orden tres,        MA(3)       z_t = a_t - m₁ a_t-1 - m₂ a_t-2 - m₃ a_t-3

Estos son ejemplos de la familia general MA(q)

                                                                   z_t = a_t - m₁ a_t-1 - m₂ a_t-2 -...- m_q a_t-q

Autoregresivo de orden uno, AR(1)         z_t = r₁ z_t-1 + a_t

Autoregresivo de orden dos, AR(2)         z_t = r₁z_t-1 + r₂ z_t-2 + a_t

Autoregresivo,orden tres, AR(3)              z_t = r₁ z_t-1 + r₂ z_t-2 + r₃ z_t-3 + a_t

Estos son ejemplos dentro de  la familia general AR(p)

                                                                    z_t = r₁ z_t-1 + r₂ z_t-2 +...+ r_p z_t-p + a_t

Autoregresivo de media móvil (1,1), ARMA(1,1)

Autoregresivo de media móvil (3,2), ARMA(3,2)

                                                                        z_t = r₁ z_t-1 + r₂ z_t-2 + r₃ z_t-3 + a_t - m₁ a_t-1 - m₂ a_t-2

Estos son ejemplos dentro de la familia general ARMA(p,q):

                                   z_t - r₁ z_t-1 - ......- r_p z_t-p = r₀ + a_t - m₁ a_t-1 -.....- m_q a_t-q

Se trata  de usar la  función de autocorrelación:

(  r (k) = g (k) / g (0) = Cov( Z_t, Z_t-k )  / g (0)  )

y la de función autocorrelación parcial ( que después revisaremos)

para proponer valores de (p,q) en el modelo ARMA(p,q).

Usualmente se toman como p,q = 1,2,3,4,5, 6.

Un aspecto importante que el lector debe cuidar es que los parámetros del proceso, o sea las r's y las m's deben de cumplir ciertas condiciones para que el proceso resulte causal e invertible. No es correcto pensar que cualquier elección de valores para las  r's  origina un proceso en el cual la media, la varianza y las covarianzas, existen y no dependen del tiempo.

Tomando el operador esperanza en el modelo general ARMA(p,q) se tiene:

E[z_t] = r₀+r₁E[z_t-1]+ ......+r_p E[z_t-p]+E[a_t]-m₁E[a_t-1] -.....-m_qE[a_t-q]

Usualmente las series económicas no son estacionarias sino que son evolutivas, esto se debe a que presentan una tendencia al crecimiento. Hay dos tipos de series que nos van a ser especialmente útiles de estudiar.

Las series estacionarias por tendencia son aquellas en las que un polinomio guía la tendencia de la serie por lo que estas presentan oscilaciones alrededor de su línea determinista y cuando se presenta una perturbación la trayectoria de la variable aunque momentáneamente se altere,  retoma su trayectoria de largo plazo la cual esta marcada por su tendencia determinista (o sea el polinomio).

En este caso se hace una regresión, o sea se proyecta la serie contra el polinomio y los residuos son los datos ajustados por tendencia.

La otra familia consiste de las series estacionarias en diferencias; ahore se trata de un proceso que su línea de tendencia la controla el azar, por lo que no manifiesta ninguna tendencia a tomar alguna trayectoria fija, la línea de tendencia es probabilísta por lo que una perturbación manda la variable a una nueva trayectoria.

En este caso se aplican primeras o segundas diferencias y se llega a una serie estacionaria en covarianza.

La diferencia es muy importante y se usa una prueba de raíces unitarias para hallar a que grupo pertenece. Esto ha mostrado ser vital no solo para especificar correctamente un modelo, sino que más importante aún, nos obliga a considerar el carácter que poseen las series con las que se trabaja cuando se formulan los modelos.

No es correcto pensar que toda serie evolutiva, con ajustarle un polinomio y quedarse con los residuos ya se logra una adecuada serie estacionaria en covarianza, esto se logra solo con las series estacionarias en tendencia ( trend stationary) hay otra familia muy importante la cual se hace estacionaria utilizando diferencias (difference stationary).

Series con tendencia estocástica. Estudios recientes afirman que el considerar la variable PIB como una serie de tendencia determinista es equivocado por lo que utilizar la regresión simple para estimar esta tendencia, se ha vuelto controvertida.     Ya que implica un patrón de crecimiento determinístico fijo de largo plazo.

Los adherentes al ciclo económico real afirman que un avance tecnológico tiene efectos de largo plazo por lo que no se acepta esta noción de tendencia inmóvil de largo plazo. Dado que el surgimiento de las innovaciones tecnológicas es estocástico la línea de tendencia debe mostrar este carácter de aleatoriedad, por lo que se tiene que considerar que la tendencia es inherentemente probabilística y que un choque tiene efectos permanentes.

Nelson Charles y Charles Plosser. ("Trends and Random Walks in Macroeconomic Time Series: Some Evidence and Implications" Journal of Monetary Economics 10 (1982) p. 130-162 ) hallan que las más importantes variables macroeconómicas no siguen una línea de tendencia determinista sino que es estocástica por lo que si se presenta un impacto en la variable, esta no se regresa a su trayectoria de largo plazo, en suma: una perturbación tiene efectos permanentes de largo plazo.

El ejemplo mas simple de una línea de tendencia que se modifica al azar esta dada por el proceso de la caminata aleatoria:

Tomando valor esperado en este modelo se tiene, E(Y_t ) =Y₀, por lo que la media es constante, aunque se aleje de Y₀, la caminata debe presentar un retorno. Sin embargo las innovaciones tienen un efecto que no decae sino que se acumula.

La varianza esta dada por: , al no ser constante la varianza el proceso no es estacionario del segundo orden, ya que este tiende a hacerse cada vez más volátil.

La autocovarianza y la autocorrelación están dadas por:

El otro ejemplo es una caminata al azar con desplazamiento, ya que se obtiene un modelo que tiene una componente determinista y una tendencia aleatoria.

dado el punto de arranque, uno sustituye hacia atrás y obtiene:

Caminata al azar con ruido     Otro interesante ejemplo es el llamado modelo de caminata al azar con ruido el cual viene dado por:

La solución para la línea de tendencia al azar esta dada por:

La autocovarianza y la autocorrelación están dadas por:

Raices unitarias. Debido a la importancia de estas dos grandes familias de variables, unas con tendencia determinista las otras con trayectoria probabilística.       La prueba de Dickey -Fuller nos permite asignar a que grupo pertenece la serie, y como es posible hallar series que presentan ambas características, la prueba tiene varias formulaciones para permitir un análisis elaborado.

Las series económicas y financieras fundamentales (PIB real, PIB nominal, PIB per capita, producción industrial, empleo, tasa de desempleo, deflactor del PIB, Índice de precios al consumidor, salario nominal, salario real, masa monetaria, velocidad de circulación del dinero, rendimiento de los bonos, precios de acciones) se conoce que son series que poseen una línea de tendencia probabilística, esto se debe al trabajo de Nelson y Plosser.

Es fundamental que note que para la evolución de largo plazo la variabilidad que presenta una serie estacionaria por tendencia es finita mientras que la varianza en un proceso estacionario por diferencias tiende a ser explosiva. Considere el impacto que esto tiene en la Macroeconomía al hablar de la posición de largo plazo de una variable.

Cuando se tiene una serie estacionaria del segundo orden sabemos que tiene una media y varianza constantes y la covarianza solo depende de la distancia entre las observaciones y no depende del tiempo. Por esta razón una serie estacionaria presenta características especificas:

1.- Exhibe reversión en la media, esto es, se aleja de su media pero finalmente tiene que retornar a esta.

2.- Tiene volatilidad constante.

3.- Tiene una función de autocorrelación que disminuye conforme el retraso se incrementa. Esta memoria puede presentar un patrón de comportamiento que oscila entre un decaimiento y un punto de corte.

Como consecuencia de estas características tenemos que un choque sobre una variable estacionaria debe tener solo un efecto temporal ya que la variable retorna a su linea de largo plazo. Si la serie tiene tendencia probabilística un choque que reciba modifica enteramente su curso futuro.

Cuando se halla uno frente a una serie evolutiva, lo que se desea es determinar si la serie evolutiva es estacionaria por tendencia o por diferencias.

es claro que la condición -1 < r < 1 ahora queda como -2 < g  < 0,

ya que:   g = r-1.

Hay varios casos importantes:

Cuando se desea saber si hay raíz unitaria con una linea de tendencia, lo mas general:

A)         

Cuando sabiendo que no hay tendencia b = 0 se desea ver si tiene una constante:

                                                                B)      

                                                                C)    

Es importante darse cuenta que los casos anteriores están dentro de una prueba de hipótesis anidada.

Al caso C le corresponde g = 0 , a = 0 , b = 0. Es solo una caminata al azar

Prueba de Dickey-Fuller. En 1979 David Dickey   y  Wayne Fuller, produjeron una prueba para detectar la presencia de raíces unitarias.

Consideremos el proceso AR(1)  z_t = r z_t-1 + a_t usualmente se cumple la condición        -1 < r < 1,   pero si r = 1  se le llama una raíz unitaria.  Es bien conocido que si r tiende a uno el estimador de mínimos cuadrados manifiesta un sesgo, pero si esta dentro del intervalo |r| < 1, el estimador de mínimos cuadrados es consistente (lo que sifnifica que para muestras grandes es muy probable que la estimación este cerca del valor poblacional) y converge en distribución a la normal ( debido a que en una muestra finita no conocemos su distribución, lo que se hace es tomar la distribución límite,   la normal).

Ellos comprueban nuevamente que el estimador es sesgado hacia abajo, pero el estimador de mínimos cuadrados converge a su limite en probabilidad mas rápidamente que los estimadores rivales, con esto llegan a una prueba para detectar la presencia de una raíz unitaria, la idea es como sigue:

Si el proceso es:                                                                    z_t = r z_t-1 + a_t

se le resta de ambos lados z_t-1 obteniendo:               z_t - z_t-1 = (r-1) z_t-1 + a_t

y se hace la prueba con hipótesis nula g = 0

que es en realidad probar si r = 1. Contra la alternativa r < 1.

Se rechaza la hipótesis nula, hay una raíz unitaria,  cuando el valor absoluto del estadístico de prueba es grande.

Aparentemente es una prueba de t por el modo de estimar el estadístico, pero este no es el caso, este estimador llamado el estadístico de Dickey-Fuller requiere de tablas generadas por métodos de Monte Carlo. Como la variable no es estacionaria las tablas usuales de t, no se aplican.

Dickey Fuller consideran tres diferentes alternativas para analizar la presencia de una raíz unitaria.

El método para hacer la prueba es el mismo independientemente del tipo de modelo utilizado en todos se mira el estadístico de t pero no se usan las tablas de t-Student.

Las tablas a utilizar para hallar el valor crítico si se modifican, ya que estas dependen de la regresión utilizada y del tamaño de la muestra. Lo que se hace es considerar tres tablas estadísticas:

Estas tablas son obtenidas usando técnicas de Monte Carlo, más recientemente MacKinnon (1990, "Critical Values for Cointegration Tests", Working Paper, Universidad de California, San Diego). Ha realizado un estudio de Monte Carlo más amplio de modo que permite calcular los valores críticos independientemente del tamaño de la muestra y además hay programas de cómputo que lo presentan automáticamente, por lo que las tablas anteriores van en desuso.

Veamos un ejemplo simple:

Si la prueba de Dickey-Fuller es aplicada a sabiendas que es una caminata aleatoria generada en una computadora:

Digamos que el estadístico de es Dickey-Fuller =  -0.8121  como esta a la derecha del punto crítico. Por lo que se concluye una raíz unitaria, como uno esperaba.

 Valores críticos de MacKinnon para diferentes niveles de significación.

    1%      -2.5762

    5%      -1.9415

    10%    -1.6166

La prueba aumentada de Dickey Fuller.

Sería muy interesante saber si en lugar de un AR(1) podemos hacer algo similar con un AR(p).

Digamos con un AR(2):                               z_t = r₁z_t-1 + r₂ z_t-2 + a_t + a + bt

Sumamos y restamos r₂ z_t-1 obteniendo:

                                                                      z_t = r₁z_t-1 + r₂ z_t-2 +[ r₂ z_t-1- r₂ z_t-1 ]+ a_t + a + bt

                                                                      z_t = (r₁ + r₂ )z_t-1- r₂ (z_t-1 - z_t-2) + a_t + a + bt

ahora restamos como antes z_t-1 de cada lado y llegamos a:

En este caso de un AR(2), la pregunta importante esta manifestada en la hipótesis nula,

H₀:  g = r₁ + r₂ -1 =0.                 Ahora la estimación irrestricta es:

Veamoslo con un AR(3):               z_t = r₁ z_t-1 + r₂ z_t-2 + r₃ z_t-3 + a_t+ a + bt

Sumamos y restamos r₃ z_t-2 obteniendo:

                                            z_t = r₁ z_t-1 + r₂ z_t-2 + r₃ z_t-3 +[ r₃ z_t-2 -r₃ z_t-2 ] + a_t+ a + bt

                                            z_t = r₁ z_t-1 + (r₂ +r₃ )z_t-2 - r₃ (z_t-2 - z_t-3)+a_t+ a + bt

ahora sumamos y restamos (r₂ +r₃ )z_t-1

                                            z_t = r₁ z_t-1 +(r₂ +r₃ )z_t-1- (r₂ +r₃ )z_t-1 + (r₂ +r₃ )z_t-2 - r₃ (z_t-2 - z_t-3) + a_t+ a + bt

                                            z_t = r₁ z_t-1 +(r₂ +r₃ )z_t-1- (r₂ +r₃ )(z_t-1 -z_t-2 )- r₃ (z_t-2 - z_t-3)+a_t+ a + bt

ahora restamos como antes z_t-1 de cada lado y llegamos a:

En el caso de un AR(3), la pregunta importante esta manifestada en la hipótesis nula, H₀:  g = r₁ + r₂ + r₃ -1 =0

y la estimación irrestricta es:       Dz_t = g z_t-1+ b₁ Dz_t-1+ b₂Dz_t-2 + a_t + a + bt

Este camino lleva al caso general, esta prueba se puede aplicar a modelos que contienen una componente autoregresiva AR(p):

                                      z_t = m₁ z_t-1 + m₂ z_t-2 + ...+ m_p z_t-p + a_t + a + bt

donde a_t es ruido blanco  sumando y restando m_p z_t-p+1 se tiene:

ahora se suma y resta (m_p-1+m_p)z_t-p+2 y se obtiene:

siguiendo de esta manera se tiene al final la expresión:

donde las relaciones entre los parámetros son:

Los mismos estadísticos de antes pueden ser usados sin modificación. El parámetro de interés es g = 0,  es cotejar la idea de que existe una raíz unitaria.

En la literatura se le conoce como la prueba aumentada de Dickey-Fuller los paquetes de cómputo presentan el valor del estadístico junto a los valores críticos de MacKinnon.

O sea la expresión general es:

donde b es un parámetro que mide la tendencia, a mide desplazamiento y la hipótesis nula en todos los casos es  H₀:  g =0 contra la alternativa  H₁:  g <0.

Esta prueba es usada para mirar si un proceso no posee una raíz unitaria. ya que de no ser así y suponer estacionariedad para elaborar el modelo es una ruta equivocada.