Este documento trata sobre procesos estocásticos. Explica conceptos como proceso estocástico, estadísticos de un proceso como la media y la varianza, estacionariedad y ergodicidad. Incluye ejemplos de procesos estocásticos en sistemas de comunicaciones y cómo calcular la media, varianza y correlación de un proceso.

1. Procesos Estocásticos Procesos Estocásticos 1 SESIÓN 07

2. Referencias: Capítulo 8 de Introducción a los Sistemas de Comunicación . Stremler, C.G. (1993) Apuntes de la Universidad de Vigo (página Web) TEMA 8. PROCESOS ESTOCÁSTICOS Aplicar los conceptos de vectores aleatorios a la teoría de la señal Entender el concepto de proceso estocástico Interpretar y calcular los estadísticos de los procesos estocásticos: esperanza, autocovarianza y autocorrelación Interpretar y comprobar la estacionariedad de los procesos estocásticos Interpretar y determinar si un proceso es ergódico Saber calcular probabilidades en procesos estocásticos formados a través de distribuciones estudiadas en los temas anteriores Objetivos:

3. Esquema del tema TEMA 8. PROCESOS ESTOCÁSTICOS 8.1 Introducción. Concepto de proceso estocástico. 8.2 Estadísticos de un proceso estocástico 8.3 Estacionariedad de un proceso estocástico 8.4 Ergodicidad de un proceso estocástico 8.5 Ejemplos

4. 8.1. INTRODUCCIÓN En los temas 1-6 hemos estudiado procesos que no varían con el tiempo o sólo dependen de una variable. Por ejemplo, estudiamos el número de llamadas que se producen en una central telefónica. Y, si definimos X como el número de llamadas que se reciben en una hora, podemos decir que X sigue una distribución de Poisson de media λ ¿Pero, qué pasa si queremos definir ahora otra variable que corresponda al número de llamadas recibidas en la misma centralita durante todo el día de trabajo (8 horas)? Podríamos definir una nueva X’, variable que seguiría una distribución de Poisson, definida como número de llamadas recibidas en la centralita durante 8 horas, con una nueva λ ’ que sería igual a 8 · λ .

5. 8.1. INTRODUCCIÓN Y las representaciones serían (si λ =2, por ejemplo): λ =2 λ ’=16

6. Definición Así, para cada tiempo que fijemos tendríamos una variable aleatoria. Entonces, se define una familia de variables aleatorias que dependen de una variable determinista. En este caso el tiempo 8.1. INTRODUCCIÓN PROCESO ESTOCÁSTICO Se define el proceso estocástico X(t) como el número de llamadas que se producen en la centralita en el tiempo (0,t) Así, para cada valor de t que se elija, tendremos una variable aleatoria distinta, con forma similar pero distinto valor. En los temas anteriores definimos X(x), en este caso X( λ ) Ahora debemos representar X(x,t), en este caso, X( λ ,t ). En general, diremos X(t) igual que antes llamábamos X y no X( λ )

8. Proceso estocástico 8.1. INTRODUCCIÓN Es una función de dos variables, t y x, una determinista y otra aleatoria a) X( x,t) es una familia de funciones temporales b) Si se fija x, tenemos una función temporal X(t) llamada realización del proceso c) Si se fija t, tenemos una Variable Aleatoria d) Si se fijan t y x, tenemos un número real o complejo (muy normal en teoría de la señal)

9. Espacio de tiempos, T 8.1. INTRODUCCIÓN Conjunto de los posibles valores del tiempo que puede tomar el proceso estocástico Espacio de estados, S Conjunto de los posibles valores del proceso estocástico (resultado numérico, real o complejo) T Discreto S Continuo Discreto Continuo Proceso discreto en el tiempo Proceso continuo en el tiempo Proceso discreto en el espacio de estados Proceso continuo en el espacio de estados

10. Ejemplo 1 8.1. INTRODUCCIÓN Distintas realizaciones del proceso X(t) = N · cos((2π/24)t+φ) siendo N y φ VA con distribuciones P(10) y U(0,2π) respectivamente.

11. 8.1. INTRODUCCIÓN En general:

12. Ejemplo 2 8.1. INTRODUCCIÓN Caracterizar la continuidad del número de llamadas que llegan a la centralita. Es continuo en el tiempo, porque puede tomar cualquier valor real: t =1 hora t =1,67 horas t = 8 horas t = 35 horas, etc. Es discreto en el espacio de estados X( λ , t=t 0 ) es siempre un número entero Ejemplo 3 El tiempo que un ordenador tarda en ejecutar una tarea es una VA Y ~ Exp( λ ). Para hacer un estudio de la evolución temporal del sistema se construye el proceso estocástico X(t) definido como el tiempo que resta para completar la tarea sabiendo que ya ha consumido t minutos. Dibujar una realización del proceso y especificar los espacios T y S

13. Función de distribución 8.1. INTRODUCCIÓN Dado un proceso estocástico cualquiera, si fijamos un tiempo t=t 0 tendremos una V.A. X(t 0 ) que tendrá una función de distribución asociada. Si, para el mismo proceso, fijamos otro instante t=t 1 tendremos otra VA, en principio, distinta a la anterior, con una función de distribución diferente. Se define la función de distribución de primer orden del proceso X(t) como Y, por tanto, se tiene también la función de densidad de primer orden derivando la función de distribución respecto a x

14. Función de distribución de segundo orden 8.1. INTRODUCCIÓN De igual modo: Se define la función de distribución de segundo orden del proceso X(t) como Y, se puede obtener la función de densidad de segundo orden derivando la función de distribución parcialmente respecto a x 1 y a x 2

15. Aplicación de la función de distribución y función de densidad 8.1. INTRODUCCIÓN Realización de un proceso continuo en el tiempo con función de densidad de primer orden gaussiana

16. Esquema del tema TEMA 8. PROCESOS ESTOCÁSTICOS 8.1 Introducción. Concepto de proceso estocástico. 8.2 Estadísticos de un proceso estocástico 8.3 Estacionariedad de un proceso estocástico 8.4 Ergodicidad de un proceso estocástico 8.5 Ejemplos

18. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Ejemplo 3 Considerar la oscilación aleatoria X(t) = cos (2 Π · f · t + B · Φ ), donde f es una constante real, Φ es una variable aleatoria uniforme en [− Π /2, Π /2], y B es una variable aleatoria discreta, independente de Φ , tal que P(B=0)=p y P(B=1)=q. Definir y calcular la esperanza de la variable aleatoria X(t). Para cada t , cos ( 2 Π · f · t + Φ ) es una variable aleatoria función de Ø. Podemos escribir:

19. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Problema PE-1 Un transmisor envía pulsos rectangulares de altura y posición aleatorias. Cada pulso transmitido corresponde a una realización del proceso estocástico X(t) = V · h(t − T), t > 0, Donde l altura V del pulso es una variable aleatoria uniforme en [0,v 0 ], y T es una variable aleatoria exponencial de parámetro λ , independiente de V, y la función determinista h(t) es Calcular la función valor medio del proceso estocástico X(t) en el resto

21. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Correlación O esperanza del producto de Variables Aleatorias como función de dos variables temporales t k y t i dada por: En el caso de que t k = t i se tiene el valor cuadrático medio del proceso estocástico que es una función de una variable temporal: Potencia del proceso

22. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Covarianza Covarianza del proceso X(t) como una función de dos variables temporales t k y t i dada por : En el caso de que t k = t i se tiene la varianza del proceso estocástico De las definiciones de correlación y covarianza, se puede obtener: En el caso de que la media del proceso estocástico sea siempre cero, la función de correlación y la de covarianza coincidirían.

23. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Matriz de Correlación de dos procesos Todas las propiedades de correlación se pueden colocar de forma matricial según una matriz de funciones de dos dimensiones temporales. En el caso de que t=u la matriz de correlación tiene la expresión siguiente, siendo una matriz de funciones de una variable temporal y simétrica.

24. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Ejemplo 4 Si X(t) representa un proceso estocástico de media μ x (t) = 3 y función de correlación R X (t 1 , t 2 ) = 9 + 4 e−0,2 · |t1−t2| . Calcular la esperanza, la varianza y la covariancia de las variables aleatorias Z = X(5) y T = X(8). 1) Esperanzas E (Z) = E (X( 5 )) = μ x ( 5 ) = 3 E (T ) = E (X( 8 )) = μ x ( 8 ) = 3 2) Varianzas E (Z 2 ) = E (X( 5 ) · X( 5 )) = R X ( 5 , 5 ) = 13 E (T 2 ) = E (X( 8 ) · X( 8 )) = R X ( 8 , 8 ) = 13 Var (Z) = E (Z 2 ) − ( E (Z)) 2 = 4 Var (T) = E (T 2 ) − ( E (T)) 2 = 4 3) Covarianzas E (ZT) = E (X( 5 )X( 8 )) = R X( 5 , 8 ) = 9+4 e −0 . 6 Cov (Z,T) = E (ZT) − E (Z) E (T ) = 4 · e −0 . 6 O también como, Cov (Z,T) = K X ( 5 , 8 ) = R X ( 5 , 8 ) − μ x ( 5 ) · μ x ( 8 ) = 4 · e −0 . 6

25. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Independencia Dos procesos X(t) e Y(t) son independientes si su función de densidad conjunta de cualquier orden se puede descomponer como el producto de dos funciones de densidad marginales, una conteniendo términos sólo dependientes del proceso X(t) y la otra dependientes de Y(t). Incorrelación Dos procesos X(t) e Y(t) son incorrelados si C XY (t i , t k ) = 0 para cualquier valor de t i y t k . Ortogonalidad Dos procesos X(t) e Y(t) son ortogonales si R XY (t i , t k )=0 para cualquier valor de t i y t k .

26. ESTADÍSTICOS DE UN PROCESO ESTOCÁSTICO Problema PE-2 Calcular la función de correlación del proceso X(t) = A · cos (2 Π · f · t+ Φ ), donde A y Φ son variables aleatorias independientes, siendo Φ una variable aleatoria uniforme en [− Π , Π ], y A exponencial de parámetro λ . Problema PE-3. Septiembre 2004 El tiempo que un ordenador tarda en ejecutar una tarea es una v.a. Y ~ Exp( λ ). Para hacer un estudio de la evolución temporal del sistema se construye el proceso estocástico X(t) definido como el tiempo que resta para completar la tarea sabiendo que ya ha consumido t minutos. a) Determina E[X(t)], Var[X(t)], E[X(t) 2 ]. b) Indica si cada una de las funciones del aparatado anterior depende del tiempo e interpreta el resultado.

27. Esquema del tema TEMA 8. PROCESOS ESTOCÁSTICOS 8.1 Introducción. Concepto de proceso estocástico. 8.2 Estadísticos de un proceso estocástico 8.3 Estacionariedad de un proceso estocástico 8.4 Ergodicidad de un proceso estocástico 8.5 Ejemplos

28. ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO Cuando utilizamos un modelo estocástico, generalmente vamos a estar interesados en predecir el comportamiento del proceso en el futuro y para ello nos basamos en la historia del proceso. Estas predicciones no serán correctas a menos que las condiciones futuras sean análogas a las pasadas El mecanismo físico que genera el experimento no cambia con el tiempo Un proceso estocástico es estacionario si sus propiedades estadísticas son invariantes ante una traslación del tiempo

29. ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO Ejemplo El número de llamadas que llegan a una centralita hasta el instante t El número medio de llamadas no es constante, depende de t No estacionario

30. Ejemplo Distintas realizaciones del proceso X(t) = N · cos((2π/24)t+φ) siendo N y φ VA con distribuciones P(10) y U(0,2π) respectivamente. La media del proceso se mantiene constante puede ser estacionario ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO

31. ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO Estacionariedad (en sentido estricto) Un proceso X(t) es estacionario en sentido estricto si la función de densidad de densidad conjunta, de cualesquiera de sus n v.a. medidas en instantes t 1 ,…,t n, permanece constante cuando transcurre cualquier intervalo de tiempo  Esta es una condición muy fuerte ya que implicaría estudiar infinitas funciones de densidad conjunta Estacionariedad en sentido débil

34. Ejemplo 5 Distintas realizaciones del proceso X(t) = A · cos((2π/24)t+φ) siendo A constante y φ una VA con distribución U(-π, π). ¿Es X(t) débilmente estacionario? ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO

35. Ejemplo 5 Distintas realizaciones del proceso X(t) = A · cos((2π/24)t+φ) siendo A constante y φ una VA con distribución U(-π, π). ¿Es X(t) débilmente estacionario? Utilizando: ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO

36. Ejemplo 5 Distintas realizaciones del proceso X(t) = A · cos((2π/24)t+φ) siendo A constante y φ una VA con distribución U(-π, π). ¿Es X(t) débilmente estacionario? débilmente estacionario ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO

37. Problema PE-4 Sea U una VA uniforme en [0,1], a partir de ella se construye el proceso X(t)=exp(-Ut) a) Para cada valor de t, determina el rango de X(t) b) Calcula E[X(t)] y R x (t 1 ,t 2 ) c) Estudia la estacionariedad en sentido amplio Si X e Y son VA normales, independientes, comedia 0 y varianza 1, se define el proceso Z(t)=Xcos(2  t)+Ysin(2  t) a) Determinar la función de probabilidad conjunta de Z(t 1 ) y Z(t 2 ) b) Calcula la media y la autocovarianza del proceso Z(t) c) Estudia la estacionariedad en sentido débil y estricto ESTACIONARIEDAD DE UN PROCESO ESTOCÁSTICO Problema PE-5 Febrero 2003

38. Esquema del tema TEMA 8. PROCESOS ESTOCÁSTICOS 8.1 Introducción. Concepto de proceso estocástico. 8.2 Estadísticos de un proceso estocástico 8.3 Estacionariedad de un proceso estocástico 8.4 Ergodicidad de un proceso estocástico 8.5 Ejemplos

39. En muchas ocasiones, sólo disponemos de una realización del proceso (es decir, disponemos de una función temporal), en este caso, para conocer el proceso calculamos sus promedios temporales Sea X(t) un proceso estacionario, definimos la media temporal o valor medio en el tiempo como: La autocorrelación temporal se define como: Ambas son VA ya que toman valores distintos para cada realización del proceso ERGODICIDAD DE UN PROCESO ESTOCÁSTICO

40. Diremos que un proceso es ergódico si sus promedios estadísticos coinciden con los temporales  sólo necesitamos una realización del proceso para conocer los promedios estadísticos Ergodicidad en media : Dado que la media temporal  T no depende del tiempo, para que un proceso sea ergódico en media, es necesario que la media del proceso  X sea constante, esto se cumple si el proceso es estacionario Ejemplo 6 Sea A una VA N(0,1), definimos el proceso X(t)=A. ¿Es ergódico en media? No es ergódico en media ERGODICIDAD DE UN PROCESO ESTOCÁSTICO

41. Ergodicidad en autocorrelación : Sea . Si construimos el proceso , entonces , por lo tanto es ergódico en autocorrelación si es ergódico en media Ejemplo 7 Sea considera el proceso X(t)=acos(wt)+bcos(wt), donde a y b son dos VA independientes uniformemente distribuidas en [-1,1], estudiar la ergodicidad en media y autocorrelación. ERGODICIDAD DE UN PROCESO ESTOCÁSTICO Ergódico en media

42. Ergodicidad en autocorrelación : Sea . Si construimos el proceso , entonces , por lo tanto es ergódico en autocorrelación si es ergódico en media Ejemplo 7 Sea considera el proceso X(t)=acos(wt)+bcos(wt), donde a y b son dos VA independientes uniformemente distribuidas en [-1,1], estudiar la ergodicidad en media y autocorrelación. ERGODICIDAD DE UN PROCESO ESTOCÁSTICO No es ergódico en autocorrelación

43. Esquema del tema TEMA 8. PROCESOS ESTOCÁSTICOS 8.1 Introducción. Concepto de proceso estocástico. 8.2 Estadísticos de un proceso estocástico 8.3 Estacionariedad de un proceso estocástico 8.4 Ergodicidad de un proceso estocástico 8.5 Ejemplos

44. Proceso de Poisson Es un proceso de tiempo continuo y estado discreto. X(t)= número de sucesos en [0,t] X(t)~P(  t)  X =  t C x (t 1 ,t 2 )=  · min{t 1 ,t 2 } “ Ruido” = señales indeseables que constituyen una interferencia en un sistema de comunicaciones. Hay dos tipos de ruido: el ruido externo al sistema (atmosférico) ruido interno al sistema (fluctuaciones aleatorias debidas a dispositivos). Generalmente se representan las interferencias mediante un ruido blanco Ruido blanco : Un proceso es un ruido blanco si las variables X(t 1 ), X(t 2 ) están incorreladas para todo t. Si las variables son gaussianas incorreladas = independientes EJEMPLOS Ruido

45. Procesos Gaussianos Diremos que un proceso es gaussiano, si cualquier colección de VA del proceso tiene distribución conjunta gaussiana El proceso está totalmente descrito si conocemos su función media y su autocovarianza (o autocorrelación) Estacionariedad en sentido débil = estacionariedad en sentido estricto Un proceso es independiente C(t i ,t j )=0 Sean X e Y dos VA normales con media 0 y varianza Y, se define el proceso gaussiano: Z(t)=Xcos(2  t)+Ysin(2  t) EJEMPLOS Ejercicio (Feb 2003)

46. Procesos Autorregresivos Un proceso autorregresivo tiene la siguiente forma: EJEMPLOS

48. PROBLEMAS Si tomamos la v.a. bidimensional normal formada por los avances en ambas direcciones y con coeficiente de correlación  , Considerando  = 0, a) ¿cuál es la probabilidad de que en un día la mancha haya llegado a la zona de emergencia de las dos costas? b) Considerando  = 0,25, ¿cuál es la probabilidad de que en un día la mancha esté más cerca de la costa A que de la costa B?

49. Examen de Septiembre de 2003 PROBLEMAS Una compañía fabrica miras telescópicas cuya desviación del objetivo en mm se mide a través de dos VAs (X, Y ) con que indican las dos coordenadas en el plano (y el objetivo es el punto (0,0)). El ejército considera rechazable cualquier mira que no pasa la siguiente prueba: se efectúan tres disparos independientes y si alguno se desvía del objetivo en valor absoluto en más de 1mm en cualquiera de las dos coordenadas, se considera que es una mira defectuosa. a) Calcula la probabilidad de que el ejército considere defectuosa una mira. b) El proveedor vende al ejército cajas de 20 miras. El ejército considera rechazable cualquier caja con más de dos miras defectuosas. Calcula la probabilidad de que el ejército considere defectuosa una caja. c) En otro experimento donde se hicieron 20 disparos de forma independiente con una mira se obtuvo que la desviación horizontal media fue de 0,1 y su desviación típica 0.6 ¿Se puede concluir que esta mira estaba bien calibrada (es decir su desviación esperada es nula)?

50. Examen de Septiembre de 2004 PROBLEMAS El porcentaje de batería recargada por un cargador (X) sigue aproximadamente una distribución normal, de la cual se sabe que la probabilidad de recargar más del 95% es 0,5 y la probabilidad de recargar menos del 90% es 0,015. a) Calcular los parámetros de la distribución de la variable X. b) Si una batería se carga menos del 95 %, se enciende la luz roja. Tras cargar 500 baterías, ¿cuál es el numero de veces que se espera que se encienda la luz roja? ¿Cuál es la probabilidad de que en más de la cuarta parte de las cargas se encienda la luz? c) Se utiliza otro cargador para recargar un tipo de baterías diferente del anterior y se mide de nuevo el porcentaje de recarga (Y ). Se sabe que este sigue una distribución normal de media 95% y desviación típica 3%. ¿Qué distribución sigue (X+Y)/2 ?