Este documento presenta cuatro preguntas sobre modelado de cadenas de Markov de tiempo discreto. La primera pregunta describe un modelo para estimar la dinámica de vida de ovas de salmón. La segunda pregunta modela un juego entre dos jugadores con monedas. La tercera pregunta modela la reproducción de glóbulos rojos y blancos. La cuarta pregunta modela los estados de alerta ambiental en Santiago debido a la contaminación vehicular.

1. EJERCICIOS RESUELTOS
FORMULACION DE MODELOS DE MARKOV DE TIEMPO DISCRETO
Pregunta Nº 1. Se quiere construir un modelo markoviano para estimar la dinámica de vida de un
cultivo de ovas de salmón en la etapa de Maduración de la ova. En un estanque con agua dulce,
se ponen N ovas fecundadas. Después de 8 días, las ovas que han sobrevivido se convierten en
pequeños salmones, los cuales se traspasan a otros estanques para seguir su evolución. En
este proceso de Maduración, algunas ovas se mueren. Se sabe que la distribución de
probabilidades de una ova en esta etapa de desarrollo, es exponencial con media  . Sea X n
el número de ovas vivas al inicio del día n.
Se pide:
a) Diga cual es el rango de la variable (2 puntos)
b) Obtenga la regla de transición (2 puntos)
c) Obtenga la matriz P (2 puntos)
Desarrollo
Sea X n : número de ovas vivas al inicio del día n. Parten N ovas vivas, pero van muriendo día a
día.
a) X n  0,1,2,..., N 
b) Sea p: probabilidad de que una ova que está viva al inicio del día n lo esté al inicio de día n+1.
Sea Ti : duración o vida de la ova i-ésima.
T  n 1
p  P i

  PT  1  1  e  luego si hay j ovas vivas al día siguiente
 Ti  n 

i
pueden haber j o menos.
Luego X n1  Binomial  X n , p 
c) Matriz P:
0 1 2 . N-1 N
0 1
1 1  p  p 0 0 0 0
2  2 2  2 0 0 0
 1  p 2
p
0   p1  p1
1 
   
.
N-1  N  1  N 1   N 1  2 . p N 1 0
 N  11  p   N  2  p1  p   p 1  p N 3
N 1 N 2
    
 N  3
     
N 1  p N N  N  2 1  p  p
 N  1 p1  p   N  2  p 1  p 
N 1 N 2
   
   
1

2. Pregunta Nº 2. Juan y Pedro tienen 2 monedas cada uno. Se disponen a enfrentar un juego en
que, en cada oportunidad, cada jugador lanza una moneda de sus monedas. Si ambas
coinciden, gana Juan y se queda con la moneda de Pedro. En caso contrario, gana Pedro. El
juego termina cuando uno de los jugadores gana las 4 monedas.
a) Obtenga la distribución de probabilidades del número de jugadas necesarias hasta que
Juan logre tener 3 monedas por primera vez.
b) Explique como obtendría la distribución de probabilidades del número de jugadas hasta
que el juego termina.
Desarrollo:
1.- Sea X n : nº de monedas de Juan.
a.- Se debe encontrar Fk 2,3 que corresponde a la probabilidad de que se vaya por primera
vez del estado 2 a estado 3 en un número k de etapas. Por lo tanto :
Fk 2,3  ??
Para obtener esta probabilidad se debe construir el modelo detalladamente, es decir encontrar
el rango de X n , la matriz P y opcionalmente el gráfico de red.
Rango de la variable de estado X n :  X n  0,1,2,3,4 ,
Matriz P
1 0 0 0 0
1 0 1 0 0
2 2
P= 0 1 0 1 0
2 2
0 0 1 0 1
2 2
0 0 0 0 1
Gráfico de red de la matriz P
1 0,5 0,5 0,5
1
0 0,5 1 0,5 2 0,5 3 4
Entonces volvamos de nuevo con Fk 2,3
F1 2,3  ; F2 2,3  0 ; F3 2,3  p 21 p12 p 23  F4 2,3  0
1 111 1
 ;
2 222 8
2

3. 2
1 1 1
F5 2,3  ( p 21 p12 ) p 23
2
 
2 2 2
Término general:
k 1
Fk 2,3  ( p21 p12 ) 2
; k  2,4,6,...(par )
-----------------------------------------------------------
b.- El juego termina cuando se llega a que Juan tiene 0 ó 4 monedas. Lo que se pregunta
entonces, es la probabilidad de que ocurra alguno de estos dos eventos, que son excluyentes.
Además Juan tiene al inicio del juego 2 monedas. Luego lo que se pregunta es:

 Fk 2,0  Fk 2,4
k 2
Del estado 2 al estado 0 y al estado 4 se puede llegar en etapas múltiplos de 2 solamente. Luego
:
k k
1 1 1
Fk 2,0      ; k  2,4,6,...
 2 2 4
k k
1 1 1
Fk 2,4      ; k  2,4,6,...
2 2 4
2j 2j j 2j

1 
1 
1 
1
 Fk 2,0  Fk 2,4                
k 2 j 1  4  j 1  4  j 1  16  j 1  16 
par
j 0 j 0

1 1 
 1  1 1 1 16 16
  16    16     16    4   1  1  1  1  15  1  15  1 
j 0     j 0     1  1
16 16
1 1 2
 
15 15 15
Pregunta Nº 3. Considere un cultivo que contiene inicialmente un solo glóbulo rojo. Después de
una cantidad de tiempo el glóbulo rojo muere y es reemplazado por dos nuevos glóbulos rojos o
bien por dos glóbulos blancos. Las probabilidades de estos eventos son 1 y 3
4 4
respectivamente. Subsecuentemente, cada glóbulo rojo se reproduce de la misma forma. Por
otra parte, cada glóbulo blanco muere después de una unidad de tiempo sin reproducirse. Se
desea calcular la probabilidad de que el cultivo se extinga en algún momento.
3

4. Formule para tal efecto un modelo detallado e indique con precisión como lo utilizaría para
obtener la probabilidad pedida.
Desarrollo
Sea X n : numero de glóbulos rojos presentes en la etapa n.
8
4
1
2
6
0
i k
; k  log  j 
k
X  j
P n1    i  1  1  1 
 

 X n  i   k  4   4 
      log 2
Esta Cadena de Markov es tal que existen dos clases:
C1  0 y C 2  2,3,4,... la clase C 2 es infinita.
La clase recurrente C1 es recurrente y la clase C 2 es transiente. La clase C1 está compuesta
por un estado aperiodico. Por lo tanto, por la Proposición 2 vista en clases, se puede asegurar
que existe distribución estacionaria. Además por la misma proposición se puede asegurar que
 j  0 j  1,2,... es decir  j  0 j  C 2 y  j  0 j  C1 . Como la clase C1 tiene
un solo elemento  0  1 .
Entonces la probabilidad de que el cultivo se extinga alguna vez es uno.
Modelación de problemas en Cadenas de Markov de tiempo discreto
4

5. Pregunta Nº 4. En la ciudad de Santiago diariamente se liberan contaminantes a la atmósfera,
provenientes principalmente del uso de vehículos y de plantas industriales. La autoridad
correspondiente monitorea diariamente la calidad del aire en la ciudad y según la concentración
de contaminantes distingue 3 estados de alerta ambiental: Normal (N), Preemergencia (P), y
Emergencia (E). Se ha podido determinar que la evolución del estado de alerta obedece a una
cadena de markov.
Por simplicidad asumiremos que las probabilidades de transición dependen sólo del
número de vehículos que circulan por las calles de Stgo. cada día (las plantas industriales
pueden ser modeladas como un conjunto de vehículos).
Si en un día Normal circulan por Santiago y vehículos, entonces la probabilidad de que
el día siguiente sea también Normal vale 1  F ( y) , y la probabilidad de que el día siguiente sea
de Preemergencia es F ( y) . Si en un día de Preemergencia circulan y vehículos, entonces el
día siguiente será Normal con probabilidad 1  F ( y) o Emergencia con probabilidad F ( y) . Si
en un día de Emergencia circulan y vehículos entonces el día siguiente puede repetirse el estado
de Emergencia, lo que ocurre con probabilidad F ( y) , o bien pasar al estado de Preemergencia
con probabilidad 1  F ( y) . La función F es continua, estrictamente creciente,
F (0)  0, F ()  1.
La autoridad ha tomado las siguientes medidas para combatir la contaminación: En los
días de Preemergencia se prohíbe circular a una fracción 1-  de los vehículos de Santiago. En
los días de Emergencia la medida se hace más drástica, prohibiéndose la circulación de una
fracción 1-  de los vehículos de la ciudad (  <  ).
En lo que sigue asuma que en Santiago hay un parque automotriz de X vehículos, y
que cada día salen a circular aquellos que la autoridad no se los prohíbe.
Resolver:
a) Modele el sistema como una cadena de markov, indicando clases, espacio de estados,
gráfico nodal y matriz P.
b) Suponga que Ud. Posee un automóvil. ¿En promedio, qué fracción de los días del año
puede usar su automóvil para desplazarse por Santiago?. Asuma que cuando la
autoridad prohíbe el uso de una parte de los vehículos, lo hace de manera que todos los
vehículos tienen la misma probabilidad de ser afectados por la medida.
c) Suponga que por cada automóvil que deja de circular, el ingreso percápita para los
habitantes de Santiago se reduce en A($) (asociado a una caída en la producción y
también a mayores incomodidades y costos de transporte por menor disponibilidad de
vehículos tanto para transporte público como privado). Además, por cada día que respira
el aire de Santiago en estado de Preemergencia o Emergencia una persona percibe un
empeoramiento de su salud que se puede cuantificar en B($) y C($) respectivamente.
Formule el problema que debe resolver el gobierno para escoger  y  .
5

6. Solución
a)
0° Variable de estado: Estado de la calidad del aire en Santiago en un día cualquiera ( X N )
1° Espacio de estados: {Normal(N), Preemergencia(P), Emergencia(E)}
2° Modelamiento
PNN  P{X 1  N / X 0  N}  1  F ( y)
PNP  PX 1  P / X 0  N   F ( y)
PPN  PX 1  N / X 0  P  1  F ( y)
PPE  PX 1  E / X 0  P  F ( y)
PEE  PX 1  E / X 0  E  F ( y)
PEP  PX 1  P / X 0  E  1  F ( y)
Medida de preemergencia : Se prohibe circular % 1-  de vehículos
Medida de emergencia : Se prohíbe circular % 1-  (  <  )
Número total de vehículos : X
3° Matriz P
N P E
1  F ( x) F ( x) 0
P = 1  F (x) 0 F (x)
0 1  F ( x) F ( x)
4° Gráfico nodal
Del gráfico podemos
concluir que existe una
única clase Recurrente
N P Positiva Aperiódica
6
E

7. b) Fracción de días del año de uso de automóvil =  N   P     E  
c) Costo percápita por cada vehículos que deja de circular = A($)
Costo percápita por empeoramiento de la salud (en preemergencia) = B($)
Costo percápita por empeoramiento de la salud ( en emergencia) = C($)
¿Cómo escoger  y  , de tal manera de minimizar el costo total?
Si C n  Costo total día n 0, si X n = N (con p =  N )
 p  B  x  1     A , si X n  P (con p   P )
 E  (C  x(1   )  A)) , si X n  E (con p   E )
Min Costo esperado =  P  ( B  x  (1   )  A)   E  (C  x  (1   )  A)
7

8. Pregunta Nº 5. Mediante un estudio realizado a la población de un país X durante los últimos 36
meses, se obtuvieron los siguientes resultados concernientes al consumo promedio mensual por
grupo familiar, distribuido por grupo económico:
Grupo A
MES 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
CONSUMO(M$) 2,5 2,8 3,0 2,7 2,4 3,1 3,3 3,8 3,9 4,2 3,6 4,0 4,1 4,4 3,8 4,4 4,6 3,8 3,6 2,6
MES 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36
CONSUMO(M$) 3,0 3,5 2,4 3,1 3,2 2,9 3,5 4,3 5,0 4,9 4,6 4,1 4,8 3,9 5,0 4,0
Grupo B
MES 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
CONSUMO(M$) 0,83 0,92 0,85 0,8 1,2 1,5 1,7 2,0 1,3 0,86 0,8 0,95 1,15 1,55 1,8 2,0 1,1
MES 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36
CONSUMO(M$) 0,9 1,0 0,8 0,95 1,25 1,35 1,05 1,3 1,45 1,5 1,2 1,0 1,4 1,1 1,0 0,8 1,3 1,5 1,5
Grupo C
MES 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
CONSUMO(M$) 0,3 0,45 0,25 0,18 0,16 0,19 0,35 0,47 0,52 0,61 0,48 0,55 0,45 0,38 0,4 0,51
MES 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32
CONSUMO(M$) 0,56 0,7 0,62 0,67 0,74 0,78 0,59 0,71 0,73 0,76 0,68 0,62 0,61 0,68 0,52 0,45
MES 33 34 35 36
CONSUMO(M$) 0,5 0,61 0,68 0,63
Asumiendo los siguientes rangos de datos:
Para la clase A: 2  2,5 2,5  3,0 3,0  3,5 3.5  4.0 4.0  4.5 4,5  5,0
Para la clase B: 0,8  1,1 1,1  1,4 1,4  1,7 1,7  2,0
Para la clase C: 0  0,2 0,2  0,4 0,4  0,6 0,6  0,8
Determine:
a) El consumo percápita esperado para el siguiente periódo en cada grupo económico de
interés estudiado, si el número de hijos distribuye uniformemente, U 0,4 , para la clase
8

9. A y, para las clases B y C sigue la siguiente distribución: 0 hijos (p=0.2), 1 hijo
(p=0.3), 2 hijos (p=0.5). Además se conoce el vector inicial de probabilidades para cada
caso:
Clase A: Cada estado tiene la misma probabilidad de ocurrencia.
Clase B: La probabilidad de encontrarme en un estado cualquiera es el doble de la de
pertenecer a un nivel inmediatamente inferior.
Clase C: El sistema se encuentra en el estado 4 con absoluta certeza.
Solución
Clase A
Sea X n : Consumo promedio familiar de consumidores clase A en el mes n
E X n = {1,2,3,4,5,6}
 2  2.5   2.5  3   3  3.5   3.5  4 
EX 1   PX 1  1    PX 1  2    PX 1  3    PX 1  4  
 2   2   2   2 
 4  4.5   4.5  5 
PX 1  5    PX 1  6  
 2   2 
 PX 1  1  f1(0)  1 / 6 
 PX  2  (0) 
 1   f 2  1 / 6
   
f (1) 


 = P  
(1) T



    
     
   (0) 
 PX 1  6
   f 6  1 / 6
 
1° Cálculo de P:
Agrupando la información según los rangos definidos se tiene lo siguiente:
Estados 1 2 3 4 5 6 Total
2  2,5 2,5  3,0 3,0  3,5 3.5  4.0 4.0  4.5 4,5  5,0
Estados Rangos
1 2  2,5 0 1 2 0 0 0 3
2 2,5  3,0 1 3 2 0 0 0 6
3 3,0  3,5 1 1 2 1 1 0 6
4 3.5  4.0 0 1 0 3 3 1 8
5 4.0  4.5 0 0 0 2 1 3 6
6 4,5  5,0 0 0 0 3 1 2 6
Por lo tanto para la clase A se tiene que la matriz P es:
9

10.  0 1/ 3 2 / 3 0 0 0 
1 / 6 1/ 2 1/ 3 0 0 0 
 
1 / 6 1/ 6 1/ 3 1/ 6 1/ 6 0 
P 
 0 1 / 8 0 3 / 8 3 / 8 1 / 8
 0 0 0 1 / 3 1 / 6 1 / 2
 
 0
 0 0 1 / 2 1 / 6 1 / 3

PX 1  1   f i
6
 Pi1  f1  P11  f 2  P21  f 3  P31  f 4  P41  f 5  P51  f 6  P61 
(0) (0) (0) (0) (0) (0) (0)
i 1
1 1 1 1 1
   
6 6 6 6 18
6
PX 1  2   fi ( 0)  Pi 2 
27
i 1 144
6
PX 1  3   fi ( 0)  Pi 3 
2
i 1 9
6
PX 1  4   fi (0)  Pi 4 
33
i 1
144
6
PX 1  5   fi (0)  Pi5 
7
i 1
48
6
PX 1  6   fi ( 0)  Pi 6 
23
i 1 144
EConsumo _ Pr omedio _ Familiar  
1 27 2 33 7 23
 2.25   2.75   3.25   3.75   4.25   4.75
18 144 9 144 48 144
= 3,6 (m$)
EN hijos _ x _ hogar  
1 1 1 1 1
 0   1   2   3   4  2  2 _ hijos
5 5 5 5 5
EConsumo _ promedio _ familiar  3,6
EConsumo _ percápita     0,9 (m$)
EN dehijosxfa milia  22
Clase B
Sea X n : Consumo promedio familiar de consumidores clase B en el mes n
10

11. E X n = {1,2,3,4}
 0.8  1.1   1.1  1.4   1.4  1.7   1.7  2.0 
EX 1   PX 1  1    PX 1  2    PX 1  3    PX 1  4  
 2   2   2   2 
 PX 1  1  f1  1 / 15 
(0)
 PX  2  (0) 
 1   f 2  2 / 15  p
    2 p 
f 
(1)


 = P
(1) T
   
 f  
(0)
4 p 
    
     
  8 p 
   (0) 
 PX 1  4
   f 4  8 / 15 
  p  1/ 5
3
2
i 0
i
 p 1
1° Cálculo de P:
Agrupando la información según los rangos definidos se tiene lo siguiente:
Estados 1 2 3 4 Total
0,8  1,1 1,1  1,4 1,4  1,7 1,7  2,0
Estados Rangos
1 0,8  1,1 11 6 0 0 17
2 1,1  1,4 4 1 4 0 9
3 1,4  1,7 0 1 3 2 6
4 1,7  2,0 1 1 0 1 3
Por lo tanto para la clase B se tiene que la matriz P es:
11 / 7 6/7 0 0 
 4/9 1/ 9 4 / 9 0 
P 
 0 1 / 6 1 / 2 1 / 3
 
 1/ 3 1/ 3 0 1 / 3
4
PX 1  1   f i (0)  Pi1  f1(0)  P  f 2 (0)  P21  f 3(0)  P31  f 4 (0)  P41  0,34
11
i 1
4
PX 1  2   fi (0)  Pi 2  0,29
i 1
4
PX 1  3   fi (0)  Pi3  0,19
i 1
4
PX 1  4   fi ( 0)  Pi 5  0,27
i 1
11

12. EConsumo _ Pr omedio _ Familiar   0,34  0,95  0,29  1,25  0,19  1,55  0,27  1,85
= 1,47 (m$)
EN hijos _ x _ hogar   0,3  1  0,5  2  1 _ hijo
EConsumo _ promedio _ familiar  1,47
EConsumo _ percápita     0,49 (m$)
EN dehijosxfa milia  1 2
Clase C
Sea X n : Consumo promedio familiar de consumidores clase C en el mes n
E X n = {1,2,3,4}
 0  0,2   0,2  0,4   0,4  0,6   0,6  0,8 
EX 1   PX 1  1    PX 1  2    PX 1  3    PX 1  4  
 2   2   2   2 
 PX 1  1  f1( 0)  0 
 PX  2  (0) 
 1   f 2  0
   
f (1) 


 = P  
(1) T



    
     
   (0) 
 PX 1  4
   f 4  1
 
1° Cálculo de P:
Agrupando la información según los rangos definidos se tiene lo siguiente:
Estados 1 2 3 4 Total
0  0,2 0,2  0,4 0,4  0,6 0,6  0,8
Estados Rangos
1 0  0,2 2 1 0 0 3
2 0,2  0,4 1 1 3 0 5
3 0,4  0,6 0 2 6 4 12
4 0,6  0,8 0 0 3 12 15
Por lo tanto para la clase C se tiene que la matriz P es:
2 / 3 1 / 3 0 0 
1 / 5 1 / 5 3 / 5 0 
P 
 0 1/ 6 1/ 2 1/ 3 
 
 0 0 1 / 5 4 / 5
12

13. 4
PX 1  1   f i  Pi1  f1  P11  f 2  P21  f 3  P31  f 4  P41  f 4  P41  0
(0) (0) ( 0) (0) ( 0) ( 0)
i 1
4
PX 1  2   fi ( 0)  Pi 2  P42  0
i 1
4
PX 1  3   fi ( 0)  Pi 3  P43  1 / 5
i 1
4
PX 1  4   fi ( 0)  Pi 5  P44  4 / 5
i 1
EConsumo _ Pr omedio _ Familiar   0,5  (1 / 5)  0,7  (4 / 5)
= 0,66 (m$)
EN hijos _ x _ hogar   0,3  1  0,5  2  1 _ hijo
EConsumo _ promedio _ familiar  0,66
EConsumo _ percápita     0,22 _(m$)
EN dehijosxfa milia  1 2
13

14. Pregunta Nº 6. Ud. Ha sido contratado por una importante empresa del sector minero como
consultor, para realizar una evaluación de la rentabilidad y viabilidad para los siguientes dos
periódos de operación. Para ésto, el Gerente de Finanzas, Sr. Pedro Ramírez, le ha entregado
una extracto de los balances de los últimos 3 años, en el cual figura la siguiente información:
MES 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
INGRESO(MU$) 2,6 2,8 3,5 3,9 4,2 2,9 4,1 5,0 4,3 4,6 3,5 3,1 3,6 2,8 4,1 4,3 4,5 3,6 2,6 3,0
MES 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36
INGRESO(MU$) 3,1 4,2 4,4 3,2 3,4 3,6 3,8 3,1 2,7 3,5 3,8 4,0 4,1 4,6 4,9 4,9
MES 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
COSTO(MU$) 2,5 2,5 2,8 3,3 4,3 3,1 3,6 4,5 4,5 4,8 3,6 3,0 3,2 3,0 3,8 4,3 4,2 3,5 2,7 2,9
MES 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36
COSTO(MU$) 2,9 4,1 4,3 3,5 3,6 3,0 4,0 3,0 2,6 3,0 3,3 3,8 4,2 4,5 4,7 4,7
a) Determine el ingreso esperado para los siguientes 2 periódos, si actualmente la empresa
recibe un ingreso de 3,6 (MU$)
b) Determine el costo esperado para los siguientes 2 periódos, si actualmente la empresa
desembolsa 3,2 (MU$) en costos de operación.
c) Determine si es rentable para el inversionista continuar en este negocio en los siguientes
2 periódos.
Nota : Asuma los siguientes intervalos en ambos casos 2,5  3,0 3,0  3,5 3.5  4.0
4.0  4.5 4,5  5,0
Solución
a)
Definiremos la variable I n : Ingreso percibido por la empresa en el periódo n.
Agrupando la información según los rangos definidos tenemos lo siguiente:
Estados 1 2 3 4 5 Total
Rangos 2,5  3,0 3,0  3,5 3.5  4.0 4.0  4.5 4,5  5,0
Estados
1 2,5  3,0 2 3 0 2 0 7
2 3,0  3,5 1 2 4 1 0 8
3 3.5  4.0 2 1 2 2 0 7
4 4.0  4.5 1 1 1 3 3 9
14

15. 5 4,5  5,0 0 0 1 1 2 4
Por lo tanto para el ingreso se tiene la siguiente matriz P y P ( 2) :
2 / 7 3/ 7 0 2/7 0   0.17 0.26 0.25 0.23 0.095
1 / 8 1/ 4 1/ 2 1/ 8 0   0.22 0.20 0.28 0.25 0.042
   
PI  2 / 7 1/ 7 2 / 7 2 / 7 0  P ( 2)   0.21 0.23 0.18 0.28 0.095
   
1 / 9 1/ 9 1/ 9 1/ 3 1 / 3  0.11 0.13 0.21 0.27 0.28 
 0
 0 1/ 4 1/ 4 1 / 2
 0.099
 0.06 0.22 0.28 0.33 

.75 
2 
 .25 
3 

2 / 7 
  
  1 / 7
  
 2.5  3.0   3.0  3.5 
EIngreso _ Periódo _ 1 / X 0  3     PX 1  1 / X 0  3     PX 1  2 / X 0  3 
 2   2 
 3.5  4.0   4.0  4.5   4.5  5.0 
 PX 1  3 / X
   0    3      
PX 1  4 / X 0  3   PX 1  / X 0 
5 3
 2      2     2    
   2/7     
2/7  0
3.75 4.25 4.75
 3,54 _(MU $)
EIngreso _ periódo _ 2 / X 0  3  2.75  P31(2)  3.25  P32 (2)  3.75  P33(2)  4.25  P34 (2)  4.75  P35 (2)
 2.75(0.21)  3.25(0.23)  3.75(0.18)  4.25(0.28)  4.75(0.095)  3,64 _( MU $)
b)
Definiremos la variable C n : Costo incurrido en gastos de operación durante el
periódo n.
Agrupando la información según los rangos definidos se tiene lo siguiente:
Estados 1 2 3 4 5 Total
Rangos 2,5  3,0 3,0  3,5 3.5  4.0 4.0  4.5 4,5  5,0
Estados
1 2,5  3,0 6 3 2 1 0 12
2 3,0  3,5 2 0 3 1 0 6
3 3.5  4.0 3 0 0 3 0 6
4 4.0  4.5 0 3 0 4 2 9
5 4,5  5,0 0 0 1 0 1 2
15

16. Por lo tanto para el costo se tiene la siguiente matriz P y P ( 2) :
1 / 2 1 / 4 1 / 6 1 / 12 0  0.42 0.15 0.210.20 0.019
1 / 3 0 1 / 2 1 / 6 0  0.42 0.14 0.056 0.35 0.037 
   
PI  1 / 2 0 0 1/ 2 0  P ( 2)  0.25 0.29 0.083 0.26 0.11 
   
 0 1/ 3 0 4 / 9 2 / 9  0.11 0.15 0.28 0.25 0.21 
 0
 0 1/ 2 0 1/ 2 
 0.25
 0 0.25 0.25 0.25 
.75 
2 
 .25 
3 

 1 / 3
   0
  
 2.5  3.0   3.0  3.5 
ECosto _ Periódo _ 1 / X 0  2     PX 1  1 / X 0  2     PX 1  2 / X 0  2 
 2   2 
 3.5  4.0   4.0  4.5   4.5  5.0 
 PX 1  X 2
   3 / 0    PX 1  X 2
   4 / 0      PX 1  5 / X 0 
2
 2      2     2     
   1/ 2      
1/ 6 0
3.75 4.25 4.75
 3,5 _(MU $)
EIngreso _ periódo _ 2 / X 0  2  2.75  P21(2)  3.25  P22 (2)  3.75  P23(2)  4.25  P24 (2)  4.75  P25 (2)
 2.75(0.42)  3.25(0.14)  3.75(0.056)  4.25(0.35)  4.75(0.037)  3,48 _( MU $)
c) Como I1  C1 y I 2  C2 , el negocio es rentable para el inversionista por lo menos durante
los siguientes 2 periódos de ejercicio.
16

17. Pregunta Nº 6
Una tienda vende un único producto, del cual mantiene inventarios en una bodega, I.
Al comenzar cada semana, el gerente observa el inventario disponible en bodega. Si I
 s, entonces, el gerente pide T-I unidades al proveedor (0<s<I), de manera de quedar
con T unidades en bodega. El pedido es recibido de inmediato.
Si I > s, el gerente no hace el pedido esa semana. Las demandas en cada semana
son v.a.i.i.d. En una semana cualquiera, la demanda es de k unidades con
probabilidad  k (k  0). La demanda insatisfecha se pierde.
a.1) Muestre que el nivel de inventario al comienzo de cada semana (antes de
hacer el pedido) se puede modelar como una cadena de markov. Indique
claramente cuáles son los estados que ha definido y calcule las probabilidades de
transición. (Todo lo anterior para el caso s=2, T=4).
a.2 Obtenga una relación de recurrencia entre el inventario al comienzo del día n,
y el inventario al inicio del día n+1.
En lo siguiente considere 0<s<T arbitrarios.
b) Suponga que la llegada de clientes a la tienda queda bien descrita por un
proceso de Poisson de tasa  (clientes/semana) y que cada cliente compra 1
unidad. Indique cuánto valen los valores  k , k  0 para este caso, y defina la

matriz P.
c) Suponga ahora que la demanda es determinística e igual a 1 en cada semana.
(Note que la bodega puede comenzar con menos de s unidades. Modele esta
situación.
Solución
a.1 X (n) : Inventario disponible al comienzo de la semana n, antes de hacer el
pedido.
a: antes de pedir
d: después que ha llegado el pedido
X n(a ) Qn X n(d ) Demanda X n 1(a)
0 4-0=0 4 0 4
1 3
2 2
3 1
4 0
1 4-1=3 4 0 4
1 3
2 2
3 1
4 0
2 4-2 4 0 4
1 3
2 2
3 1
4 0
17

18. 3 0 3 0 3
1 2
2 1
3 0
4 0 4 0 4
1 3
2 2
3 1
4 0
E X n  0,1,2,3,4
 3 
1   i  3  2 1  0 
 i 0 
 3 
 PDn  4 P Dn  3 PDn  2 PDn  1 PDn  0 1    i  3  2 1 0 
   
 PDn  4 PDn  3 PDn  2 PDn  1 PDn  0  i  03 
P   PDn  4 PDn  3 PDn  2 PDn  1 PDn  0  1    i  3  2 1 0 
   i 0 
 PDn  3 PDn  2 PDn  1 PDn  0 0   2

 PD  
 n  4 PDn  3 PD n  2 PDn  1 PDn  0 1    i
  2 1  0 0
 i 0 
 2 
1   i  3  2 1 0 
 i 0
 

Máximo ( 4  Dn ,0 ) , Si X n  2
a.2) X n 1 
Máximo ( X n  Dn ,0) , Si X n  2
b) Sea X n : cantidad de inventario disponible al comienzo de la semana n,
antes de
hacer el pedido.
X n(a ) Qn X n(d ) Demanda X n 1(a)
0 T-0=0 T 0 4
1 3
2 2
 1
T-1 1
T 0
1 T-1=3 T 0 T
1 T-1
2 T-2

T-1 1
T 0
    

18

19.    
s-1 T-s+1 T 0 T
1 T-1
2 T-2
 
T-1 1
T 0
s T-s T 0 T
1 T-1
2 T-2
 
T-1 1
T 0
s+1 0 s+1 0 s+1
1 s
2 s-1

s 1
 s+1 0
    
    
T-1 0 T-1 0 T-1
1 T-2

 T 1 0
T 0 T 0 T
1 T-1
 
T 0
0 1 S-1 S S+1 T-1 T
19

20.  T 1 
1    i
0  T 1   T  s 1 T  s  T  s 1  1  0 
 i 0 
 T 1 
1 1    i  T 1   T  s 1  T  s  T  s 1  1  0 
 i 0 
          
 
  idem i i i i i i i i 
P=
S  i i i i i i i i i 
  s 
1   0
  i s  2 1 0  0
S+1

 i 0 
           
T 2
T-1 1  
  i T  2   T  s  T  s 1   0 0 
 i 0 
T 1
T 1  
  i  T 1       0 
 i 0
 

e  t  (t ) j
De acuerdo a Poisson: PN (t )  j 
j
0 1 s -1 s s + 1 ....... T-1 T
 T 1 e  ( ) i e 
 ( ) T 1
e 
 ( ) T  s 1
e 
 ( )T s
e 
 ( ) T  s 1
e 
 ( ) 1
e 
 ( ) 0 
0  1    
 i 0
i! (T  1)! (T  s  1)! (T  s )! (T  s  1)! 1! 0! 
 T 1 e  ( ) i e  ( ) T 1 e   ( ) T  s 1 e    ( ) T  s e   ( ) T  s 1 e    (  )1 
e  ( )  0
1  1   
 i 0
i! (T  1)! (T  s  1)! (T  s )! (T  s  1)! 1! 0! 
  i i i i i i i i i 
 
s 1  i i i i i i i i i 
s  
P  i i i i i i i i i 
s 1  s     
e  ( ) i e  ( ) s e  ( ) 2 e  ( ) e  ( ) 0 
1    0 0 
 i! s! 2! 1! 0!
 i 0 
           
 T  2 e    ( ) i
T 1 1  e    ( ) T  2 e    ( ) T  s e   ( ) T  s 1 e    ( ) 0 
     0 
 i 0 i! (T  2)! (T  s )! (T  s  1)! 0! 
T 1 
 e  ( ) i e   ( ) T 1 e    ( ) 0 
T 1 
 i!
 i 0 (T  1)!
     
0!


 
c) Dn  1 (con prob=1)
X n : Número de unidades de producto disponibles al comienzo de la semana n.
X n(a ) Qn X n(d ) Dn X n 1(a)
0 T T 1 T-1
1 T-1 T 1 T-1
20

21. 2 T-2 T 1 T-1
    
s-1 T-s+1 T 1 T-1
s T-s T 1 T-1
s+1 0 s+1 1 s
    
T-1 0 T-1 1 T-2
T 0 T 1 T-1
0 1 2 s-1 s s+1 T T-1
0 0 0 0 0 0 0 0 0 0 0 1
1 0 0 0 0 0 0 0 0 0 0 1
 
2 0 0 0 0 0 0 0 0 0 1 0
 
           
s 1  0 0 0 0 0 0 0 0 0 1 0
 
Ps 0 0 0 0 0 0 0 0 0 1 0
s 1  0 0 0 0 0 1 0 0 0 0 0
 
 0 0 0 0 0 0 1 0 0 0 0
           
 
T 1 0 0 0 0 0 0 0 0 1 0 0
 
T 0 0 0 0 0 0 0 0 0 1 0
21

22. Pregynta Nº7 : Considerar la siguiente política (k,Q) de gestión de inventarios. Sean
D1 , D2,........, demandas en los periódos 1, 2,......, respectivamente. Si la demanda
las
durante un periódo excede el número de ítemes disponibles, la venta del producto se
realiza como si existiera stock suficiente, pero se despacha solo el disponible. El resto
es anotado como pendiente, de manera que se satisface cuando llega el siguiente
pedido de reposición del inventario. Denotemos por Z n (n=0,1,2,...) la cantidad de
inventario disponible menos el n° de unidades pendientes antes de efectuar un pedido
de reposición de inventario al final del periódo n. El sistema parte vacío ( Z 0  0) . Si
Z n es cero o positivo, no se dejan pedidos pendientes. Si Z n es negativo, entonces -
Z n representa el número de unidades de demanda retrasada y no queda inventario
disponible.
El pedido de reposición en general es Q. Pero, si al principio del periódo n, Z n < 1, se
efectúa un pedido de reposición de 2m, donde m es el menor entero tal que
Z n  2m  1 .
a) Obtenga P.
b) Suponga que el costo de efectuar un pedido de reposición es (3+3m). El
costo de mantenimiento del stock es Cn si Z n  0 , cero en caso contrario.
El costo de ruptura del stock es - Cn , si Z n <0. Encontrar el costo medio
esperado por unidad de tiempo.
Solución:
Z n  Inventario _ disponible _ al _ tér min o _ del _ periódo _ n
Zn m 2m Z n + 2m Dn 1 Z n 1
0 1 2 0+2=2 0 2
1 1
2 0
3 -1
4 -2
1 0 0 1 0 1
1 0
2 -1
3 -2
4 -3
2 0 0 2 0 2
1 1
2 0
3 -1
4 -2
-1 1 2 -1+2=1 0 1
1 0
2 -1
3 -2
4 -3
-3 -2 -1 0 1 2
22

23.  
3 PD  4 PD  3 PD  2 PD  1 PD  0 0 
 
2 0 PD  4 PD  3 PD  2 PD  1 PD  0
 
P  1  PD  4 PD  3 PD  2 PD  1 PD  0 0 
0  0 PD  4 PD  3 PD  2 PD  1 PD  0
 
1  PD  4 PD  3 PD  2 PD  1 PD  0 0 
2  0 PD  4 PD  3 PD  2 PD  1 PD  0

1 / 5 1/ 5 1/ 5 1/ 5 0 
1/ 5
 0 1/ 5 1/ 5 1 / 5 1 / 5
1/ 5
 
1 / 5 1/ 5 1/ 5 1/ 5 0 
1/ 5
P 
 0 1/ 5 1/ 5 1/ 5
1 / 5 1 / 5
1 / 5 1/ 5 1/ 5 1/ 5 1/ 5 0 
 
 0
 1/ 5 1/ 5 1/ 5 1/ 5 0  
0 1
c) Costo medio esperado = (  i )  (3  3m)   1  z1   2  z 2   ( i )  (4 zi )
i  3 i  3
EJERCICIOS PROPUESTOS
1.- El Departamento de Marketing Cuantitativo de un prestigioso banco nacional está
desarrollando un modelo basado en Cadenas de Markov discretas, para estimar el número de
clientes en el estrato ABC1. El planteamiento es el siguiente:
Sea X n el número de clientes pertenecientes al segmento ABC1 el primer día hábil del mes n.
En el banco existen solamente dos segmentos para clasificar a los clientes ABC1 y C2.
En total hay N clientes en el banco y que la probabilidad de que un cliente pase de ABC1 a C2
es p1 y de C2 a ABC1 es p 2 . Suponga que los clientes no se retiran del banco, ni tampoco
ingresan nuevos clientes. Si se sabe que el primer día hábil de un mes hay n1 personas en el
segmento ABC1 :
¿ Cuál es la probabilidad de que en el primer día hábil del mes siguiente hayan n 2 clientes en el
mismo segmento ? N  n2  n1 (2 puntos)
2.- Sea X n el número de personas hospedadas en un cierto hotel al inicio del día n. Se sabe
que pueden llegar 0,1,2 ó 3 clientes en un día, con igual probabilidad. Además se sabe que el
tiempo de permanencia de un cliente en el hotel es exponencial con media  . El hotel tiene
capacidad solo para 4 personas y las que llegan cuando el hotel está lleno se van sin dejar
reserva.
Obtenga la matriz P. (2 puntos)
Indicación: Puede usar la siguiente aproximación e  d  1  d
23

24. 3.- El ascensor de un edificio con tres pisos realiza viajes entre los pisos regularmente. Sea X n
el piso en que para el ascensor en la etapa n. Se sabe que la mitad de los viajes que parten del
piso 1 se dirigen a uno de los otros pisos con igual probabilidad. Si el ascensor parte en el piso 2
el 25% de las veces termina en el piso 2. Por ultimo si su trayecto empieza en el tercer piso
siempre termina en el primer piso.
a) Obtenga la matriz P y el rango de la variable.
X  2; X 2  1; X 0  3
b) Obtenga P 4 

 X1  2 
c) Diga si existe distribución límite y si es así, calcúlela.
d) Diga si existe distribución estacionaria y si es así calcúlela.
4.- Un agente comercial realiza su trabajo en tres ciudades A,B,C. Para evitar gastos trabaja
durante un día en cada ciudad y alli se queda en la noche. Después de estar trabajando en la
ciudad C la probabilidad de tener que seguir trabajando en ella al día siguiente es 0,4; la
probabilidad de viajar a B es 0,4. Si el viajante duerme una noche en B con probabilidad 0,2
deberá seguir trabajando en la misma ciudad al día siguiente y en el 60% de los casos viajará a
C. Por último, si el agente trabaja en A un día permanecerá en esa ciudad con probabilidad 0,1 o
irá a la ciudad B con probabilidad 0,3.
a) Si hoy el viajante está en la ciudad C ¿Cual es la probabilidad de que tenga que estar en
la misma ciudad en 4 días más?
b) ¿Cuáles son los porcentajes de días que el viajante se encuentra en cada ciudad?
c) ¿Cuál es la probabilidad de que un viajante vuelva a la ciudad A?
5.- Los consumidores de café en la VIII Región usan tres marcas A, B, C. En
Marzo de 2008 se hizo una encuesta en lo que entrevistó a las 8450 personas que
compran café y los resultados fueron:
Compra actual Marca A Marca B Marca C Total
Marca A = 1690 507 845 338 1690
Marca B = 3380 676 2028 676 3380
Marca C = 3380 845 845 1690 3380
TOTALES 2028 3718 2704 8450
a) Si las compras se hacen mensualmente, ¿cuál será la distribución del mercado de
café en la VIII Región en el mes de junio?
b) A la larga, ¿cómo se distribuirán los clientes de café?
c) En junio, cual es la proporción de clientes leales a sus marcas de café?
6.- Una agencia de arriendo de vehículos ha definido la variable aleatoria Xt como el número de
automóviles disponibles en la agencia al empezar la semana t+1.
Sea Dt una variable aleatoria que representa la demanda por automóviles la semana t. La
agencia utiliza una política de reorden (s,S) con s=1 y S=3. No se acepta demanda pendiente.
Sea Xo = 3 y suponga que la variable aleatoria Dt tiene distribución de Poisson con
a) Obtenga los valores de la variable Xt
b) Exprese a través de una fórmula de recurrencia la relación entre xt y Xt+1
24

25. c) Encuentre la matriz P (valores númericos)
d) Suponga ahora que el costo incurrido es un valor fijo de $ 110.000 por orden más un valor
variable de $ 25.000 por automóvil. Encuentre el costo esperado de inventario.
7.- Una empresa de transportes debe contratar un seguro para su flota de vehículos. Existen 4
posibles seguros con valores P1, P2, P3, y P4. De modo que :
P1 > P2 > P3 > P4.
El valor del seguro se paga al principio del año y depende del tipo de seguro contratado
el año anterior y de los accidentes cobrados a la compañía de seguros durante el año. Si durante
el año, el seguro contratado costó Pi y no se cobraron seguros, el seguro del año siguiente
costará Pi + 1; en caso contrario (esto es si se cobraron seguros) el seguro costará P 1. Si el año
anterior el seguro costo P4 y no hubo daños cobrados, el seguro costará este año también P4.
La empresa de transportes debe decidir, al final del año, si cobrará o no los daños
acumulados por sus vehículos durante el año. Si la empresa decide cobrar los daños, la
compañía de seguros se hace cargo de éstos, con excepción de un deducible, que vale Ri para
el seguro i.
El daño total de la flota durante un año cualquiera es una variable aleatoria con función
de distribución F y función de densidad f.
Defina Xn como el tipo de seguro contratado en el año n.
a) Obtenga la matriz de P de este proceso.
b) Obtenga una expresión explícita para el vector distribución estacionaria  de este proceso.
c) Obtenga una expresión para el costo esperado anual de usar esta política en el largo plazo.
¿Cómo podría encontrar la política óptima para este caso?
8.- En la etapa inicial un jugador tiene MM$ 2. En las etapas 1,2..... participa en un juego en el
que apuesta MM$ 1. Gana el juego con probabilidad p, y lo pierde con probabilidad (1-p). Su
meta es aumentar su capital a MM$ 4 y tan pronto como lo logre se retira. El juego también se
suspende si el capital del jugador se reduce a $0 .
a) Formule la matriz de probabilidades de transición en una etapa.
Si p=0.4
b) Calcule la probabilidad de que el jugador obtenga su objetivo de juntar MM$ 4 de capital.
25