Revisa el tema y expone un artículo acerca del uso de modelos ocultos de Márkov en el diagnostico del infarto

1. MODELOS DE MÁRKOV
OCULTOS
John J. Sprockel D.
MISyC
Departamento de Ingeniería de Sistemas
Facultad de Ingeniería
Pontificia Universidad Javeriana

2. AGENDA
1. Aspectos históricos
2. Cadenas de Márkov
3. Definición de un modelo oculto de Márkov
a. Modelo formal
b. Obtención de los parámetros del modelo
c. Algoritmo forward-backward
d. Algoritmo de Viterbi
e. Algoritmo de Baum-Welch
4. Aplicaciones de los modelos oculto de Márkov
5. Presentación de los artículos
6. BIBLIOGRAFIA

3. ASPECTOS HISTÓRICOS
Estudió, entre otros muchos aspectos, las
construcciones lingüísticas a partir del
cálculo matemático (1913). Así, por
ejemplo, analizó la novela de Puschkin
Eugenio Oniegui, y dedujo que las letras
del alfabeto cirílico, como las de cualquier
otro alfabeto, iban apareciendo
relacionadas con las que las precedían en
la escritura. La nueva letra está
determinada por la anterior, pero es
independiente de la manera en la que
aparece respecto de las anteriores.
Andréi Andréyevich
Márkov, 1906: Cadenas
de Márkov. Heredero de
la cátedra de Chebyshev
Leonard E. Baum,
Década de 1960s e
inicios de 1970s.
L. P Neuwirth acuñó el
término Modelo oculto de
Márkov
Lawrence Rabiner, 1989.
Marcó el éxito de HMM en
reconocimiento de la voz

4. CADENA DE MÁRKOV
! !!!! = ! !! = !, !!!! = !!!!, !!!! = !!!!, … , !! = !! = !! !!!! = ! !! = !, !!!!
= !!"!
1/3$
2/3$
1/2$ 1/2$ 1/4$
1/4$
1$
1/2$
$
$
$
$
$
$
$
$
$
Matriz$de$transiciones$$$Q=$(qij)=$$
1
3
2
3 0 0
1
2 0 1
2 0
0 0 0 1
1
2 0 1
4
1
4
$
$
$
1$ 2$ 3$ 4$

5. CADENA DE MÁRKOV
Suponga(que((en(el(tiempo(n,(Xn(tiene(una(distribución(!(((vector(de(columna,(que(es(la(
PMF)(
!(!!!! = !) = ! !!!! = ! !! = ! ! !! = !
!
!=! !!!!"
!
(
(
lo(que(significa(que(es(la(entrada(j(de(!!(
(
! !!!! = ! !! = ! = !!"(
! !!!! = ! !! = ! = ! !!!! = ! !!!! = !, !! = ! ! !!!! = ! !! = !
!
!
=! !!!!!!
!
(
lo(que(significa(que(es(la(entrada((i,j)de(!!!
(
(
(
Así(que( !!(es(la(distribución(en(el(tiempo(n+1;(
( ( !!!
(es(la(distribución(en(el(tiempo(n+2;(
( ( !!!
(es(la(distribución(en(el(tiempo(n+3…(

6. CADENA DE MÁRKOV

7. CADENA DE MÁRKOV
Ejercicio 1:
Dado que el día de hoy es soleado, cual es la probabilidad
que mañana sea soleado y el siguiente día lluvioso

8. CADENA DE MÁRKOV
Ejercicio 2:
Dado que el día de hoy es nublado, cual es la probabilidad
que en dos días sea lluvioso

9. MODELO DE MÁRKOV OCULTO

10. MODELO DE MÁRKOV OCULTO
Ejercicio:
Se encerró un día soleado, el siguiente día el cuidador tuvo
una sombrilla. ¿Cuál es la probabilidad que el siguiente día
sea lluvioso?

11. MODELO DE MÁRKOV OCULTO
Definición formal:
Valores observables
Πi probab que el estado
inicial sea Qi
probab de las
observaciones

12. MODELO DE MÁRKOV OCULTO
Definición formal:

13. MODELO DE MÁRKOV OCULTO
Arquitectura:

14. MODELO DE MÁRKOV OCULTO
Obtención de los parámetros del modelo:

15. MODELO DE MÁRKOV OCULTO
Existen tres problemas canónicos asociados con HMM:
1. Dados los parámetros del modelo, compútese la probabilidad de una secuencia
de salida en particular. Este problema se resuelve con el algoritmo de avance-
retroceso.
2. Dados los parámetros del modelo, encuéntrese la secuencia más probable de
estados ocultos que puedan haber generado una secuencia de salida dada. Este
problema se resuelve con el algoritmo de Viterbi.
3. Dada una secuencia de salida o un conjunto de tales secuencias, encuéntrese el
conjunto de estados de transición y probabilidades de salida más probables. En
otras palabras, entrénense a los parámetros del HMM dada una secuencia de
datos. Este problema se resuelve con el algoritmo de Baum-Welch.

16. MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.

17. MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.

18. MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.

19. MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.

20. MODELO DE MÁRKOV OCULTO
La secuencia más probable de estados ocultos

21. MODELO DE MÁRKOV OCULTO
La secuencia más probable de estados ocultos

22. MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Encontrar el conjunto de estados de transición y
probabilidades de salida más probables. Algoritmo de Baum-Welch.

23. MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.

24. MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.

25. MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.

26. MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.

27. APLICACIONES DEL HMM
RECONOCIMIENTO DE LA VOZ:
CLASIFICADOR GAUSSIANO O ANN
DEPENDE DE LA PRONUNCIACION

28. APLICACIONES DEL HMM
• Reconocimiento de la voz, gestos, escritura manual.
• Etiquetado gramatical (Traducción)
• Criptoanálisis
• Bioinformática y genómica (predecir zonas que
codifiquen proteinas en el ADN, modelar familias
protéicas, predecir estructuras)
• Seguimiento de partituras musicales

29. HERRAMIENTAS PARA DESARROLLO
DE HMM
1. Hidden Markov Model (HMM) Toolbox for Matlab
2. Jahmm - Hidden Markov Model (HMM) en Java
3. Mathworks stats toolbox 4.1
4. GNU HMM toolbox
5. Bayes-Net-Toolkit / HMM para Matlab
6. PMT para Matlab
7. HHpred (bioinformática)
8. AK toolkit
RECONOCIMIENTO DEL HABLA
1. Hidden Markov Model Toolkit (HTK)
2. Discrete HMM toolkit en C++

30. PRESENTACION DE ARTICULOS
PROBLEMA:

32. Myocardial infarction classification with multi-lead ECG using
hidden Markov models and Gaussian mixture models

33. Myocardial infarction classification with multi-lead ECG using
hidden Markov models and Gaussian mixture models
UTILIZAN EL ALGORITMO DE K MEDIAS Y DE BAUM-WELCH

34. Myocardial infarction classification with multi-lead ECG using
hidden Markov models and Gaussian mixture models
CUANDO ESTA ENTRENADO, USAN EL PROCEDIMIENTO AVANCE- RETROCESO PARA EL
CALCULO DE LA VEROSIMILITUD DE CADA COMPLEJO QRS
USO DEL ALGORITMO
DE VITERBI

35. Myocardial infarction classification with multi-lead ECG using
hidden Markov models and Gaussian mixture models
1129 Latidos evaluados:
582 con infarto y 547 normales. (pruebas 100 y 100, el resto entrenamiento)
Cada experimento fue probado 30 veces

36. Base de datos: Long-Term ST Database en
PhysioBank
50 secuencias, la mitad de entrenamiento
Algoritmo de Baum-Welch
Algoritmo de avance-retroceso para comparaciones

37. An approach to determine myocardial ischemia by
hidden Markov models

38. BIBLIOGRAFIA
1. L. Rabiner, “A tutorial on hidden Markov models and selected applications in speech
recognition,” Proceedings of the IEEE, vol. 77, no. 2, pp. 257–286, Feb. 1989.
2. H. Stark, J. W. Woods, and H. Stark, Probability, statistics, and random processes for
engineers. Boston: Pearson, 2012.
3. J. A. Gubner and Cambridge University Press, Probability and random processes for
electrical and computer engineers. Cambridge: Cambridge University Press, 2006.
4. S. Graja and J.-M. Boucher, “Hidden Markov tree model applied to ECG delineation,”
IEEE Transactions on Instrumentation and Measurement, vol. 54, no. 6, pp. 2163–
2168, Dec. 2005.
5. L. Bergasa, Introducción a los modelos ocultos de Márkov. Dpto de Electrónica,
Universidad de Alcalá. March. 2006
6. X. Tang, L. Xia, W. Liu, Y. Peng, T. Gao, and Y. Zeng, “An approach to determine
myocardial ischemia by hidden Markov models,” Comput Methods Biomech Biomed
Engin, vol. 15, no. 10, pp. 1065–1070, 2012.
7. P.-C. Chang, J.-J. Lin, J.-C. Hsieh, and J. Weng, “Myocardial infarction classification
with multi-lead ECG using hidden Markov models and Gaussian mixture models,”
Applied Soft Computing, vol. 12, no. 10, pp. 3165–3175, Oct. 2012.