続・わかりやすいパターン認識第7章「マルコフモデル」

5/12/2015 7th #ぞくパタ 1
続・わかりやすいパターン認識
第7章マルコフモデル（pp.123-132）
@tanimocchi

5/12/2015 7th #ぞくパタ 2
自己紹介
 Twitter ID： @tanimocchi
（もっちぃ）
 修士(数学)、博士(情報科学)
 所属： Rの付く半導体
 仕事：車載Security（産業も）
 ビジネスモデル構築・市場開拓、セキュリティ・プロトコル/サーバ・ソ
フト/DBスキーマの仕様設計・開発管理
 プロセッサアーキテクチャ拡張仕様定義もこれから手伝う感じ？
 とはいえ、統計解析とパターン認識・機械学習は必要！だと信じてる。
 統数研公開講座に参加するかもですので、ご一緒の際は宜しくお願いします。
 バイタル・センサシングでのある種の推定モデル開発にも従事

5/12/2015 7th #ぞくパタ 3
7.1 マルコフ性とマルコフモデル
目的
・試行の独立性が成り立たず、過去の試行に
影響される場合を扱う

5/12/2015 7th #ぞくパタ 4
仮想的なサイコロ投げ [1/3]
 サイコロと聞くと“独立試行”と条件反射する前に……
 現実に存在するサイコロは、その出る目の確率が等確率で
はない（そんなサイコロは作れない）
 限りなく重心が中心にあるサイコロ：販売価格 ¥47,500 （税抜）
 http://www.iriso-seimitsu.co.jp/tech/showcase3
6つの四角錘を組み合わせたとき、
設計理論上中心から各底面までの
距離の一致度は99.99999999%

5/12/2015 7th #ぞくパタ 5
 独立試行が成り立たない例
 出る目の確率が均等でないサイコロがc種類存在し、全体でc個
 全サイコロの目の数はm個
 c個のサイコロの中かから復元抽出に従い選択し、n回振る
 ここで、t回目に取り出したサイコロは、(t-1)回目に取り出したサイコロに
依存して決定される
   
   
 nt
ts
tvvvx
ct
mt
,,2,1
:,,,
:,,,
21
21






　ここで、　
取り出したサイコロでの状態時点
サイコロの目での観測結果時点


5/12/2015 7th #ぞくパタ 6
 (t-1)回目のサイコロから、t回目のサイコロが選択される確率
 t回目のサイコロの出る目の確率
        
   
  　が成り立つ。　　また、　
ここで、
　　
cia
sPssP
cjissPaant
c
j
ij
jij
itjtjiij
,,2,11
,,2,1,,,,,2,1
1
101
1









i
1
2
j
c
(t-1)回目
t回目
起
り
得
る
全
事
象
……
        
  　が成り立つ。　　また、　
　　
cjb
cjisvxPvbbnt
m
k
jk
jtktkjjk
,,2,11
,,2,1,,,,,2,1
1






j
1v
2v
kv
mv
t回目に選択
したサイコロ
そのサイコロの目
起
り
得
る
全
事
象
……
前状態が現状態を決定
現状態が出力を決定
valuesymbolicsx tt :,
1ia
2ia
ija
ica
1jb
2jb
jkb
jmb
valueconcretev jk :,

5/12/2015 7th #ぞくパタ 7
マルコフモデル
 これまで述べた構造は、確率的な状態遷移と確率的な出力
機能を備えたマルコフモデル（Markov Model）を表す
 マルコフ性（Markov property）
 現在の状態が一時点前の状態に依存して確率的に決まる特性
 マルコフ過程（Markov process）
 そのような特性を満たす過程
 j重マルコフ過程（j-th order Markov process）
 現在の状態が直前のj時点の状態に依存して確率的に決まるマルコフ過程
 j=1のとき、単純マルコフ過程（simple Markov process） ← 以下これのみ扱う
 マルコフ連鎖（Markov chain）
 マルコフ過程の結果得られる状態の系列（確率的に状態が遷移していく過程）
次状態関数
（遷移確率）
状
態
出力関数
（出力確率）
出力記号
statetransition probability output probability
output symbol
入力を伴わない特殊なムーア型ステートマシーン
（次状態関数＝遷移確率、出力関数＝出力確率）
特殊な確率I/Oオートマトンとして定義する事も可能

5/12/2015 7th #ぞくパタ 8
マルコフモデルの振る舞い
 試行の独立性が成り立たない
 出力は現状態にのみ依存して決定
次状態関数
（遷移確率）
状
態
出力関数
（出力確率）
出力記号
output symbol
         
         
         
         nnnn
nnnn
nn
nn
sxPsxPsxPsssxxxPP
xsPxsPxsPxxxsssPP
sPsPsPsssPP
xPxPxPxxxPP
,,,,,,,,,,,
,,,,,,
,,,
,,,
22112121
22112121
2121
2121








sx
xs
s
x
         nnnn sxPsxPsxPsssxxxPP  22112121 ,,,,,, sx
ts
tx
1s
2s
ts
ns


1x
2x
tx
nx


Graphical Model
1s
2s
ts
ns


1x
2x
tx
nx


1s
2s
ts
ns


1x
2x
tx
nx



5/12/2015 7th #ぞくパタ 9
遷移確率と出力確率の行列表現 [1/3]
 遷移確率と出力確率の行列表現
次状態関数
（遷移確率）
aij
状
態
出力関数
（出力確率）
bjk
出力記号
state
output symbol
 ccMaij ,














A  mcMbjk ,














B
transition probability output probability
   mjkijc vvvba 






 2121 






















5/12/2015 7th #ぞくパタ 10
 c=3（サイコロω1,ω2,ω3の3個）、m=2（v1：奇数,v2：偶数）の例






















7.03.0
4.06.0
2.08.0
,
6.01.03.0
7.01.02.0
5.04.01.0
BA 　










6.01.03.0
7.01.02.0
5.04.01.0
3
2
1
321



　　










7.03.0
4.06.0
2.08.0
3
2
1
21



vv　　
t回目のサイコロ（ｔ
-
1
）回
目
の
サ
イ
コ
ロ
t
回
目
の
サ
イ
コ
ロ
t回目の奇数・偶数
マルコフモデルの状態遷移図
ω1
ω2 ω3
0.1
0.1
0.4
0.2 0.5
0.3
0.6
0.1
0.7

5/12/2015 7th #ぞくパタ 11
 c=3（サイコロω1,ω2,ω3の3個）、m=2（v1：奇数,v2：偶数）の例
   53.047.0
7.03.0
4.06.0
2.08.0
5.04.01.0
5.0
4.0
1.0
5.0
4.0
1.0
0
0
1
6.07.05.0
1.01.04.0
3.02.01.0
0
0
1
0
0
1
























































































B
AA 　
次状態関数
（遷移確率）
aij
状
態
出力関数
（出力確率）
bjk
出力記号
output symbol
   mjkijc vvvba 






 2121 





















ω1
ω2 ω3
0.1
0.1
0.4
0.2 0.5
0.3
0.6
0.1
0.7

5/12/2015 7th #ぞくパタ 12
7.2 マルコフモデルのパラメータ推定
目的
・観測結果からの遷移確率行列A、出力確率行列B、
及び初期状態確率ベクトルρ、の最尤推定

5/12/2015 7th #ぞくパタ 13
マルコフモデルを表現するための記号
 
 
 
 
   
    
 
 
 
      
 
 
  次元ベクトルを成分としてもつ：
の行列成分として持つを：
の行列成分として持つを：
を満たすである確率が状態：初期状態
を出力する確率で：状態
への遷移確率から状態：状態
出力記号系列：観測記号系列
：状態系列
回目に出た目出力記号での観測結果：時点
コロ回目に取り出したサイでの状態：時点
番目の目サイコロの番目の出力記号：
番目のサイコロ番目の状態：
サイコロの目の数：出力記号の数
サイコロの種類数：状態数
：観測回数
ラメータ。はマルコフモデルのパ　とする。特に、　以下、
c
mckjb
ccjia
tsP
vvbb
aa
xxx
sss
ttvvvx
tts
kkv
ii
m
c
n
mkcji
ic
jk
ij
c
i iiii
kjkjjk
jijiij
n
n
mt
ct
k
i






,,,
,
,
11
,,
,,
,,,
,,,
,,,
,,,
,,,2,1,,2,1,
21
11
21
21
21
21
















ρ
B
A
x
s
ρBA

5/12/2015 7th #ぞくパタ 14
パラメータ最尤推定の問題設定
 例題7.1
 箱の中にc種のサイコロω1,ω2,…ωcがあり、その何れかを取り出し、サ
イコロの種類を確認した上でそのサイコロを投げ、出た目を観測した
後、サイコロを元の箱に戻すという操作をn回繰り返す。ここで、
1. 最初にサイコロωiを取り出す確率はρiである
2. サイコロωiを取り出した後にサイコロωjを取り出す確率はaijである
3. サイコロωjを投げて出た目がvkとなる確率はbjkである
とする。但し、i,j=1,2,…,c, k=1,2,…,mである。その結果、サイコロの
目の系列としてx=x1x2…xt…xnが得られ、サイコロの種類の系列とし
てs=s1ss2…st…snが得られた。このとき、観測結果から、A,B,ρを最尤
推定により推定せよ。
 本例題は、xだけでなく、sの情報も得られており、完全データ
を扱った教師付き学習
 例題5.2に対して、マルコフ性を取り入れた例題

5/12/2015 7th #ぞくパタ 15
尤度関数としての同時確率P(x,s)の算出
 P(x,s)= P(s)P(x|s)
 P(x|s)の算出
 P(s)の算出
 P(x,s)の算出
         
      tttttt
n
t
nnnn
sxPxsbxsb
sxPsxPsxPsssxxxPP



,,
,,,,,,
1
22112121


　　
sx
           
      としたここで、　　 ,,
,,,,,,
1101
1
13221121
sPssassa
ssassassasPsssPP
tt
n
t
nnn






s
         tttt
n
t
xsbssaPPP ,,, 1
1


 sxssx

5/12/2015 7th #ぞくパタ 16
対数尤度関数logP(x,s)
 logP(x,s)の算出と最尤推定に向けた記号の導入
 上式のLρ、La、Lbは、それぞれパラメータρi、aij、bjkのみを含むので、logP(x,s)を最
大化するにはLρ、La、Lbを、それらのパラメータに関してそれぞれ独立に最大化すれ
ばよい。
           
          
 
 
 


































n
t
tt
def
b
n
t
tt
def
a
def
ba
n
l
ll
n
t
tt
ll
n
l
tt
n
t
tttt
n
t
xsbL
ssaL
sPL
sPssaLLLxsbssasP
xsbssassaxsbssaP
1
1
1
1
1
110
1
1
1
11
1
1
1
1
101
1
,
,log
log
,,,loglog
,,,log,,log,log
　　
　　
　　
ここで、
　　

 
sx

5/12/2015 7th #ぞくパタ 17
定理5.1（p.82）再掲
 定理5.1
 
 
 nix
x
xxxxf
x
xxxxn
n
n
k
kii
i
n
i
iin
n
i
i
in
n
,,2,1
log,,
1
10,,
,,
1
1
21
1
21
21














　　　
は次式で与えられる。を最大にする
　　
する。このときを満たしているものと
　　
が拘束条件個の変数
がある。ここで、個の正の定数いま、




5/12/2015 7th #ぞくパタ 18
Laの最大化
 ni：サイコロωiを取り出した回数
 mij：サイコロをωi,ωjと連続して取り出した回数
i
1
c
(t+1)回目
……………………
t回目
 回11 ii ma
 回22 ii ma
 回ijij ma
 回icic ma
回in
ts 1ts
 1, tt ssa
2
j
11 log ii am
22 log ii am
ijij am log
icic am log
Concrete state transition
Symbolic state transition
 



1
1
1,log
n
t
tta ssaL
     


 








c
i
c
j
ijij
n
t
tta amssaL
1 1
1
1
1 log,log
1
1

c
j
ija
i
c
j
ij nm 1
最大化対象の関数
拘束条件
自明な条件
i
ij
c
h
ih
ij
ij
n
m
m
m
a


1
ˆ
定理5.1
各遷移が、ni回中mij回発生

5/12/2015 7th #ぞくパタ 19
Lbの最大化
 nｊ：サイコロωjを取り出した回数
 njk：サイコロωjを投げて出た目がvkであった回数
j
1v
mv
…………………… 回1j1 nbj
 回22 jj nb
 回jkjk nb
 回jmjm nb
回jn
ts tx
 tt xsb ,
2v
kv
11 log jj bn
22 log jj bn
jkjk bn log
jmjm bn log
Concrete output function
Symbolic output function
 

n
t
ttb xsbL
1
,log
     







c
j
m
k
jkjk
n
t
ttb bnxsbL
1 11
log,log
1
1

m
k
jkb
j
m
k
jk nn 1
最大化対象の関数
拘束条件
自明な条件
j
jk
m
l
jl
jk
jk
n
n
n
n
b


1
ˆ
定理5.1
t回目に選択
したサイコロ
そのサイコロの目
各出力が、nｊ回中njk回発生

5/12/2015 7th #ぞくパタ 20
Lρの最大化
 本例題で扱う観測データは完全データであるので、s1が
ω1,ω2,…ωcのいずれかであるかは既知。
 そこで、 s1=ωiであったと仮定する。
 すると下記が得られる。
 推定値は上式を最大にするパラメータρであり、下記を得る
  iisPL  loglog 1 
 




ijj
i
　0ˆ
1ˆ








010 


i
初期状態確率ベクトル

5/12/2015 7th #ぞくパタ 21
Thanks a lot!

続・わかりやすいパターン認識第7章「マルコフモデル」

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Similar a 続・わかりやすいパターン認識第7章「マルコフモデル」

Similar a 続・わかりやすいパターン認識第7章「マルコフモデル」 (20)

Más de T T

Más de T T (10)