Joint Modeling of a Matrix with Associated Text via Latent Binary Features
1. Joint
Modeling
of
a
Matrix
with
Associated
Text
via
Latent
Binary
Features
XianXing
Zhang
and
Lawrence
Carin
NIPS
2012
すずかけ論文読み会#5
2013/08/03
紹介者
:
matsuda
13/08/03
1
6. Indian
Buffet
Process(IBP)
• 無限隠れ素性モデルのPrior
– [Griffiths
and
Ghahramani,
2005]
• Chinese
Restaurant
Processは無限隠れクラスのPrior
構成法
– 要するに・・・
• Binary
Matrixに対するPrior
• Beta-‐Bernoulli過程の行列に対する拡張(自信なし)
13/08/03
6
7. Indian
Buffet
ProcessとCRP
• Chinese
Restaurant
Process
• Indian
Buffet
Process
テーブルは「クラス」
お皿は「素性」
from
hep://mlg.eng.cam.ac.uk/zoubin/talks/turin09.pdf
(IBPとその応用についていろいろ書いてあるスライド,おすすめ)
13/08/03
7
10. Binary
Matrix
FactorizaRon
• X
∈
RP×N
な行列Xの分解
X
=
LHRT
– L
∈
{0,1}P×KL,
H
∈
RKL×KR,
R
∈
{0,1}N×KR
– KL,
KR
:
行列のランク(無限大のこともある)
X
H
L
R
N(人数)
P(
数
)
KL
P
KR
N
=
L,
R はIBPでモデル(KL,
KRは可変)
このへん
13/08/03
10
19. 13/08/03
19
αr
αl
αc
γ
η
y
:
xを0/1に離散化
x
:
probit(s,u,l,v,r)
IBP
IBP
MGP
Dir
gamma
θ
Dir(λ
●
r)
Mult
Mult
Focused
Topic
Model
Binary
Matrix
FactorizaRon
with
low
rank
assumpRon
Mult
行列モデルとトピックモデ
ルでシェアされる変数
行列分解モデル
トピックモデル
ドキュメント数
ユーザー数