SlideShare una empresa de Scribd logo
1 de 7
PRML 読書会 14.  モデルの結合 [email_address] Yoshinori Kabeya
目次 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
イントロ:モデル結合とは ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],が、私はモデル結合の話ではなく、ベイズモデル平均化の話をします。 ベイズモデル平均化とモデル結合を区別することは重要である !
14.1 ベイズモデル平均化 ,[object Object],[object Object],[object Object],データ点の生成原因がどの構成要素であるかを示す 二値の潜在変数 z を含むモデルで同時分布を示すと 観測変数 x についての密度は潜在変数を周辺化することにより求まり 通常のガウス混合分布の例では (9.12) より下記の表記となりモデル結合の一例となる 独立同分布のデータ集合 X={x1,x2,,,xn} の周辺確率は となり、観測されたデータ点 Xn ごとに対応する潜在変数 Zn が存在することがわかる。 (14.2) (14.3) (14.4) (14.5) ① 混合ガウス分布を用いて モデル結合 の説明
14.1 ベイズモデル平均化 h=1,2,,,,H で番号付されたいくつかの異なるモデルがありその事前分布が p(h) とする するとデータ集合についての周辺分布は下記のようになる ② ベイズモデル平均化の例を説明 (14.6) この場合だとたった一つのモデルがデータ全体の生成を担当している  データ集合のサイズが大きくなれば、不確実性が減少しひとつのモデルに集中するようになる  よってひとつのモデルで予測することになり、モデル結合とならない p(h)
14.1 ベイズモデル平均化 演習  14.1 モデル p(t|x,zh,θh,h) を考える。 (x: 入力ベクトル、 t: 目標ベクトル ,h: モデルインデックス ,zh: 潜在変数、 θh: パラメータ集合 モデルの事前確率を p(h) とし、訓練集合を X={x1,x2,,,xN},T={t1,t2,,,tN} とする。 潜在変数とモデルインデックスを周辺化した予測分布を書き下し、ベイズモデル平均化と潜在変数を利用することの違いを示せ。 潜在変数とモデルインデックスを周辺化すると・・・ (150) の式は結局事前確率 h に潜在変数、パラメータが依存してしまい、ベイズモデル平均化となる。 (150)
14.1 ベイズモデル平均化 演習  14.1 (151) となり、データ点 Tn ごとに潜在変数 Zn が存在することがわかる よってこれはベイズモデル平均化ではない ここで潜在変数を陽に書くと・・・

Más contenido relacionado

La actualidad más candente

今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン
Shinya Shimizu
 

La actualidad más candente (20)

Prml 2.3
Prml 2.3Prml 2.3
Prml 2.3
 
PRML輪読#13
PRML輪読#13PRML輪読#13
PRML輪読#13
 
PRML輪読#14
PRML輪読#14PRML輪読#14
PRML輪読#14
 
今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン今さら聞けないカーネル法とサポートベクターマシン
今さら聞けないカーネル法とサポートベクターマシン
 
Fisher線形判別分析とFisher Weight Maps
Fisher線形判別分析とFisher Weight MapsFisher線形判別分析とFisher Weight Maps
Fisher線形判別分析とFisher Weight Maps
 
PRML勉強会 #4 @筑波大学 発表スライド
PRML勉強会 #4 @筑波大学 発表スライドPRML勉強会 #4 @筑波大学 発表スライド
PRML勉強会 #4 @筑波大学 発表スライド
 
PRML輪読#2
PRML輪読#2PRML輪読#2
PRML輪読#2
 
ファクター投資と機械学習
ファクター投資と機械学習ファクター投資と機械学習
ファクター投資と機械学習
 
PRML輪読#3
PRML輪読#3PRML輪読#3
PRML輪読#3
 
PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半PRML上巻勉強会 at 東京大学 資料 第1章後半
PRML上巻勉強会 at 東京大学 資料 第1章後半
 
金融時系列のための深層t過程回帰モデル
金融時系列のための深層t過程回帰モデル金融時系列のための深層t過程回帰モデル
金融時系列のための深層t過程回帰モデル
 
SSII2019企画: 点群深層学習の研究動向
SSII2019企画: 点群深層学習の研究動向SSII2019企画: 点群深層学習の研究動向
SSII2019企画: 点群深層学習の研究動向
 
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう 「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
「3.1.2最小二乗法の幾何学」PRML勉強会4 @筑波大学 #prml学ぼう
 
W8PRML5.1-5.3
W8PRML5.1-5.3W8PRML5.1-5.3
W8PRML5.1-5.3
 
マーク付き点過程
マーク付き点過程マーク付き点過程
マーク付き点過程
 
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
[PRML勉強会資料] パターン認識と機械学習 第3章 線形回帰モデル (章頭-3.1.5)(p.135-145)
 
PRML第9章「混合モデルとEM」
PRML第9章「混合モデルとEM」PRML第9章「混合モデルとEM」
PRML第9章「混合モデルとEM」
 
[DL輪読会]モデルベース強化学習とEnergy Based Model
[DL輪読会]モデルベース強化学習とEnergy Based Model[DL輪読会]モデルベース強化学習とEnergy Based Model
[DL輪読会]モデルベース強化学習とEnergy Based Model
 
Chapter2.3.6
Chapter2.3.6Chapter2.3.6
Chapter2.3.6
 
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
StanとRでベイズ統計モデリングに関する読書会(Osaka.stan) 第四章
 

Destacado

第一回卒研発表会
第一回卒研発表会第一回卒研発表会
第一回卒研発表会
syou6162
 
続わかりやすいパターン認識11章(11.1 - 11.4)
続わかりやすいパターン認識11章(11.1 - 11.4)続わかりやすいパターン認識11章(11.1 - 11.4)
続わかりやすいパターン認識11章(11.1 - 11.4)
Nagi Teramo
 
Numpy scipyで独立成分分析
Numpy scipyで独立成分分析Numpy scipyで独立成分分析
Numpy scipyで独立成分分析
Shintaro Fukushima
 

Destacado (20)

PRML Chapter 14
PRML Chapter 14PRML Chapter 14
PRML Chapter 14
 
エクセルで統計分析 統計プログラムHADについて
エクセルで統計分析 統計プログラムHADについてエクセルで統計分析 統計プログラムHADについて
エクセルで統計分析 統計プログラムHADについて
 
PRML 第14章
PRML 第14章PRML 第14章
PRML 第14章
 
第一回卒研発表会
第一回卒研発表会第一回卒研発表会
第一回卒研発表会
 
Beautiful woRld
Beautiful woRldBeautiful woRld
Beautiful woRld
 
入門機械学習6章
入門機械学習6章入門機械学習6章
入門機械学習6章
 
Prml
PrmlPrml
Prml
 
大阪PRML読書会#1資料
大阪PRML読書会#1資料大阪PRML読書会#1資料
大阪PRML読書会#1資料
 
機械学習
機械学習機械学習
機械学習
 
構造方程式モデルによる因果推論: 因果構造探索に関する最近の発展
構造方程式モデルによる因果推論: 因果構造探索に関する最近の発展構造方程式モデルによる因果推論: 因果構造探索に関する最近の発展
構造方程式モデルによる因果推論: 因果構造探索に関する最近の発展
 
構造方程式モデルによる因果探索と非ガウス性
構造方程式モデルによる因果探索と非ガウス性構造方程式モデルによる因果探索と非ガウス性
構造方程式モデルによる因果探索と非ガウス性
 
Vanishing Component Analysis
Vanishing Component AnalysisVanishing Component Analysis
Vanishing Component Analysis
 
続わかりやすいパターン認識11章(11.1 - 11.4)
続わかりやすいパターン認識11章(11.1 - 11.4)続わかりやすいパターン認識11章(11.1 - 11.4)
続わかりやすいパターン認識11章(11.1 - 11.4)
 
はじぱた7章F5up
はじぱた7章F5upはじぱた7章F5up
はじぱた7章F5up
 
独立成分分析とPerfume
独立成分分析とPerfume独立成分分析とPerfume
独立成分分析とPerfume
 
Numpy scipyで独立成分分析
Numpy scipyで独立成分分析Numpy scipyで独立成分分析
Numpy scipyで独立成分分析
 
続・わかりやすいパターン認識 第7章「マルコフモデル」
続・わかりやすいパターン認識 第7章「マルコフモデル」続・わかりやすいパターン認識 第7章「マルコフモデル」
続・わかりやすいパターン認識 第7章「マルコフモデル」
 
非負値行列分解の確率的生成モデルと 多チャネル音源分離への応用 (Generative model in nonnegative matrix facto...
非負値行列分解の確率的生成モデルと多チャネル音源分離への応用 (Generative model in nonnegative matrix facto...非負値行列分解の確率的生成モデルと多チャネル音源分離への応用 (Generative model in nonnegative matrix facto...
非負値行列分解の確率的生成モデルと 多チャネル音源分離への応用 (Generative model in nonnegative matrix facto...
 
【Zansa】第17回 ブートストラップ法入門
【Zansa】第17回 ブートストラップ法入門【Zansa】第17回 ブートストラップ法入門
【Zansa】第17回 ブートストラップ法入門
 
Pyladies Tokyo meet up #6
Pyladies Tokyo meet up #6Pyladies Tokyo meet up #6
Pyladies Tokyo meet up #6
 

Último

TokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentationTokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentation
YukiTerazawa
 
The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024
koheioishi1
 

Último (8)

2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
2024年度 東京工業大学 工学院 機械系 大学院 修士課程 入試 説明会 資料
 
TokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentationTokyoTechGraduateExaminationPresentation
TokyoTechGraduateExaminationPresentation
 
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
東京工業大学 環境・社会理工学院 建築学系 大学院入学入試・進学説明会2024_v2
 
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
生成AIの回答内容の修正を課題としたレポートについて:お茶の水女子大学「授業・研究における生成系AIの活用事例」での講演資料
 
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
次世代機の製品コンセプトを描く ~未来の機械を創造してみよう~
 
The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024The_Five_Books_Overview_Presentation_2024
The_Five_Books_Overview_Presentation_2024
 
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
世界を変えるクレーンを生み出そう! 高知エンジニアリングキャンプ2024プログラム
 
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
ゲーム理論 BASIC 演習106 -価格の交渉ゲーム-#ゲーム理論 #gametheory #数学
 

パターン認識と機械学習14章 d0912

  • 1. PRML 読書会 14. モデルの結合 [email_address] Yoshinori Kabeya
  • 2.
  • 3.
  • 4.
  • 5. 14.1 ベイズモデル平均化 h=1,2,,,,H で番号付されたいくつかの異なるモデルがありその事前分布が p(h) とする するとデータ集合についての周辺分布は下記のようになる ② ベイズモデル平均化の例を説明 (14.6) この場合だとたった一つのモデルがデータ全体の生成を担当している  データ集合のサイズが大きくなれば、不確実性が減少しひとつのモデルに集中するようになる  よってひとつのモデルで予測することになり、モデル結合とならない p(h)
  • 6. 14.1 ベイズモデル平均化 演習 14.1 モデル p(t|x,zh,θh,h) を考える。 (x: 入力ベクトル、 t: 目標ベクトル ,h: モデルインデックス ,zh: 潜在変数、 θh: パラメータ集合 モデルの事前確率を p(h) とし、訓練集合を X={x1,x2,,,xN},T={t1,t2,,,tN} とする。 潜在変数とモデルインデックスを周辺化した予測分布を書き下し、ベイズモデル平均化と潜在変数を利用することの違いを示せ。 潜在変数とモデルインデックスを周辺化すると・・・ (150) の式は結局事前確率 h に潜在変数、パラメータが依存してしまい、ベイズモデル平均化となる。 (150)
  • 7. 14.1 ベイズモデル平均化 演習 14.1 (151) となり、データ点 Tn ごとに潜在変数 Zn が存在することがわかる よってこれはベイズモデル平均化ではない ここで潜在変数を陽に書くと・・・