Recomendados
Recomendados
Más contenido relacionado
La actualidad más candente
La actualidad más candente (20)
Similar a みんなでDeep Learningを理解しよう！
みんなでDeep Learningを理解しよう！
- 2. 11 自己紹介 百足山 実花 アサヒビジネスソリューションズ株式会社 2017年入社 データサイエンティスト見習い ム カ デ ヤ マ ミ カ
- 9. 88 深層学習のポイント • 順伝搬法 • 誤差逆伝搬法 • 重み • 勾配降下法 これさえ分かれば大丈夫！
- 11. 1010 データの投入方法 画像データを取り扱う際は、画像データをピクセル単位のRGBの色情報に 分解し、それを入力層にインプットします。RGBで特徴が捉えずらい場合 は、CMYKや白黒データを入力データとする場合もあります。 画像幅＝10ピクセル 画 像 高 ＝ 10 ピ ク セ ル 色情報＝３層 10ピクセル × 10ピクセル × 3層 300 入力層の数 ＝
- 21. 2020 微分で傾きを求めた結果、傾きが負であれば重みを増やし、傾きが正であれ ば重みを減らします。 ディープラーニングの学習 ⑩/⑫ 傾き 負 ±0 正 重み 増加 最適 減少 誤 差 少 多 傾きが負 （＝右肩下がり） 傾きが正 （＝左肩下がり） 傾きが±0 （＝フラット） 軽 重 重み
- 22. 2121 ディープラーニングの学習 ⑪/⑫ 学習率を大きくすればするほど学習スピードが速く、最適値を飛び越えて しまう可能性があります。逆に小さければ小さいほど学習は遅く進み、よ り多くの学習回数が必要となってしまいます。 誤 差 少 多 傾きが負 （＝右肩下がり） 𝑊𝑛 𝑊𝑛+1 𝑊𝑛+2 ウエイトを増加させる 軽 重 重み
- 27. 2626 Appendix：活性化関数の選択① 状態 𝑋 樹状突起（入力） 細胞体 核 軸索末端（出力） ミエリン鞘 シュワン細胞 ランヴィエ絞輪 𝑥1 𝑥2 𝑥3 𝑦 𝑋 = 𝑥1+𝑥2+𝑥3 生物のニューロン（神経細胞）を人工的に模したものが人工ニューロンです。樹状突起を入力𝑥とみなし、軸 索末端を出力𝑦としてデータを出力します。生物のニューロンの場合、”ある一定量”の電気刺激を受け取るま で、出力をしないため、それを同じ振る舞いをさせるには少し工夫が必要なことがわかります。
- 28. 2727 Appendix：誤差の逆伝搬の数式表現① 誤差をユニット数に応じて均等に分割及び伝搬するのは適切ではありません。各 ウェイトに基づいて分割及び伝搬する誤差を計算する必要がります。誤差を逆伝搬 する際の数式は以下のとおりです。 𝑥1における誤差 𝑒 = 𝑒1 × 𝑤11 𝑤11+𝑤21 𝑥1 𝑥2 𝑎1 𝑦1 𝑒1 = 0.8（誤差） 𝑤11 = 2.0 𝑤21 = 3.0 2.0 2.0+3.0 = 2 5 の誤差を逆伝搬 3.0 2.0+3.0 = 3 5 の誤差を逆伝搬 𝑥1における誤差 𝑒 = 0.32 𝑥1における誤差 𝑒 = 0.48
- 29. 2828 Appendix：誤差の逆伝搬の数式表現② 複数のユニットから誤差を受け取る場合は、受け取った値を単純に足し算します。 𝑥1における誤差= 𝑒11 + 𝑒12 = 0.32 + 0.22 = 0.54 𝑥1 𝑥2 𝑎1 𝑎2 𝑦1 𝑦2 𝑒1 = 0.8（誤差） 𝑤11 = 2.0 𝑤22 = 5.0 𝑒2 = 0.5（誤差） 誤差：0.32 𝑒11 𝑒12 𝑥1における誤差 = 0.54