Wacker#16 発表資料

1. もう学習は機械に
任せたい２
ディープラーニングの逆襲
@Signal株式会社
菅原 浩祐

2. これまでのあらすじ
• Wacker#8で、TensorFlowでMNISTの環境を構築して動かした
けど、何をやっているかまではわからんかった

3. MNISTとは
• 手書き文字認識の例題
• 0～10までの数字一文字が書かれた28 * 28ピクセルの画像が
70000個入ったデータセット
• TensorFlowのチュートリアルとしてはBeginnersとExpertの二
種類がある
• これらの画像を正しく分類できるようにプログラムを自動で学
習させる

4. 本日の目的
• TensorFlowのMNIST ML Beginners及び、Expertのサンプル
コードがそれぞれ何をやっているか解説して、TensorFlowの活
用方法を理解できれば

5. そもそもディープラーニングとは
• 超ざっくり言うと
「入力された配列から正しい答えを導くために必要な変数を求め
る」ための方法

6. MNIST ML Beginners
【データの入力】
・TensorFlow（というかDeeplernning）では画像を1ピクセル
ごとに数値に置き換えて、配列として扱う
MNISTのデータの場合
28 * 28 256階調 の画像データなので・・・
「それぞれの要素に256までの整数が入った784個の要素数の
１次元配列」としてデータを入力する
例： [0,1,0,2,0・・・・・]

7. 【処理】
[必要な変数とは]
重み(W)とバイアス(b)
それぞれのxに対応する重みを掛け算したものと、バイアスを全
部足し算したものが出力(y)になる

8. それぞれのxに対応する重みを掛け算したものと、バイアスを全
部足し算したものが出力(y)になる
式で表すと：
Yi = W1 * X1 + W2 * X2 + ……. W784 * X784 + b
↑この重みとバイアスを調整して「問題を解ける式」を求めてい
くというのが根本の原理
(yは答えの種類の数だけ用意(MNISTの場合0～9の10種類:y0～
y9))

9. [評価(重みとバイアスをどう導くか)]
• 出力結果のパーセンテージとラベルデータを突き合わせて、答
え合わせをして差を算出する
合ってたら(差が少なければ)：W,bはそのまま
間違ってたら(差が大きければ)：W,bを次に進めて再計算
→この差の事をクロスエントロピーと呼ぶ

10. [ソフトマックス関数]
出力の総和が1になるように比率化する処理
例えば
Y0:0.2, Y1:0, Y2:0, Y3:0, Y4:0, Y5:0, Y6:0.8, Y7:0, Y8:0, Y9:0
こういう出力になるように調整してくれるので、パーセンテージ
で答えが表せられる

11. MNIST ML Expert
[TensorFlowのMNIST BeginnersとExpertの違い]
・畳み込み処理のある無し

12. [畳み込み処理とは]
・画像にフィルタ処理を施して特徴量を抽出する
画像(の配列)を小さい矩形に区切って、それぞれに特定の値を
乗算して、特徴を増大させる
http://engineering.flipboard.com/assets/convnets/Convolution_schematic.gif
→例えば：グレーの部分を黒に置き換えることで線の部分を太
くする、とか(参考)

13. [プーリング]
画像が多少ずれていても結果に影響が出ないように調整する処理
MAXプーリング：
画像(の配列)を小さい矩形に区切り、その範囲内で一番大きな値
を結果として採用していく
平均プーリング：
画像(の配列)を小さい矩形に区切り、その範囲内の平均値を結果
として採用していく

14. [活性化関数]
どの程度特徴があったら真とするか、という評価をなめらかにし
たり、緩急をつけたりして調整するための処理

15. MNIST ML Expertソースコードの解説
https://gist.github.com/uramonk/422bb33419df91b253d8728f
e794f8b4

16. 便利ツール
• Anaconda：Pythonのバージョン管理システム
http://qiita.com/exy81/items/48314b968d9fad6170c8
• Jupyter Notebook：Pythonを1行ずつ確認しながら実行できる
仕組み
http://qiita.com/icoxfog417/items/175f69d06f4e590face9