2. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
自己紹介
本名: 山下 勝司
通称: やまかつ
2015年1月中途入社
ヤフオク!カンパニー所属
ヤフオク!の機械学習周りを担当
3. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
4. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
サービス開始:1999年
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
5. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
サービス開始:1999年
日本最大級の
インターネットオークションサイト
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
6. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
サービス開始:1999年
日本最大級の
インターネットオークションサイト
出品数:常時約3900万個※1
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
7. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
サービス開始:1999年
日本最大級の
インターネットオークションサイト
出品数:常時約3900万個※1
1秒あたり273個※2
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
8. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
サービス開始:1999年
日本最大級の
インターネットオークションサイト
出品数:常時約3900万個※1
1秒あたり273個※2
ユーザ数(PC):約1117万人※3
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
9. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク!について
サービス開始:1999年
日本最大級の
インターネットオークションサイト
出品数:常時約3900万個※1
1秒あたり273個※2
ユーザ数(PC):約1117万人※3
ユーザ数(SP):約1671万人※3
※1: 2015年6月実績 ※2: 2015年6月22日実績
※3: Nielsen NetView(家庭および職場からのPCによるアクセス。アプリは除く)Nielsen Mobile NetView(Android+iOS / アプリいずれも含む)
2015/04「訪問者数」データ、「オークション」サブカテゴリ
10. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
アジェンダ
• ヤフオク!における深層学習を利用した
画像処理のご紹介
• ヤフオク!における分散表現を利用した
検索ランキングのご紹介
11. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
アジェンダ
• ヤフオク!における深層学習を利用した
画像処理のご紹介
• ヤフオク!における分散表現を利用した
検索ランキングのご紹介
12. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
解決したい課題
13. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
解決したい課題
MacBook Air
14. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
解決したい課題
15. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
解決したい課題
16. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
解決したい課題
カテゴリ違い
17. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違い
入札ユーザ
「折角、カテゴリを絞って検索したのに、
関係ない商品が…」
18. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違い
入札ユーザ
「折角、カテゴリを絞って検索したのに、
関係ない商品が…」
ユーザビリティの低下
19. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違い
入札ユーザ
「折角、カテゴリを絞って検索したのに、
関係ない商品が…」
カテゴリ違いを検知!
20. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人による検知
21. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人による検知
・高い精度
22. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人による検知
・高い精度
しかし限界も
23. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人による検知
・高い精度
しかし限界も
・量
24. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人による検知
・高い精度
しかし限界も
・量
・スピード
25. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人による検知
・高い精度
しかし限界も
・量
・スピード
機械学習の利用
26. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
機械学習にも限界が
27. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
機械学習にも限界が
・未知のパターン
28. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
機械学習にも限界が
・未知のパターン
・100%の精度は難しい
29. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
機械学習にも限界が
・未知のパターン
・100%の精度は難しい
など
30. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
機械学習にも限界が
・未知のパターン
・100%の精度は難しい
など
機械学習は銀の弾丸ではない
31. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人と機械学習のハイブリッド
32. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人と機械学習のハイブリッド
・人:判断
33. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人と機械学習のハイブリッド
・人:判断
・機械学習:人が判断する順序を決定
34. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知
人と機械学習のハイブリッド
・人:判断
・機械学習:人が判断する順序を決定
メリットの両立
・人:高い精度
・機械学習:量とスピード
35. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
36. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
37. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
38. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」
「MacBook Air カバー」
39. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」 → ✕
「MacBook Air カバー」 → ✕
40. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」 → ✕
「MacBook Air カバー」 → ✕
「MacBook Air + カバー」
41. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」 → ✕
「MacBook Air カバー」 → ✕
「MacBook Air + カバー」 → ◯
42. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」 → ✕
「MacBook Air カバー」 → ✕
「MacBook Air + カバー」 → ◯
「MacBook Air おまけ付 カバー」
43. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」 → ✕
「MacBook Air カバー」 → ✕
「MacBook Air + カバー」 → ◯
「MacBook Air おまけ付 カバー」 → ?
44. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
商品タイトルベース
ex. MacBook Air カテゴリへの出品
「MacBook Air 用カバー」 → ✕
「MacBook Air カバー」 → ✕
「MacBook Air + カバー」 → ◯
「MacBook Air おまけ付 カバー」 → ?
一定の精度はあるものの、限界も
45. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
単語に加え、画像も利用
46. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
単語に加え、画像も利用
例:MacBook Air カテゴリ
47. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
単語に加え、画像も利用
例:MacBook Air カテゴリ
◯ ✕ ✕
48. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
画像に写っている物体を認識
49. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
カテゴリ違いの検知モデル
画像に写っている物体を認識
深層学習(Deep Learning)を利用
50. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
深層学習の代表的手法
CNN(Convolutional Neural
Network)
RNN(Recurrent Neural Network)
RNN(Recursive Neural Network)
DBN(Deep Belief Network)
DBM(Deep Boltzmann Network)
DAE(Deep Autoencorder)
at el.
51. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
深層学習の代表的手法
CNN(Convolutional Neural
Network)
RNN(Recurrent Neural Network)
RNN(Recursive Neural Network)
DBN(Deep Belief Network)
DBM(Deep Boltzmann Network)
DAE(Deep Autoencorder)
at el.
52. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
CNNによる物体認識
画像に写っている物体を識別
Going deeper with convolutions (http://arxiv.org/pdf/1409.4842v1.pdf)より引用
53. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
CNNによる物体認識
画像に写っている物体を識別
シベリアンハスキー エスキーモドッグ
Going deeper with convolutions (http://arxiv.org/pdf/1409.4842v1.pdf)より引用
54. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
学習
学習データ
ヤフオク!の過去の出品画像
約2万件
環境
・Caffe v1.0rc2
・CUDA 7.5
・GPUサーバ(オンプレ)
55. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
識別
ノートPCである確率を出力
56. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
識別
ノートPCである確率を出力
80.1% 0.1% 0.9%
57. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
目視チェックの順序(イメージ)
80.1% 0.1% 0.9%
58. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
目視チェックの順序(イメージ)
80.1% 0.1% 0.9%
③ ②①
※実際には商品タイトル等の他の特徴を考慮
59. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
今後
60. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
今後
学習データを高精度、大量、継続的に
増加させる仕組み
61. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
今後
学習データを高精度、大量、継続的に
増加させる仕組み
ラベル付け:高コスト
62. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
今後
学習データを高精度、大量、継続的に
増加させる仕組み
ラベル付け:高コスト
精度の向上
新しいパターンへの対応
63. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
アジェンダ
• ヤフオク!における深層学習を利用した
画像処理のご紹介
• ヤフオク!における分散表現を利用した
検索ランキングのご紹介
64. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク! サイト内検索
65. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク! サイト内検索
66. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
ヤフオク! サイト内検索
機械学習によるランキング
67. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
検索ランキング
CTRやCVR等を最大化するモデル
CTR:商品詳細画面へ流入する確率
CVR:その後に入札する確率
68. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
検索ランキング
多くの特徴を利用
69. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
検索ランキング
多くの特徴を利用
重要な特徴の1つが単語
70. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
検索ランキング
多くの特徴を利用
重要な特徴の1つが単語
特にタイトル中の単語
71. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
検索ランキング
多くの特徴を利用
重要な特徴の1つが単語
特にタイトル中の単語
「MacBook Air」
「MacBook Air カバー」
72. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
単語を特徴に利用した場合の課題
73. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
単語を特徴に利用した場合の課題
表記ゆれ、同義語
74. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
単語を特徴に利用した場合の課題
表記ゆれ、同義語
一般的な対応
・正規化
小文字大文字、半角全角、記号等
・同義語辞書
75. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
同義語辞書の整備:人手
76. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
同義語辞書の整備:人手
・コスト
77. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
同義語辞書の整備:人手
・コスト
ヤフオク!の商品ドメイン:多
・服、本、スマホから自動車、家まで
78. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
同義語辞書の整備:人手
・コスト
ヤフオク!の商品ドメイン:多
・服、本、スマホから自動車、家まで
コストやばい
79. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
同義語辞書の整備:人手
・コスト
ヤフオク!の商品ドメイン:多
・服、本、スマホから自動車、家まで
計算で求めたい
80. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
単語の利用
同義語辞書の整備:人手
・コスト
ヤフオク!の商品ドメイン:多
・服、本、スマホから自動車、家まで
分散表現を利用
81. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
分散表現
局所表現
分散表現
82. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
分散表現
局所表現
サッカー: (1,0,0,0 … 0,0,0,0)
フットボール: (0,0,0,0 … 0,1,0,0)
分散表現
83. Copyright (C) 2016 Yahoo Japan Corporation. All Rights Reserved. 無断引用・転載禁止
分散表現
局所表現
サッカー: (1,0,0,0 … 0,0,0,0)
フットボール: (0,0,0,0 … 0,1,0,0)
ベクトルは単純なエンコード
分散表現