[DL輪読会]SoftTriple Loss: Deep Metric Learning Without Triplet Sampling (ICCV2019)
1. 1
DEEP LEARNING JP
[DL Papers]
http://deeplearning.jp/
SoftTriple Loss: Deep Metric Learning Without Triplet
Sampling (ICCV2019)
MasashiYokota, RESTAR Inc.
13. 2.1. Deep Metric Learning
Deep Metric Learning with Hierarchical Triplet Loss [Ge et. al. ECCV 2018]
Tripletのサンプリングをhierarchical treeを元に行う。なお、 hierarchical tree
は学習時にモデルの学習と同時に最適化するため学習に有益なtripletのサ
ンプリングを可能にしているが、データセット全体の分布を捉えきれていると
は言い切れない。 13
14. 2.2. Learning with Proxies
No Fuss Distance Metric Learning using Proxies [Movshovitz-Attias et. al. ICCV 2017]
データセットからtripletのサンプリングを行う代わりに各クラスごとにproxyをそれ
ぞれ一つ用意。アンカーと同じクラスのProxyとの距離を近く、異なるクラスの
Proxyを遠くに配置されるように学習することで、サンプリングをせず距離学習を可
能にした。 14
15. 2.2. Learning with Proxies
No Fuss Distance Metric Learning using Proxies [Movshovitz-Attias et. al. ICCV 2017]
学習時のモデルやProxyの学習には、上記のようにNCA(Neighborhood Components
Analysis)と同じ損失関数を用いて距離学習を行っている。
しかし、損失関数が非有界かつクラス領域が複数に存在するときに対応不可能。
15
アンカーとProxyの類似度のexponential和
(※アンカーと同じクラスのProxyの類似度は除く。)