XX for ML 論文読み会#1 2018年11月3日 株式会社デンソー 中江 俊博

1. K. Czarnecki and R. Salay,
Towards a Framework to Manage
Perceptual Uncertainty for Safe
Automated Driving
(WAISE2018)
XX for ML 論文読み会#1
2018年11月3日
株式会社デンソー
中江 俊博

2. /16
© DENSO CORPORATION All RightsReserved.
WAISE2018とは
 安全工学に関する国際会議SAFECOMPの併設ワークショップ 今年が第１回目
 AIを搭載したシステムの安全性に関する研究がWAISEのスコープ
 AAAIのワークショップとして来年から開催されるSafeAIはWAISEの姉妹
1
WAISE
姉妹WSのSafeAI

3. /16
© DENSO CORPORATION All RightsReserved.
本論文の概要
 著者：Krzysztof Czarnecki and Rick Salay
 両名ともWaterloo大のGenerative Software Department Lab所属
 一言でいうと：自動運転の認知機能における不確実性のフレームワークを提案
 WAISE2018のベストペーパー
 著者のスライド https://www.waise2018.com/programme
※2018.11.03現在公開中
2
Perception Planning Control
認知 判断 操作
※図の出典：https://www.denso.com/jp/ja/innovation/technology/adas/auto/sensor_01/ を一部改変

4. /16
© DENSO CORPORATION All RightsReserved.
自動車の安全に関する国際規格
 ISO 26262 機能安全 ハードウェア/ソフトウェアの故障
 SAE J3061 サイバーセキュリティ
 ISO/PAS 21448 :Safety of the Intended Functionality(SOTIF)
3※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

5. /16
© DENSO CORPORATION All RightsReserved.
GUM:不確実性に関するガイドライン
 Random errorとSystematic error
 Systematic errorは特定し、修正すれば下がるが、不確実性は残る
 それぞれ不確実性のソースを厳密に特定し、評価することが必要
⇒認識の不確実性要因を特定することが最初のステップ
4※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

6. /16
© DENSO CORPORATION All RightsReserved.
対象システム
歩行者を検知し、自動でブレーキをかけるシステム
5※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

7. /16
© DENSO CORPORATION All RightsReserved.
認識システムに関する構成要素の関係
本研究ではこのような三角形で構成要素間の関係性を表されている
6
実世界
開発者
の頭の中
センサデバイス
データの解釈
※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

8. /16
© DENSO CORPORATION All RightsReserved.
本研究のコンセプト
 開発フェーズ（左の三角形）と運用フェーズ（右の三角形）に分解
 開発プロセスの中で、混入される可能性がある不確実性を７つに分類(F1～F7)
7
※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf を一部改変
F1
F2 F3
F4
F5
F6
F7

9. /16
© DENSO CORPORATION All RightsReserved.
F1:コンセプトに関する不確実性
 開発者が考える「歩行者」の定義がぶれることによる不確実性
 自転車を押している歩行者は「歩行者」に含めるのか？
8※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

10. /16
© DENSO CORPORATION All RightsReserved.
F2: シナリオのカバレッジに関する不確実性
9
 「歩行者」のパターンを網羅しきれないことによる不確実性
 F2のテストの課題は、いわゆるUnknown Unknownsをどれだけカバーするか
※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

11. /16
© DENSO CORPORATION All RightsReserved.
F3: シーンの不確実性
 F1、F2の元で発生する、オクルージョン/霧/夜間/人の重なり/雨滴など
 F3の不確実性はテストフェーズで評価されるべき(評価できると筆者は考えている)
10※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

12. /16
© DENSO CORPORATION All RightsReserved.
F4: センサの特性による不確実性
 カメラ、Lidar、レーダなどセンサの特性
 画角、ダイナミックレンジ、ノイズ特性、解像度、キャリブレーション、搭載位置など
11※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

13. /16
© DENSO CORPORATION All RightsReserved.
F5: ラベルの不確実性
 クラス間違い、Bounding Boxの位置ズレなど、人間の付与するラベルのバラツキ
 ラベリングの質の測定し、不確実性を低減する手法は研究されている
12※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

14. /16
© DENSO CORPORATION All RightsReserved.
F6: モデルの不確実性
 Bayesian Deep Neural Networksは実行時のモデルの不確実性を測定可
 (機械学習モデル固有の不確実性は全部ここに含まれる？)
 モデル選定、パラメータの初期値、最適化手法などによる精度のゆらぎ
 バイアス-バリアンス トレードオフ
13※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

15. /16
© DENSO CORPORATION All RightsReserved.
F7: 運行領域における不確実性
 開発時に想定した運行設計領域(Operational Design Domain)のデータ分
布が変化することによる不確実性
 Distributional Shiftとも呼ばれる
 開発時に網羅しきれなかったレアケースもここに含まれる
14※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf

16. /16
© DENSO CORPORATION All RightsReserved.
次のステップ
 不確実性の測定と影響を分析する手法
 負の影響を与える不確実性を除去または低減する、もしくは影響を緩和する
 安全性を主張するための議論構造とエビデンスの構築
15

17. /16
© DENSO CORPORATION All RightsReserved.
雑感
 機械学習モデル自身の不確実性だけでなく、システムレベルで不確実性要因を包
括的に分類した初めての研究
 プラクティショナーにとって価値が高い
 プロセス目線で不確実性が入り込みそうな箇所をおさえている
 機械学習モデルだけでなく、データ、センサの不確実性要因を挙げている
 分類の仕方には議論の余地があると思われる
 特に、F1, 2, 3の定義が曖昧
 各不確実性には相関がありそう。「独立」な要因は何か？
 安全屋さんと機械学習屋さんのシナジーに期待
 発表されたWAISE@SAFECOMPは安全屋さんの会議。SafeAI@AAAIに
は機械学習屋さんが集まって、具体的な対策が提案されることに期待
16※図の出典：https://docs.wixstatic.com/ugd/4680e8_1ea37b35e50b484f8831741675dad9ac.pdf