Más contenido relacionado
La actualidad más candente (20)
Similar a Ethics of AI - AIの倫理- (20)
Más de Daiyu Hatakeyama (20)
Ethics of AI - AIの倫理-
- 1. Ethics of AI
- 機械学習を扱う上で知っておきたい、倫理問題とその対応策 -
畠山 大有 | Daiyu Hatakeyama
Architect && Software Engineer && Applied Data Scientist
Microsoft Japan
/dahatake
@dahatake
/in/dahatake
/dahatake
/dahatake
/dahatake
- 11. • 例: StreetBump smartphone app
• スマートフォンの GPS “Data” を使って、
道路の異常個所を収集
• 年収の低い方は? http://www.streetbump.org/
- 20. 責任ある AI のための
企業規模のポリシーと
プラクティスを策定する
社内ポリシー
Office of Responsible AI は、責任ある AI に対する企業のアプローチを定義、実現、管理、調整する。
ポリシー、ガバナンス、実現に関する責任ある AI 機能の中央の “ハブ” として機能し、
企業全体に適用される関連したプロセスと機能を提供する
担当と責任を定義して、
進捗が評価され、
ガバナンス システムが
確立されるようにする
ガバナンス
マイクロソフト内で
責任ある AI のプラクティスを
導入する準備を整える
お客様とパートナーが
同じことを行えるよう
サポートする
研修・教育
機微なシナリオの
ためのガイダンスをトリアージ、
管理、提供し、
機微な AI アプリケーション
のための 手法を
構築する
機微なシナリオ
での使用
責任ある AI ポリシーを
社外に対して
策定および提唱する
パブリック
ポリシー
- 25. • Microsoft 社内の物理移動に関してのプロジェクト
• より高い流動性と
障壁の少ないビルへの入館に
フォーカス
• IDカード利用を無くする事で、
より安全で安全な環境を
提供し、更に入り口付近の
人々の空きスペースの改善を
目指す
Facial Recognition
cameras mounted on
pedestals
Lobby glass doors
- 50. 97%
49%
91%
0.5
0.6 0.57
1st Event 2nd Event 3rd Event
False positive match rate and match threshold
False Positive Rate Match Threshold
1回目の結果を受けて2回目の前に閾値をあげた
“検知”数が減ったため、3回目の前に閾値を下げた
透明性に欠け、過去データからの学びもない状態で、
閾値と False Positive との関係が設定されている
組織としてのポリシー・一貫性が無い
- 52. 1. 公平性: すべての人々を公平に扱うように努め、顔認識技術の
開発と展開に努めます
2. 透明性: 顔認識技術の能力と限界を文書化し、明確に伝達します
3. 説明責任: お客様の顔認識技術の導入を支援し、結果的に人々
に影響を及ぼす可能性のある用途に対して適切なレベルの人の
制御が出来るように保証します
4. 非差別: 不当な差別を行うための顔認識技術の利用については、
サービス利用規約を禁止します
5. 通知と同意: 企業のお客様に対し、顔認識技術の展開についての
通知及び安全な同意を促します
6. 合法的な監査: 法執行機関による監査において、人々の
民主主義的な自由のための保護を提唱し、これらの自由を
危険にさらすと考えるシナリオにおいて、顔認識技術を展開しません
注: 公式な日本語ドキュメントが公開されるまでの意訳
- 55. 資産管理
モデルの理解 資産の管理
AI System Inventory
Model(s), Data Lineage, RAI Artifacts, Features, Ownership…
Impact Assessments
Benefits, Risks, Mitigations / Controls, Reviews
PowerBI Compliance Reporting
AI System compliance reporting for product owners / auditors.
InterpretML
主な重要な要素
Fairlearn
公平性メトリック
Error-Analysis
エラー分析
Exploratory-Data-Analysis
データバランスメトリクス
Counterfactual
What-if 機能の重要度
Transparency Reporting / Model Cards
Data Scientist and Developer relevant reports.
- 59. • InterpretML – interpret.ml
• Error Analysis – erroranalysis.ai
• Fairlearn – fairlearn.github.io
• DiCE – github.com/interpretml/dice
• EconML – aka.ms/econml
• DoWhy – github.com/microsoft/dowhy
• BackwardCompatibilityML – github.com/microsoft/BackwardCompatibilityML
aka.ms/rai-toolbox
- 62. Microsoft & OpenAI
• Azure を大規模 AI の主要なプラットフォームとして確立する
• AIハードウェアとシステムソフトウェアでコラボレーション
• 汎用人工知能を専用スーパーコンピュータで提供するというOpenAIのミッションをサポート
AI Supercomputers
& Systems
• OpenAIの大規模プラットフォームモデルの採用を1st Partyおよび3rd Party 顧客で推進
• 新しいAI技術、製品カテゴリー、ビジネスモデルに関する共同研究
• 高度なAI、倫理、安全、ガバナンスにおけるソートリーダーシップ
AI Research,
Products & Services
大規模なAIモデルのイノベーションを加速するための戦略的パートナーシップ
ソフトウェアシステム、インフラストラクチャ、アプリケーション、安全性 の確立
- 65. Step-by-Step Learning Achievements スムーズな学習環境
無料
日本語対応
ブラウザーのみ。ハンズオン環境
も含めて
ダウンロード可能なサンプルコード
Product/Service, 技術レベル,
job role, などに応じたガイダンス
Videos, チュートリアル, ハンズオン
スキルアップを促す
ユーザー プロファイル毎に
カスタマイズ
www.microsoft.com/learn