第1部. AIシステムの説明責任に関わる最新動向

(2019年7月18日 10:30〜12:00)

人工知能 (AI) 技術が様々な応用システムに組み込まれ、社会に広がりつつある。それにつれて、AI技術の性能面だけでなく、説明責任・公平性・安全性・信頼性等の品質面がAIシステムに対する社会的要請として強まってきた。AI社会原則が国・世界レベルのガイドラインとして議論・策定され、米国国防高等研究計画局 (DARPA) で関連技術への投資が強化される等、産業界だけでなく学術界や政策面でも取り組みが活発化している。 本講演では、このような国内外の動向を概観し、具体的な取り組み事例も含めて紹介する。なお、説明責任に加えて、公平性・安全性・信頼性等、AIシステムの品質面をやや広めに概観する。

1. 問題意識
   1. ブラックボックス問題 (説明責任)
   2. 差別・偏見、バイアス問題 (公平性)
   3. Adversarial Examples、脆弱性問題 (頑健性)
   4. テスト手法、品質保証問題 (安全性、信頼性)
   5. システム開発のパラダイム転換
2. 国内外動向
   1. 研究コミュニティの動向
   2. 産業界の動向
   3. AI社会原則、ガイドラインの動向
   4. 政策動向
   5. 国際標準化動向
3. 取り組み事例
   1. 説明責任のための技術開発例
   2. 公平性のための技術開発例
   3. 頑健性テスト、品質保証に対する技術開発例 等
• 質疑応答

第2部. 日立ソリューションズ・テクノロジーにおけるAIのブラックボックスを解析する方法

(2019年7月18日 12:45〜14:45)

　Deep Learning (DL) を使った人工知能システムは自動運転, Roboticsなど様々な分 野で実用化されつつある。一方でAIの意思決定をどう検証するか、想定外の動作をどう 抑止するか、といった品質保証上の課題も議論されている。本セミナーではDLによる画 像認識に対する、このBlack-Box問題を解析する技術を実例を挙げながら解説する。

1. AIの品質保証に関わる諸課題
2. AIの信頼性とは
3. AIの判断根拠
4. Black-Box問題の解明技術
5. 画像認識における認識精度と特徴量の寄与度との関係
6. 実例に見る誤認識の解明
7. 学習データの質的向上技術
• 質疑応答

第3部. “説明できるAI”の作り方と業務への導入、活用の仕方

(2019年7月18日 15:00〜17:00)

　深層学習の処理が人に説明できないことが業務への機械学習の 導入を妨げています。ここでは「説明できるAI」を作るための2つの方法 (①ブラックボックスの見える化,②ホワイトボ ックスの精度向上) について平易に解説します。

1. 説明できるAIについて
   1. 深層学習の特徴と問題点
   2. 説明できるAIの構成方法
2. ブラックボックス (深層学習など) を説明する方法
   1. 学習済みの深層回路の可視化手法 ・中間層・ヒートマップ・Grad-CAMなど
   2. 入出力の関係性を調べる方法 ・出力の予測・Attention・LIME など
   3. 深層回路を小さな回路に圧縮する方法 ・回路規模を圧縮して実装し易くする各種の手法 など.
   4. 原理が分かり易い深層回路を作る方法 ・GCM・EGCM・深層零平均正規化相互相関ネットなど
   5. 他の知識を利用・転用する深層学習法 ・転移学習・蒸留・浸透学習法 (PLM) など
3. ホワイトボックス (決定木など) の精度向上手法
   1. 単位処理のモジュール化による構造の最適化 ・進化的画像処理・認識など
   2. 特徴量の最適化法 ・特徴量最適化・ACSYS・SIFTERなど
   3. 小規模な回路による高度な処理の実現方法 ・進化的セル型回路網・進化型神経回路網
   4. 処理プロセスが分かり易い認識器を作る方法 ・進化的条件判断ネットワークEDENなど
   5. 処理プロセスを言葉で説明する方法 ・決定木やEDENの処理を自然言語で表す手法など
4. 業務へのAI導入について
   1. AI導入時の基本8箇条
   2. AI導入を成功させるコツとは?
• 質疑応答