「与えられた制約条件の下で最適な解を求める」最適化問題は我々の生活において欠かせない分野であり、工学、経済、統計、経営などに幅広く応用されています。近年の深層学習の出現で飛躍的に発展してきたAI技術の多くが最適化に立脚しています。これはより良く学習できるモデルを見出すというデータサイエンスの目標と誤差関数を最小化するという最適化手法とが自然に結びつくからです。最適化手法には、いろいろな分類基準がありますが、ここではオフライン最適化とオンライン最適化という基準に従って最適化手法の諸原理を説明します。
　オンライン最適化とは将来のデータを知らずに、将来に正の影響を及ぼす可能性の高い意思決定や最適な方策を下すことです。一方、オフライン最適化とは、現時点までのデータの集合体に基づき最適な意思決定を行うことです。
　現在主流の最適化手法は、ほとんどが現実問題から切り離されたオフライン最適化手法です。本来、現実社会における最適化問題は、対象が普遍的に時間とともに発展していくという特性を考えると、全てオンライン最適化問題として捉えるべきですが、難易度が高いため、オンライン最適化のアルゴリズムの開発は最適化分野においても非常に挑戦的かつ最先端の分野として位置づけられています。
　本セミナーの前半は、従来のオフライン最適化手法である線形計画法、非線形計画法、整数計画と混合整数計画法などをわかりやすく説明し概覧していきます。後半は近年、オンライン最適化問題に取り組んだ深層強化学習のオンライン学習原理と応用の仕組みについてわかりやすく説明します。最後に、配車計画問題 (VRP) およびスマートグリッドの電力のオンライン最適化問題を適応事例として、AIによる最適化解のオンライン学習と予測の最先端機能を検証します。

1. オフライン最適化の概要
   1. オフライン最適化問題における目的関数と制約
      1. 連続最適化と離散最適化
      2. 広域最適化と局所最適化
   2. オフライン最適化問題における解法
      1. 厳密解法
      2. 近似解法
      3. 発見的解法
2. オフライン最適化問題
   1. 線形計画問題
      1. 双対性
      2. 解法
   2. 非線形計画問題
      1. 無制限最適化
      2. 制約付き最適化
   3. ネットワーク最適化問題
   4. 整数計画問題と混合整数計画問題
3. オンライン最適化問題の概要
   1. オンライン最適化問題の基本理論
      1. レンタルスキー問題
      2. リストアクセス問題
      3. 競合比による解析手法
      4. 乱択アルゴリズムの設計
4. オンライン学習モデル
   1. 学習を考慮したオンラインアルゴリズム
   2. スペシャリストモデル
5. AIによる最適化アルゴリズム
   1. 深層強化学習の基本原理
   2. オンライン最適化における深層強化学習の応用
   3. 方策勾配法による最適化アルゴリズムの構築
      1. TSP問題の概要と強化学習による定式化
      2. 鍵となる技術アテンション (Attention) の仕組み
         • 自然言語処理を例にする
         • ここでマルチヘッドアテンション (Multi-Head Attention) の仕組みを説明
      3. エンコーダー (Encoder) の仕組み
         • LSTM型とself attention型の説明
         • self attention型の説明の時にグラフアテンションエンコーダーについても説明
         • グラフアテンションエンコーダーの説明時にグラフとノード埋め込みついても説明
      4. デコーダー (Decoder) の仕組み
         • ポインターネットワークについて説明
         • グリンプスについて説明
         • マスキングについて説明
      5. 全体の流れを簡単にまとめた説明
      6. ベースラインの導入と勾配の更新
      7. 予測機能の検証:
         • 同スケール予測
         • ダウンスケール予測
         • アップスケール予測
• 質疑応答