技術セミナー・研修・出版・書籍・通信教育・eラーニング・講師派遣の テックセミナー ジェーピー

ディープラーニングの推論パフォーマンスを改善するモデル軽量化技術の基礎と最新動向

ディープラーニングの推論パフォーマンスを改善するモデル軽量化技術の基礎と最新動向

オンライン 開催

概要

本セミナーでは、画像認識問題を題材として、まず軽量化の観点からディープラーニングの基礎を説明した後、様々な軽量化技術のテクニックを紹介いたします。
各テクニックに関しては、AI系の有力国際会議 (CVPR、ICLRなど) やプレプリントサーバ (ArXiv) に掲載されている最新技術を主に扱い、理論的な厳密さよりもイメージやコンセプト重視でわかりやすくご説明いたします。

開催日

  • 2022年7月11日(月) 11時00分17時00分

プログラム

 ディープラーニングのモデルは、その他の機械学習モデルと比べて推論処理に必要なメモリ使用量・演算量が膨大であり、さらにそれらを多く必要とするモデルほど性能 (認識精度など) が良くなる傾向があります。一般に、メモリ使用量や演算量は、処理速度・消費電力・部品コスト等に直接関わるため、なるべく小さく抑えたいところです。そのようなニーズに対し、ディープラーニングモデルの性能をできる限り維持しつつメモリ使用量・演算量を削減する軽量化技術が登場し、研究が進められています。
 本講演では、画像認識問題を題材として、まず軽量化の観点からディープラーニングの基礎を説明した後、様々な軽量化技術のテクニックを紹介していきます。各テクニックに関しては、AI系の有力国際会議 (CVPR、ICLRなど) やプレプリントサーバ (ArXiv) に掲載されている最新技術を主に扱い、理論的な厳密さよりもイメージやコンセプト重視でわかりやすくご説明します。

  1. ディープラーニングの基礎
    1. データ表現と問題設定
    2. 全結合ネットワークモデル
    3. 畳み込みネットワークモデル
    4. 代表的なモデルとその構成要素
  2. モデルプルーニング
    1. 非構造化プルーニング
      • Magnitude-based Pruning
      • Lottery Ticket Hypothesis
      • Weight Rewinding
      • Learning-rate Rewinding
    2. 構造化プルーニング
      • L1norm-based Pruning
      • ThiNet
      • PCAS
  3. ネットワーク量子化
    1. 二値化
      • XNOR-Net
      • Bi-Real Net
    2. 一様量子化 (量子化学習)
      • Integer Arithmetic Only Inference
      • PACT
      • Learned Step-size Quantization
    3. 非一様量子化
      • LogNet
      • Learnable Companding Quantization
    4. 一様量子化 (事後量子化)
      • Channel Equalization
      • ACIQ
      • OCS
  4. 軽量アーキテクチャ設計
    1. 分岐・合流接続の工夫
      • PeleeNet
      • CSPNet
    2. 畳み込みの要素分解
      • MobileNet-V1
      • MobileNet-V2
    3. 構造の自動探索
      • FBNet
  5. その他の軽量化技術
    1. 重み共有
      • Product Quantization
    2. 知識蒸留
      • Few Sample Knowledge Distillation
    3. 低ランク近似
      • Compression-aware Training
  6. まとめ

講師

  • 山本 康平
    沖電気工業 株式会社 イノベーション推進センター AI技術研究開発部

主催

お支払い方法、キャンセルの可否は、必ずお申し込み前にご確認をお願いいたします。

お問い合わせ

本セミナーに関するお問い合わせは tech-seminar.jpのお問い合わせからお願いいたします。
(主催者への直接のお問い合わせはご遠慮くださいませ。)

受講料

1名様
: 47,000円 (税別) / 51,700円 (税込)
1口
: 57,000円 (税別) / 62,700円 (税込) (3名まで受講可)

ライブ配信セミナーについて

  • 本セミナーは「Zoom」を使ったライブ配信セミナーとなります。
  • お申し込み前に、 視聴環境テストミーティングへの参加手順 をご確認いただき、 テストミーティング にて動作確認をお願いいたします。
  • 開催日前に、接続先URL、ミーティングID​、パスワードを別途ご連絡いたします。
  • セミナー開催日時に、視聴サイトにログインしていただき、ご視聴ください。
  • ご自宅への書類送付を希望の方は、通信欄にご住所・宛先などをご記入ください。
  • タブレットやスマートフォンでも受講可能ですが、機能が制限される場合があります。
  • ご視聴は、お申込み者様ご自身での視聴のみに限らせていただきます。不特定多数でご覧いただくことはご遠慮下さい。
  • 講義の録音、録画などの行為や、権利者の許可なくテキスト資料、講演データの複製、転用、販売などの二次利用することを固く禁じます。
  • Zoomのグループにパスワードを設定しています。お申込者以外の参加を防ぐため、パスワードを外部に漏洩しないでください。
    万が一、部外者が侵入した場合は管理者側で部外者の退出あるいはセミナーを終了いたします。
本セミナーは終了いたしました。

これから開催される関連セミナー

開始日時 会場 開催方法
2025/7/8 少ないデータによるAI・機械学習の進め方、活用の仕方 オンライン
2025/7/15 開発の質と効率を向上する汎用的インフォマティクス & 統計的最適化 実践入門 オンライン
2025/7/16 開発の質と効率を向上する汎用的インフォマティクス & 統計的最適化 実践入門 オンライン
2025/7/17 説明可能AI (XAI) から人と共に進化・発展するAIへ オンライン
2025/7/23 テラヘルツ波技術の基礎、デバイス開発と産業応用 オンライン
2025/7/24 外観検査のデジタル化・自動化 オンライン
2025/7/24 自動運転を支えるセンサフュージョンの最前線 : LiDARが拓く未来 オンライン
2025/7/25 エッジコンピューティングの基礎と効果的な活用法 オンライン
2025/7/28 外観検査のデジタル化・自動化 オンライン
2025/8/1 テラヘルツ波技術の基礎、デバイス開発と産業応用 オンライン
2025/8/8 エッジコンピューティングの基礎と効果的な活用法 オンライン
2025/8/19 ChatGPTを使ったPythonプログラミングの実践講座 オンライン
2025/8/22 外観検査・異常検知の自動化の進め方 オンライン
2025/8/25 AI・IoT時代に求められるデジタル信号処理の基本技術と応用例 オンライン
2025/8/25 テラヘルツ波技術の基本とデバイス開発および産業応用 オンライン
2025/8/26 IEC62304 医療機器ソフトウェアの規制徹底解説と演習で理解する要求仕様書・アーキテクチャ設計書作成方法 (2日間) オンライン
2025/8/26 AI・IoT時代に求められるデジタル信号処理の基本技術と応用例 オンライン
2025/8/26 IEC62304 医療機器ソフトウェア要求仕様書の作成とリスクマネジメント オンライン
2025/8/27 サイバーセキュリティにおける脅威モデリングを含む医療機器ソフトウェアの要求事項・アーキテクチャ設計書作成 オンライン
2025/8/28 ChatGPTを使ったPythonプログラミングの実践講座 オンライン

関連する出版物

発行年月
2025/6/30 皮膚の測定評価と可視化、イメージング技術
2025/6/23 防犯・監視カメラ〔2025年版〕 技術開発実態分析調査報告書 (CD-ROM版)
2025/6/23 防犯・監視カメラ〔2025年版〕 技術開発実態分析調査報告書 (書籍版)
2024/10/31 少ないデータによるAI・機械学習の進め方と精度向上、説明可能なAIの開発
2024/4/8 画像認識技術・システム 技術開発実態分析調査報告書 (CD-ROM版)
2024/4/8 画像認識技術・システム 技術開発実態分析調査報告書
2023/6/30 生産プロセスにおけるIoT、ローカル5Gの活用
2022/12/31 機械学習・ディープラーニングによる "異常検知" 技術と活用事例集
2022/11/21 ソフトウエア業界20社
2022/11/21 ソフトウエア業界20社 (CD-ROM版)
2021/3/15 QRコード決済 (CD-ROM版)
2021/3/15 QRコード決済
2020/7/31 生体情報センシングと人の状態推定への応用
2020/4/30 生体情報計測による感情の可視化技術
2019/1/31 センサフュージョン技術の開発と応用事例
2018/5/31 “人工知能”の導入による生産性、効率性の向上、新製品開発への活用
2016/1/20 画像ワーピング技術とその応用
2015/8/17 防犯・監視カメラ〔2015年版〕 技術開発実態分析調査報告書
2015/8/17 防犯・監視カメラ〔2015年版〕 技術開発実態分析調査報告書 (CD-ROM版)
2014/3/7 画像処理・画像符号化・画像評価法