技術セミナー・研修・出版・書籍・通信教育・eラーニング・講師派遣の テックセミナー ジェーピー

Transformerの基礎と最新応用展開

Transformerの基礎と最新応用展開

~BERT, ViT, Conformer~
オンライン 開催

概要

本セミナーでは、Transformerの典型的モデルの仕組みから、自然言語処理、画像処理、音声認識に応用した最新モデルまでを解説いたします。

開催日

  • 2022年10月27日(木) 10時30分 16時30分

プログラム

 人工知能の各分野において近年注目を集めている深層学習モデル 「Transformer」について解説します。Transformerモデルは、機械翻訳や自動要約、対話 システムなど自然言語処理の多くのタスクで従来モデルの性能を凌駕し、今ではデファク トスタンダードなモデルになりつつあります。また、自然言語処理の分野に限らず、画像処 理、音声認識など様々な分野に応用され、成功を収めています。
 本セミナーでは、その Transformerについて基礎から解説します。また、Transformerの典型的なモデルの解説に とどまらず、自然言語処理、画像処理、音声認識に応用した最新モデルも概説します。

  1. RNNに基づくエンコーダ・デコーダモデル
    1. RNN
    2. エンコーダ・デコーダモデル
    3. RNNに基づくエンコーダ・デコーダモデル
    4. 注意機構の導入
  2. Transformer
    1. Transformerの概要
    2. Transformerの長所
    3. Transformerの短所
    4. Transformerの各コンポーネント
      1. 位置エンコーディング
      2. 注意機構
      3. 順伝搬層
      4. 残差接続と層正規化
  3. Transformerの応用
    1. 自然言語処理への応用 (BERT)
      1. マスク化言語モデル
      2. 次文予測
      3. ファインチューニング
    2. 画像処理への応用 (ViT)
      1. パッチ埋め込み
      2. ViTのTransformerブロック
    3. 音声認識への応用 (Conformer)
      1. 畳み込み演算 (pointwiseとdepthwise)
      2. Conformerブロック
    • 質疑応答

講師

  • 田村 晃裕
    同志社大学 理工学部 情報システムデザイン学科
    准教授

主催

お支払い方法、キャンセルの可否は、必ずお申し込み前にご確認をお願いいたします。

お問い合わせ

本セミナーに関するお問い合わせは tech-seminar.jpのお問い合わせからお願いいたします。
(主催者への直接のお問い合わせはご遠慮くださいませ。)

受講料

1名様
: 50,000円 (税別) / 55,000円 (税込)
複数名
: 45,000円 (税別) / 49,500円 (税込)

複数名同時受講割引について

  • 2名様以上でお申込みの場合、1名あたり 45,000円(税別) / 49,500円(税込) で受講いただけます。
    • 1名様でお申し込みの場合 : 1名で 50,000円(税別) / 55,000円(税込)
    • 2名様でお申し込みの場合 : 2名で 90,000円(税別) / 99,000円(税込)
    • 3名様でお申し込みの場合 : 3名で 135,000円(税別) / 148,500円(税込)
  • 同一法人内による複数名同時申込みのみ適用いたします。
  • 受講券、請求書は、代表者にご郵送いたします。
  • 他の割引は併用できません。

アカデミック割引

  • 1名様あたり 30,000円(税別) / 33,000円(税込)

日本国内に所在しており、以下に該当する方は、アカデミック割引が適用いただけます。

  • 学校教育法にて規定された国、地方公共団体、および学校法人格を有する大学、大学院、短期大学、附属病院、高等専門学校および各種学校の教員、生徒
  • 病院などの医療機関・医療関連機関に勤務する医療従事者
  • 文部科学省、経済産業省が設置した独立行政法人に勤務する研究者。理化学研究所、産業技術総合研究所など
  • 公設試験研究機関。地方公共団体に置かれる試験所、研究センター、技術センターなどの機関で、試験研究および企業支援に関する業務に従事する方
  • 支払名義が企業の場合は対象外とさせていただきます。
  • 企業に属し、大学、公的機関に派遣または出向されている方は対象外とさせていただきます。

ライブ配信セミナーについて

  • 本セミナーは「Zoom」を使ったライブ配信セミナーとなります。
  • お申し込み前に、 視聴環境テストミーティングへの参加手順 をご確認いただき、 テストミーティング にて動作確認をお願いいたします。
  • 開催日前に、接続先URL、ミーティングID​、パスワードを別途ご連絡いたします。
  • セミナー開催日時に、視聴サイトにログインしていただき、ご視聴ください。
  • ご自宅への書類送付を希望の方は、通信欄にご住所・宛先などをご記入ください。
  • タブレットやスマートフォンでも受講可能ですが、機能が制限される場合があります。
  • ご視聴は、お申込み者様ご自身での視聴のみに限らせていただきます。不特定多数でご覧いただくことはご遠慮下さい。
  • 講義の録音、録画などの行為や、権利者の許可なくテキスト資料、講演データの複製、転用、販売などの二次利用することを固く禁じます。
  • Zoomのグループにパスワードを設定しています。お申込者以外の参加を防ぐため、パスワードを外部に漏洩しないでください。
    万が一、部外者が侵入した場合は管理者側で部外者の退出あるいはセミナーを終了いたします。
本セミナーは終了いたしました。

これから開催される関連セミナー

開始日時 会場 開催方法
2022/12/9 畳み込みニューラルネットワークとVision Transformerの基礎と画像認識への応用 オンライン
2022/12/14 Vision Transformerの仕組み オンライン
2022/12/15 AIによる知財業務の効率化と効果的な活用方法 オンライン
2022/12/20 開発成果の質と開発効率を向上させる「統計的組合せ最適化:実験計画法」と「Excel上で構築可能な人工知能を使用する汎用的インフォマティクス:非線形実験計画法」実践入門 オンライン
2022/12/22 業務での利用に適した進化的画像処理・認識のすべて オンライン
2022/12/23 開発成果の質と開発効率を向上させる「統計的組合せ最適化:実験計画法」と「Excel上で構築可能な人工知能を使用する汎用的インフォマティクス:非線形実験計画法」実践入門 オンライン
2023/1/11 AIによる医療用画像診断システムのディープラーニング精度の向上・高確率解析の実現 オンライン
2023/1/17 AI / IoT分野の最新技術動向 オンライン
2023/1/20 ディジタル信号処理による雑音・ノイズの低減 / 除去技術とその応用 オンライン
2023/1/23 画像認識の基礎とVision Transformer オンライン
2023/1/24 自動運転のための画像処理を中心としたセンサフュージョン技術 オンライン
2023/1/27 Pythonを使って理解する数学の基礎と機械学習への応用 オンライン
2023/1/30 CMOSデジタルイメージセンサ及び撮像システムの最新技術動向とよもやま話 オンライン
2023/1/30 AI外観検査 (画像識別) のはじめ方、すすめ方 オンライン
2023/2/7 時系列データの基礎と将来予測、異常検知への応用 オンライン
2023/2/8 3次元点群からの特徴抽出と高能率レジストレーション オンライン
2023/2/14 Transformerの言語・画像・音声分野への応用 オンライン
2023/2/17 1日で分かるVisual SLAMの基礎 オンライン
2023/2/20 Pythonを使って理解する線形代数の基礎と機械学習への応用 オンライン
2023/2/24 自己位置推定・マッピングの最新技術動向 (カメラ, IMU, 無線) オンライン

関連する出版物

発行年月
2021/7/30 マテリアルズインフォマティクスのためのデータ作成とその解析、応用事例
2020/7/31 生体情報センシングと人の状態推定への応用
2020/4/30 生体情報計測による感情の可視化技術
2019/1/31 センサフュージョン技術の開発と応用事例
2016/1/20 画像ワーピング技術とその応用
2015/8/17 防犯・監視カメラ〔2015年版〕 技術開発実態分析調査報告書 (CD-ROM版)
2015/8/17 防犯・監視カメラ〔2015年版〕 技術開発実態分析調査報告書
2014/8/20 音声認識〔2014年版〕 技術開発実態分析調査報告書
2014/8/20 音声認識〔2014年版〕 技術開発実態分析調査報告書 (CD-ROM版)
2014/3/7 画像処理・画像符号化・画像評価法
2013/10/29 高効率動画像符号化方式:H.265/HEVC (High Efficiency Video Coding)
2013/8/2 HLAC特徴を用いた学習型汎用認識
2013/7/10 音声・映像コーデック 技術開発実態分析調査報告書
2013/7/10 音声・映像コーデック 技術開発実態分析調査報告書 (CD-ROM版)
2013/6/21 機械学習によるパターン識別と画像認識への応用
2013/6/1 画像診断機器(磁気共鳴) 技術開発実態分析調査報告書 (CD-ROM版)
2013/6/1 画像診断機器(磁気共鳴) 技術開発実態分析調査報告書
2013/3/29 3次元物体認識手法とその応用 (カラー版)
2012/10/25 電子写真装置の定着技術 技術開発実態分析調査報告書 (CD-ROM版)
2012/10/25 電子写真装置の定着技術 技術開発実態分析調査報告書