技術セミナー・研修・出版・書籍・通信教育・eラーニング・講師派遣の テックセミナー ジェーピー

自然言語処理技術におけるTransformerモデルの基礎・応用技術と今後の展望

自然言語処理技術におけるTransformerモデルの基礎・応用技術と今後の展望

オンライン 開催
関連するセミナー・出版物
本セミナーは終了いたしました。
セミナーの再開催を依頼する 関連するセミナー・出版物を探す

開催日

  • 2022年4月20日(水) 10時30分 ～ 16時30分

プログラム

　近年、自然言語処理 (NLP) 技術におけるブレークスルーとして登場したTransformerモデルは、画像処理への応用や、画像・言語など異なるデータを統合するマルチモーダルAIへの応用も可能である事から、AI技術の新たな潮流を生み出す可能性のある、極めて有望な技術である。
　本講演では、Transformerモデルの登場したそもそものタスクである、NLPにおけるTransformerモデルの動作について詳細に解説し、Transformerモデルの動作原理について学ぶ。さらに、NLP以外の分野におけるTransformerモデルの採用例について紹介する事で、Transformerモデルの今後の発展について展望する。講演の前半では、Transformerモデルの登場から今後登場するであろう技術まで、その概要を紹介する事で、技術の大きな潮流を把握する。また後半では、より詳細にTransformerモデルの動作を紹介し、技術的な理解を深める。

  1. Transformerモデルの登場
    1. 自然言語処理技術の歴史
    2. BERT登場の衝撃
    3. 様々なTransformerモデルの登場
    4. パラメーター数競争の時代へ
  2. 自然言語処理AIとは
    1. 様々な自然言語処理タスク
    2. 巨大コーパスと事前学習モデル
    3. 汎用モデルの公開競争
    4. 日本語と国家間デバイド
  3. マルチモーダルAIとは
    1. マルチモーダルAIの現状
    2. TransformerとマルチモーダルAI
    3. NLPによるセミ汎用AI
    4. 真の汎用AI時代へ向けて
  4. Transformerの技術
    1. Transformerモデルの基礎
    2. Self – Attention機構
    3. Normalization機構
    4. 単語埋め込み層
  5. Transformerモデルの学習
    1. Masked Language Modelとは
    2. BERTにおける学習
    3. Whole – Wordな学習
    4. BERT亜種の差違
  6. Language Model
    1. GPTにおける学習
    2. GPTにおける文章生成
    3. T5モデル
    4. aMLPモデル
  7. Transformerモデルの応用
    1. 文章のクラス分類
    2. 文章の抽出
    3. 抽象型要約
    4. マルチモーダルTransformer
    • 質疑応答
ページのトップヘ

講師

ページのトップヘ

主催

株式会社 技術情報協会
お支払い方法、キャンセルの可否は、必ずお申し込み前にご確認をお願いいたします。

お問い合わせ

本セミナーに関するお問い合わせは tech-seminar.jpのお問い合わせからお願いいたします。
(主催者への直接のお問い合わせはご遠慮くださいませ。)

受講料

1名様
: 50,000円 (税別) / 55,000円 (税込)
複数名
: 45,000円 (税別) / 49,500円 (税込)

複数名同時受講割引について

  • 2名様以上でお申込みの場合、1名あたり 45,000円(税別) / 49,500円(税込) で受講いただけます。
    • 1名様でお申し込みの場合 : 1名で 50,000円(税別) / 55,000円(税込)
    • 2名様でお申し込みの場合 : 2名で 90,000円(税別) / 99,000円(税込)
    • 3名様でお申し込みの場合 : 3名で 135,000円(税別) / 148,500円(税込)
  • 同一法人内による複数名同時申込みのみ適用いたします。
  • 受講券、請求書は、代表者にご郵送いたします。
  • 他の割引は併用できません。

アカデミック割引

  • 1名様あたり 30,000円(税別) / 33,000円(税込)

日本国内に所在しており、以下に該当する方は、アカデミック割引が適用いただけます。

  • 学校教育法にて規定された国、地方公共団体、および学校法人格を有する大学、大学院、短期大学、附属病院、高等専門学校および各種学校の教員、生徒
  • 病院などの医療機関・医療関連機関に勤務する医療従事者
  • 文部科学省、経済産業省が設置した独立行政法人に勤務する研究者。理化学研究所、産業技術総合研究所など
  • 公設試験研究機関。地方公共団体に置かれる試験所、研究センター、技術センターなどの機関で、試験研究および企業支援に関する業務に従事する方

ライブ配信セミナーについて

  • 本セミナーは「Zoom」を使ったライブ配信セミナーとなります。
  • お申し込み前に、 視聴環境 と テストミーティングへの参加手順 をご確認いただき、 テストミーティング にて動作確認をお願いいたします。
  • 開催日前に、接続先URL、ミーティングID​、パスワードを別途ご連絡いたします。
  • セミナー開催日時に、視聴サイトにログインしていただき、ご視聴ください。
  • ご自宅への書類送付を希望の方は、通信欄にご住所・宛先などをご記入ください。
  • タブレットやスマートフォンでも受講可能ですが、機能が制限される場合があります。
  • ご視聴は、お申込み者様ご自身での視聴のみに限らせていただきます。不特定多数でご覧いただくことはご遠慮下さい。
  • 講義の録音、録画などの行為や、権利者の許可なくテキスト資料、講演データの複製、転用、販売などの二次利用することを固く禁じます。
  • Zoomのグループにパスワードを設定しています。お申込者以外の参加を防ぐため、パスワードを外部に漏洩しないでください。
    万が一、部外者が侵入した場合は管理者側で部外者の退出あるいはセミナーを終了いたします。
本セミナーは終了いたしました。
セミナーの再開催を依頼する
ページのトップヘ

これから開催される関連セミナー

開始日時 会場 開催方法
2026/9/24 FT-IRの基礎と機械学習によるスペクトルデータ解析 オンライン
2026/9/28 機械学習のための効率的データ取得とAIモデルの解釈・評価 オンライン
2026/9/28 FT-IRの基礎と機械学習によるスペクトルデータ解析 オンライン
2026/9/28 製薬業におけるCMC・製造領域のデータ・AI活用 オンライン
2026/9/29 生成AIを活用したバイブコーディングの進め方 オンライン
2026/9/29 機械学習のための効率的データ取得とAIモデルの解釈・評価 オンライン
2026/9/29 機械学習を利用した多成分混合物の物性予測・物性推算 オンライン
2026/10/6 生体信号解析へのAI技術の適用 オンライン
2026/10/6 少ないデータでも使える機械学習・異常検知の基礎とインフラ・製造分野への応用 オンライン
2026/10/7 少ないデータでも使える機械学習・異常検知の基礎とインフラ・製造分野への応用 オンライン
2026/10/8 生成AIを活用したバイブコーディングの進め方 オンライン
2026/10/14 製薬業におけるCMC・製造領域のデータ・AI活用 オンライン
2026/10/19 脳波計測・処理・解析・機械学習の基礎と応用および脳波データの活用方法 オンライン
2026/10/19 第一原理計算と機械学習を用いた材料設計と応用展開 オンライン
2026/10/20 複数企業・複数機関による秘匿データの統合解析 オンライン
2026/10/20 プロセスインフォマティクスにおけるデータ解析と製造工程の最適化 オンライン
2026/10/20 脳波計測・処理・解析・機械学習の基礎と応用および脳波データの活用方法 オンライン
2026/10/20 機械学習を利用した多成分混合物の物性予測・物性推算 オンライン
2026/10/23 機械学習を活用したスペクトルデータ解析の基礎と材料研究への応用 オンライン
2026/10/23 未知の不良や異常も検知する検査・センシング・モニタリングに適した人工知能MTシステム (MT法) 基礎と応用 オンライン
ページのトップヘ