技術セミナー・研修・出版・書籍・通信教育・eラーニング・講師派遣の テックセミナー ジェーピー

大規模事前学習済み言語モデルの進展と課題

大規模事前学習済み言語モデルの進展と課題

オンライン 開催

開催日

  • 2023年9月14日(木) 13時00分15時30分

プログラム

 Word2vecの登場以降ELMo、BERTといった事前学習済みモデルの発展により自然言語処理における各タスクの精度は飛躍的に向上した。
 本講座ではそれらの発展を順に説明し、ChatGPTやGPT-4といった産業上重要な位置を占めると考えられるモデルの歴史的な位置づけを把握することを助ける。また現在の大規模事前学習済み言語モデルとっての残された課題についても紹介する。

  1. 本日紹介する内容
  2. 単語分散表現とその利用
    1. word2vec
    2. word2vecの派生
    3. 言語モデル
      1. 再帰型ニューラルネットワーク
      2. Long short-term memory (LSTM)
    4. 系列変換モデル (seq2seq)
      1. エンコーダ・デコーダ
      2. 注意付きエンコーダ・デコーダ
  3. 事前学習済み言語モデル
    1. ELMo
    2. Transformer
    3. BERT
    4. BERTの派生
    5. 系列変換モデル
  4. 大規模事前学習済み言語モデル (LLM)
  5. 最新の動向
  6. 残された課題

講師

  • 上垣外 英剛
    奈良先端科学技術大学院大学 先端科学技術研究科 自然言語処理学研究室 (渡辺研究室)
    准教授

主催

お支払い方法、キャンセルの可否は、必ずお申し込み前にご確認をお願いいたします。

お問い合わせ

本セミナーに関するお問い合わせは tech-seminar.jpのお問い合わせからお願いいたします。
(主催者への直接のお問い合わせはご遠慮くださいませ。)

受講料

1名様
: 47,000円 (税別) / 51,700円 (税込)
1口
: 60,000円 (税別) / 66,000円 (税込) (3名まで受講可)

ライブ配信セミナーについて

  • 本セミナーは「Zoom」を使ったライブ配信セミナーとなります。
  • お申し込み前に、 視聴環境テストミーティングへの参加手順 をご確認いただき、 テストミーティング にて動作確認をお願いいたします。
  • 開催日前に、接続先URL、ミーティングID​、パスワードを別途ご連絡いたします。
  • セミナー開催日時に、視聴サイトにログインしていただき、ご視聴ください。
  • セミナー資料は郵送にて前日までにお送りいたします。
  • 開催まで4営業日を過ぎたお申込みの場合、セミナー資料の到着が、開講日に間に合わない可能性がありますこと、ご了承下さい。
    ライブ配信の画面上でスライド資料は表示されますので、セミナー視聴には差し支えございません。
    印刷物は後日お手元に届くことになります。
  • ご自宅への書類送付を希望の方は、通信欄にご住所・宛先などをご記入ください。
  • タブレットやスマートフォンでも受講可能ですが、機能が制限される場合があります。
  • ご視聴は、お申込み者様ご自身での視聴のみに限らせていただきます。不特定多数でご覧いただくことはご遠慮下さい。
  • 講義の録音、録画などの行為や、権利者の許可なくテキスト資料、講演データの複製、転用、販売などの二次利用することを固く禁じます。
  • Zoomのグループにパスワードを設定しています。お申込者以外の参加を防ぐため、パスワードを外部に漏洩しないでください。
    万が一、部外者が侵入した場合は管理者側で部外者の退出あるいはセミナーを終了いたします。
本セミナーは終了いたしました。

これから開催される関連セミナー

開始日時 会場 開催方法
2025/9/25 プロンプトエンジニアリング入門セミナー オンライン
2025/9/25 賢くなった生成AIによる特許調査・権利化・知財業務の高度化 オンライン
2025/9/26 賢くなった生成AIによる特許調査・権利化・知財業務の高度化 オンライン
2025/9/26 プロセスインフォマティクスの基礎と製造プロセスへの効果的な活かし方 オンライン
2025/9/29 生成AIの著作権侵害問題とトラブル対策 オンライン
2025/9/29 プロセスインフォマティクスの基礎と製造プロセスへの効果的な活かし方 オンライン
2025/9/30 生成AI開発・利活用を巡る政策の最前線 東京都 会場・オンライン
2025/9/30 研究開発へのAIエージェント・生成AI導入と活用のポイント オンライン
2025/10/3 新しい時代を切り開く技術の発想と実現 オンライン
2025/10/3 AIモデルをコンパクト化するための最新動向 オンライン
2025/10/9 生成AIの著作権侵害問題とトラブル対策 オンライン
2025/10/10 機械学習による物理サロゲートモデル構築の考え方と実践 オンライン
2025/10/15 生成AI×知財業務 実践講座 オンライン
2025/10/22 生成AI時代の研究DXと実践的AIエージェントによる業務進化の最前線 オンライン
2025/10/23 生成AI時代の研究DXと実践的AIエージェントによる業務進化の最前線 オンライン
2025/10/24 ChatGPT4による丸投げ実験計画法入門 オンライン
2025/10/28 ChatGPT4による丸投げ実験計画法入門 オンライン
2025/11/11 MTシステム (MT法) の基礎および異常検知・異常モニタリング・予防保全技術入門 オンライン
2025/11/17 ChatGPTを最大限活用したIPランドスケープの実践 オンライン
2025/11/20 マルチモーダル生成AIで拓くヒューマンエラー検知の新潮流 オンライン