自然言語処理(Natural Language Processing)に関するインフォーマルなセミナーです。
どなたでも参加できます。申し込みは不要です。直接、会場にお越し下さい。
発表者も随時、募集しています。
第83回 7月14日(火曜日) 17:00-18:30@名古屋大学IB電子情報館中棟013講義室
自己回帰を超えて：拡散言語モデルの生成過程を設計する
大葉大輔（東京科学大学）
拡散言語モデルは、ノイズを加えた系列や表現を段階的に復元することで言語を生成する枠組みであり、自己回帰型モデルとは異なる生成過程を持つ。近年、その推論効率や、生成過程を柔軟に設計できる可能性に着目し、学習・推論方法の研究が活発に進められている。本講演では、拡散言語モデルの基礎を概観した上で、離散的な言語データに対して生成過程をどのように定式化し、学習目的の設計、推論の効率化、生成途中の状態の活用へと結びつけられるかを、講演者らの最近の研究も交えて紹介する。
関連論文: Daisuke Oba, Danushka Bollegala, Masahiro Kaneko, and Naoaki Okazaki. "Stopping Computation for Converged Tokens in Masked Diffusion-LM Decoding". ICLR 2026.
2026年度の記録
第82回 6月23日(火曜日) 17:00-18:30@名古屋大学IB電子情報館中棟013講義室
オープンソースモデルで始めるLLM分析
西田悠人（NAIST）
学習設定、学習データ、学習途中のモデルなどを公開するオープンソースLLMの開発が各所で進んでいる。これらのモデルやデータを活用することで、LLMの学習過程における変化や、学習データがモデルに与える影響を、大規模モデルをゼロから構築することなく分析できる環境が整いつつある。本講演では、代表的なオープンソースLLMを概観し、それぞれがどのような研究目的に適しているのかを整理する。また、オープンソースLLMを用いた分析の具体例を、講演者らの研究も交えながら紹介し、その可能性と課題について議論する。
参加者:41名
主催：価値創造教育研究センター（自然言語処理グループ)
セミナー代表世話人：笹野遼平（名古屋大学）、三輪誠（豊田工業大学）
問い合わせ先： sasano (*) i.nagoya-u.ac.jp (*=@)