河原 吉伸（大阪大学・理研AIP）
演題：状態空間モデル学習再訪
概要：画像認識に代表されるような静的な入出力関係の予測は、深層学習の登場により、実現できる性能はもはや限界に近いと思われるレベルまで到達可能となって久しい。一方で、様々な科学研究で対象となる複雑な現象の解析や、産業プロセスの効率化のためのサロゲートモデルの構築、またロボットや自動運転といったリアルタイムでの正確な状況把握や挙動生成など、期待される人工知能技術の応用の広がりに対して、動的なデータ生成プロセスを前提とした機械学習の高度化がその基盤としてますます重要性を増している。このような問題への代表的なアプローチの一つとしては、古くから状態空間モデルをベースとした方法が盛んに研究されてきた。一方で、自然言語モデルMambaに代表されるように、このモデルは効率的なデータ表現の獲得を可能とする学習機構としても近年注目されている。本講演では、この古くて新しいモデルを主眼に置きつつ、動的なデータ生成プロセスを前提とした機械学習について、自身らの研究を紹介しながら講演者なりの興味や問題意識、そして展望について述べる。作用素学習や物理教示型機械学習といった最近注目される関連する機械学習の方法論や、またクープマン解析を中心とした周辺領域における知見との関連にも着目する。
持橋 大地（統計数理研究所・国立国語研究所）
演題：LLMの謎・非LLMの謎と自然言語処理
概要：大規模言語モデル(LLM)が人工知能の中心となって注目を集めているが、Transformerのアルゴリズムは実装することができても、LLMの内部で実際に数理的に何が起きているのかは、まだほとんど解明されていないといってよい。本講演の前半では、Transformerの動作やその背後にある埋め込み空間について、現在までに行われている理論的なアプローチについていくつか紹介したい。一方で、自然言語処理はLLMだけで完結するものではない。後半では、筆者の研究から構文解析や方言の解析などに新しい数理的な枠組みを用いた研究と、その理論的な課題について紹介する。こうした紹介を通じて、自然言語処理(および言語学)の実際的かつ重要な問題について、分野内では不可能な理論的アプローチが得られることを期待したい。
足立 真輝（オックスフォード大学・トヨタ自動車）
演題：海外PhDという選択
概要：修士・博士課程進学、または就職という人生の岐路にいる皆さんに向けて、私自身のキャリア選択を共有します。オックスフォード大学での正規留学、修士での就職と社会人経験を経て博士課程に戻った経緯、さらには材料系から情報系への分野転換などを率直に語ります。これらの体験を通じて、進路を考える上でのヒントをお届けできれば幸いです。