第18回最先端NLP勉強会

概要

自然言語処理分野のトップジャーナル・トップ会議であるTACL、ACL、EMNLP、NAACLと直近開催の関連会議（ICLR、ICML、CVPRなど）の論文の中から、参加者の投票によって選ばれた論文を各参加者が分担して紹介する論文読み会です。

• 勉強会の参加者は各自1本の論文を担当し、全体で30本程度の論文の紹介をします。 

• 最新の魅力的な論文や分野の潮流について、世代・産学を超えて共有・議論することで、新たな研究の種が生まれることを本勉強会の狙いとしています。

• 候補論文リストや発表資料を公開することで、コミュニティへの専門的知見の共有を促します。

開催案内

勉強会

• 日程  8/30 (日), 8/31 (月) 

  • 両日9:30受付・10:00勉強会開始

• 会場  国立情報学研究所（NII）

  • 〒101-8430 東京都千代田区一ツ橋２丁目１−２

• 参加費

  • 現地（発表・聴講）：500円

  • オンライン（聴講のみ）：0円

懇親会

• 日程 8/30 (日) 19:00-21:00 

• 会場

  • プロント 九段下店

  • 東京都千代田区神田神保町3-7 ニュ－九段ビル

  • 都営地下鉄三田線【神保町駅】徒歩７分

• 懇親会費 

  • 学生 5000円

  • 社会人 6500円

重要日程

1. 参加登録：6/15 (月) - 6/30 (火)

2. 候補論文のリストアップ：7/1 (水) - 7/23(木)

3. 現地発表/聴講者の決定：7/21 (火)

4. 「これは読むべき」な論文への投票：7/13 (月) - 7/23(木)

5. 担当する論文への立候補：7/27(月) - 8/3(月)

6. スライドURL提出：8/20 (木)

7. 勉強会：8/30(日), 8/31(月)

※締め切り時刻は特に指定がない場合日本時間23:59

（注）運営からの連絡メールが迷惑メールに振り分けられてしまうケースがあるようですので、一度迷惑メールフォルダをご確認いただき、迷惑メールとされている場合は以降正しく受け取れるよう設定していただけると幸いです。

プログラム

8月30日(日) プログラム

[09:30-10:00]  受付
[10:00-10:15]  オープニング

[10:15-11:15] セッション1: Architecture & Pre-training

• 賀沢秀人: LEDOM: Reverse Language Model (ACL2026; Xunjian Yin, Sitao Cheng, Yuxi Xie, Xinyu Hu, Li Lin, Xinyi Wang, Liangming Pan, William Yang Wang, Xiaojun Wan) [paper] [slide]

• 馬尤咪: Midtraining Bridges Pretraining and Posttraining Distributions (ICML2026; Emmy Liu, Graham Neubig, Chenyan Xiong) [paper] [slide]

• 品川政太朗: Beyond Language Modeling: An Exploration of Multimodal Pretraining (ICML2026; Shengbang Tong, David Fan, John Nguyen, Ellis L Brown II, Gaoyue Zhou, Shengyi Qian, Boyang Zheng, Théophane Vallaeys, Rob Fergus, Naila Murray, Marjan Ghazvininejad, Mike Lewis, Nicolas Ballas, Amir Bar, Michael Rabbat, Jakob Verbeek, Luke Zettlemoyer, Koustuv Sinha, Yann LeCun, Saining Xie) [paper] [slide]

[11:35-12:35]セッション2: Interpretability & Model Analysis

• 前田晃弘: The Lattice Representation Hypothesis of Large Language Models (ICLR2026 (Poster); Bo Xing) [paper] [slide]

• 徳永拓之: Wait, Wait, Wait... Why Do Reasoning Models Loop? (ICML2026; Charilaos Pipis, Shivam Garg, Vasilis Kontonis, Vaishnavi Shrivastava, Akshay Krishnamurthy, Dimitris Papailiopoulos) [paper] [slide]

• 亀田尭宙 [slide]

  • LLM Beliefs Are in Their Heads (ACL2026; Alessandro Corona Mendozza, Anders Søgaard) [paper]

  • Thinking Out Loud: Do Reasoning Models Know When They’re Right? (EMNLP2025; Qingcheng Zeng, Weihao Xuan, Leyang Cui, Rob Voigt) [paper]

[14:00-14:30]セッション3: 特別企画〜LLM時代の論文読み会のあり方を考える〜

[14:50-16:10]セッション4: Agents

• 水木栄: τ²-bench: : Evaluating Conversational Agents in a Dual-Control Environment (ICML2026; Victor Barres, Honghua Dong, Soham Ray, Xujie Si, Karthik R Narasimhan) [paper] [slide]

• 藤井諒: Agentic Rubrics as Contextual Verifiers for SWE Agents (ACL2026; Mohit Raghavendra, Anisha Gunjal, Bing Liu, Yunzhong He) [paper] [slide]

• 田中杏: DR Tulu: Reinforcement Learning with Evolving Rubrics for Deep Research (ICML2026; Rulin Shao, Akari Asai, Shannon Zejiang Shen, Hamish Ivison, Varsha Kishore, Jingming Zhuo, Xinran Zhao, Molly Park, Samuel G. Finlayson, David Sontag, Tyler Murray, Sewon Min, Pradeep Dasigi, Luca Soldaini, Faeze Brahman, Wen-tau Yih, Tongshuang Wu, Luke Zettlemoyer, Yoon Kim, Hannaneh Hajishirzi, Pang Wei Koh) [paper] [slide]

• 井田龍希: How Memory Management Impacts LLM Agents: An Empirical Study of Experience-Following Behavior (ACL2026; Zidi Xiong, Yuping Lin, Wenya Xie, Pengfei He, Zirui Liu, Jiliang Tang, Himabindu Lakkaraju, Zhen Xiang) [paper] [slide]

[16:40-17:50]セッション5: Reasoning & Generation

• 池田航: Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach (NeurIPS2025; Jonas Geiping, Sean Michael McLeish, Neel Jain, John Kirchenbauer, Siddharth Singh, Brian R. Bartoldson, Bhavya Kailkhura, Abhinav Bhatele, Tom Goldstein) [paper] [slide]

• 大葉大輔: The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models (ICML2026; Zanlin Ni, Shenzhi Wang, Yang Yue, Tianyu Yu, Weilin Zhao, Yeguo Hua, Tianyi Chen, Jun Song, Cheng Yu, Bo Zheng, Gao Huang) [paper] [slide]

• 小林悟郎: Reasoning with Sampling: Your Base Model is Smarter Than You Think (ICLR2026; Aayush Karan, Yilun Du) [paper] [slide]

• 持橋大地 [slide]

  • Syntactic and Semantic Control of Large Language Models via Sequential Monte Carlo (ICLR2025; João Loula, Benjamin LeBrun, Li Du, Ben Lipkin, Clemente Pasti, Gabriel Grand, Tianyu Liu, Yahya Emara, Marjorie Freedman, Jason Eisner, Ryan Cotterell, Vikash Mansinghka, Alexander K. Lew, Tim Vieira, Timothy J. O'Donnell) [paper]

  • Syntactic Control of Language Models by Posterior Inference (ACL2025 Findings; Vicky Xefteri, Tim Vieira, Ryan Cotterell, Afra Amini) [paper]

[18:00-18:10]クロージング

[19:00-21:00] 懇親会

8月31日(月) プログラム

[09:30-10:00]受付
[10:00-10:10] オープニング

[10:10-11:10] セッション1: Psycholinguistics & HCI

• 前川知歩: Large Language Models Are Human-Like Internally (TACL2025; Tatsuki Kuribayashi, Yohei Oseki, Souhaib Ben Taieb, Kentaro Inui, Timothy Baldwin) [paper] [slide]

• 勝見久央: Understanding Epistemic Language with a Language-augmented Bayesian Theory of Mind (TACL2025; Lance Ying, Tan Zhi-Xuan, Lionel Wong, Vikash Mansinghka, Joshua B. Tenenbaum) [paper] [slide]

• 笹野遼平: Your Students Don’t Use LLMs Like You Wish They Did (ACL2026; Sebastian Kobler, Matthew Clemson, Angela Sun, Jonathan K. Kummerfeld) [paper] [slide]

[11:30-12:30]セッション2: Theoretical Analysis

• 中石海: Deriving Neural Scaling Laws from the Statistics of Natural Language (ICML2026; Francesco Cagnetta, Allan Raventos, Surya Ganguli, Matthieu Wyart) [paper] [slide]

• 横井祥 [slide]

  • Symmetries in language statistics shape the geometry of model representations (ICML2026; Dhruva Karkada, Daniel James Korchinski, Andres Nava, Matthieu Wyart, Yasaman Bahri) [paper]

  • Closed-Form Training Dynamics Reveal Learned Features and Linear Structure in Word2Vec-like Models (NeurIPS2025; Dhruva Karkada, James B Simon, Yasaman Bahri, Michael R DeWeese) [paper]

• 矢野千紘: How much can language models memorize? (ICML2026; John Xavier Morris, Chawin Sitawarin, Chuan Guo, Narine Kokhlikyan, G. Edward Suh, Alexander M Rush, Kamalika Chaudhuri, Saeed Mahloujifar) [paper] [slide]

[14:00-15:00] セッション3: Post-training

• 中野由加子: Doc-to-LoRA: Learning to Instantly Internalize Contexts (ICML2026; Rujikorn Charakorn, Edoardo Cetin, Shinnosuke Uesaka, Robert T. Lange) [paper] [slide]

• 板井孝樹: Self-Distillation Enables Continual Learning (ICML2026; Idan Shenfeld, Mehul Damani, Jonas Hübotter, Pulkit Agrawal) [paper] [slide]

• 鈴木海渡: Crossing the Reward Bridge: Expanding Reinforcement Learning with Verifiable Rewards Across Diverse Domains (ACL2026; Yi Su, Dian Yu, Linfeng Song, Juntao Li, Haitao Mi, Zhaopeng Tu, Min Zhang, Dong Yu) [paper] [slide]

[15:20-16:20] セッション4: Evaluation (1) Benchmarks & Systems

• 小池隆斗: RedTeamCUA: Realistic Adversarial Testing of Computer-Use Agents in Hybrid Web-OS Environments (ICLR2026; Zeyi Liao, Jaylen Jones, Linxi Jiang, Yuting Ning, Eric Fosler-Lussier, Yu Su, Zhiqiang Lin, Huan Sun) [paper] [slide]

• 森友亮: The Imperfective Paradox in Large Language Models (ACL2026; Bolei Ma, Yusuke Miyao) [paper] [slide]

• 中山功太: EduBench: A Comprehensive Benchmarking Dataset for Evaluating Large Language Models in Diverse Educational Scenarios (ACL2026; Bin Xu, Yu Bai, Huashan Sun, Yiguan Lin, Siming Liu, Xinyue Liang, Yaolin Li, Zhuangzhi Dong, Jingren Zhang, Yufan Deng, Xinyu Zou, Yang Gao, Heyan Huang) [paper] [slide]

[16:40-17:40]セッション5: Evaluation (2) Alignment & Model Behavior

• 大羽未悠: Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model? (NeurIPS2025; Yang Yue, Zhiqi Chen, Rui Lu, Andrew Zhao, Zhaokai Wang, Yang Yue, Shiji Song, Gao Huang) [paper] [slide]

• 野沢健人: Checklists Are Better Than Reward Models For Aligning Language Models (NeurIPS2025; Vijay Viswanathan, Yanchao Sun, Xiang Kong, Meng Cao, Graham Neubig, Tongshuang Wu) [paper] [slide]

• 辻村有輝: Mind the Value-Action Gap: Do LLMs Act in Alignment with Their Values? (EMNLP2025; Hua Shen, Nicholas Clark, Tanu Mitra) [paper] [slide]

[17:40-17:50] クロージング

参加者（敬称略）

発表

中石 海 (理研), 持橋 大地 (統数研), 前田 晃弘 (東大), 鈴木 海渡 (PFN), 中山 功太 (NII LLMC), 池田 航 (東北大), 大葉 大輔 (Science Tokyo), 亀田 尭宙 (人文機構), 賀澤 秀人 (Google), 小池 隆斗 (科学大), 井田 龍希 (豊田工大), 横井 祥 (国語研), 田中 杏 (お茶大), 野沢 健人 (PFN), 笹野 遼平 (名大), 森 友亮 (東大), 板井 孝樹 (SB Int), 中野 由加子 (NTT), 勝見 久央 (NTT ), Ma Youmi (Science Tokyo), 水木 栄 (ホットリンク/科学大/産総研), 辻村 有輝 (産総研), 大羽 未悠 (奈良先端大), 小林 悟郎 (PFN), 矢野 千紘 (名大), 藤井 諒 (フューチャー / 東北大), 前川 知歩 (一橋大), 品川 政太朗 (奈良先端大), 徳永 拓之 (PredNext)

聴講

高瀬 翔 (サイバーエージェント), 高田 尚輝 (横国大), 岩本 蘭 (日本IBM/慶應大), 三輪 誠 (豊田工大), 渡邊 晃一朗 (筑波大), 平澤 寅庄 (LayerX), 小林 一郎 (お茶大), 山口 美咲 (東大), 辻本 祥吾 (名大), 吉川 克正 (第一ライフHD), 村岡 雅康 (IBM), 上田 亮 (NII), 神藤 駿介 (東大), 西田 悠人 (NAIST), 九門 涼真 (東大), 水津 徹久 (NAIST), Hamdi Abderrahmene (名大), 大﨑 稜司 (豊田工大), 木下 貴翔 (豊田工大), 樫森 信平 (豊田工大), 平岡 達也 (MBZUAI), 木山 朔 (一橋大), 吉田 快 (IVRy), 佐藤 祥太 (一橋大), 田屋 侑希 (中外製薬/お茶大), 大橋 美緒 (一橋大), 齋藤 慶汰 (一橋大), 三浦 衣里 (お茶大), 石月 由紀子 (東北大), 森下 睦 (フューチャー), 山口 真 (NAIST), 松田 耕史 (SB Intuitions), 望月 颯 (一橋大), 古橋 萌々香 (東北大), 森下 皓文 (日立), 古賀 友里愛 (東大), 吉田 遼 (東大), 清野 舜 (Cohere), 松林 優一郎 (東北大), 吉田 琉夏 (NTT 人間研), 高橋 舞衣 (NTT), 篠田 一聡 (NTT), 伊藤 大陽 (一橋大), 尾崎 花奈 (お茶大/日立), 吉田 希世 (東北大), 江原 遥 (学芸大), 斉藤 いつみ (東北大), 石井 太河 (国語研), 染谷 大河 (東大), 川﨑 春佳 (NTT ), 欅 惇志 (一橋大), 日高 逸稀 (一橋大), 塚越 駿 (Kotoba Tech / 名大), 中澤 敏明 (NII/LLMC), 大井 聖也 (科学大), 田中 涼太 (NTT), 入 亮介 (SB Intuitions), 芳賀 あかり (NAIST), 相田 太一 (NEC), 大鹿 雅史 (名大), 大南 えり (科学大), 新井 深月 (お茶大), 森田 早織 (東大), 望月 颯 (一橋大), 木迫 璃玖 (名大), 石橋 世成 (一橋大), 長谷川 永将 (一橋大), 島田 真緒 (一橋大)

参加・発表要領

• 有志による互助的な会です。参加者のかたは、以下ご協力を宜しくお願いします。※変更の可能性がありますのでご注意ください

論文への投票

• 読み候補を事前にリストアップし、「これは読むべき」と思われる論文への投票を行います。

  • ACL、EMNLP、NAACL、TACLの論文を中心に、関連会議やarXivの魅力的な論文があればそれらも投票対象とします。原則、本会議論文を対象とします。

  • この時代に読み返すと面白い、私ならアツく語れるなど、読む動機・対象は多岐に亘って構いません。

• 研究室での利活用などを想定し、本会で作成した読み候補リストを一般公開する予定です。

立候補

• 投票数を参考に、発表したい論文に立候補します。

• 複数の論文を選んでいただきテーマ発表として頂くのも大歓迎です。

発表要項

• 発表スライドおよびトークは日本語もしくは英語でご準備下さい。

• 原則現地での発表となります。発表の様子は録画しませんが、スライドは原則公開します。

• 発表は質疑込み20分 (発表15分+質疑5分程度を想定) を予定しています。2つの論文を選択した方も、20分内で両論文の発表+質疑をしてください。

• 当日は各発表者のPCからZoomで画面共有をしていただきますので、PCをご持参ください

  • Zoomのリンクは参加者専用Slackで共有いたします

参加方法

本勉強会は一研究室の夏合宿として始まって以降、過去の参加者らによる紹介を通して規模を拡大してきました。紹介制は、会の性質の維持がしやすい一方で、多様性の欠如を招くなどの懸念もありますので、昨年度より新規参加希望者向けに参加方法を掲載しています。

想定参加者層

自然言語処理分野及び関連分野で活動的な研究者・技術者・学生

• 主要国際会議・ジャーナルに論文を通している・通そうとしている方

• かつ、論文の内容や分野の潮流などについて、議論を盛り上げる意欲のある方

発表

• 発表枠の制限等に応じて聴講へ回っていただく場合があります。

• 発表者は、研究者・技術者、社会人・学生、新規参加者のバランスを考慮して決定します。

• その際に、これまで多く発表頂いていた方を優先する場合があります。

聴講

• 現地聴講の場合、収容人数の制限等に応じて、発表者と同様の観点で、オンライン聴講に回っていただく場合があります。

• 聴講のみで参加の方も意欲的に議論にご参加ください。

論文投票

• 参加登録後に、「これは読むべき」な論文への投票にご協力いただけない場合には、勉強会への参加をお断りさせていただく場合がございます。

締め切り

重要日程の参加登録期間の通りです。

新規参加希望者は、以下の情報とともに <snlp2026(at)googlegroups.com> にご連絡ください。

• 名前

• 所属研究機関（企業含む）

• 推薦者名（過去に本勉強会で発表をしたことがある方）

• 希望参加形式（現地発表・現地聴講・オンライン聴講）

新規参加希望者には所属研究機関（企業含む）と推薦者（過去に本勉強会で発表をしたことがある方）の記入をお願いしています。推薦者がいない場合は適宜ご相談ください。

場合によっては参加をお断りする可能性もございますが、特に昨今の分野の注目に鑑み、ご理解いただけますと幸いです。自然言語処理分野の学生の（オンライン）聴講は原則受け入れる予定です。

実行委員会

委員へのお問い合わせは <snlp2026(at)googlegroups.com> へお願いいたします。

• 相田 太一 (NEC) <taichia(at)tmu.ac.jp> - Homepage

• 岡 佑依 (NTT) <yui.oka(att)ntt.com> - Homepage

• 大葉 大輔 (科学大 岡崎研) <daisuke.oba(at)nlp.comp.isct.ac.jp> - Homepage

• 神藤 駿介 (東大 宮尾研) <skando(at)is.s.u-tokyo.ac.jp> - Homepage

• 西田 悠人 (NAIST 渡辺研) <nishida.yuto.nu8(at)is.naist.jp> - Homepage

• 古橋 萌々香 (東北大 坂口・乾研) <furuhashi.momoka.p4(at)dc.tohoku.ac.jp> - Homepage

• 馬 尤咪 (科学大 岡崎研) <ma.y(at)comp.isct.ac.jp> - Homepage

• 森 友亮 (東大 原田・黒瀬・椋田研) <mori(at)mi.t.u-tokyo.ac.jp> - Homepage

• 矢野 千紘 (名古屋大 笹野研) <yanonay3(at)gmail.com> - Homepage

アドバイザ

• 上田 亮 (NII) <ryoryoueda(at)is.s.u-tokyo.ac.jp> - Homepage

• 清野 舜 (Cohere) <shun.kiyono(at)cohere.com> - Homepage

• 銭本 友樹 (名古屋大) <zenimoto.yuki.u1(at)s.mail.nagoya-u.ac.jp> - Homepage

• 芳賀 あかり (NAIST 渡辺研)<haga.akari.ha0(at)is.naist.jp> - Homepage

• 平澤 寅庄 (LayerX) <tosho.hirasawa.001(at)layerx.co.jp> - Homepage

• 吉田 遼 (東大 川崎研) <yoshiryo0617(at)g.ecc.u-tokyo.ac.jp> - Homepage