Publication

International Conference

Instability in Downstream Task Performance During LLM Pretraining [paper]
Findings of the Association for Computational Linguistics: EMNLP 2025 Findings (long)
Yuto Nishida, Masaru Isonuma, Yusuke Oda.

Long-Tail Crisis in Nearest Neighbor Language Models [paper]
Findings of the Association for Computational Linguistics: NAACL 2025 Findings (long)
Yuto Nishida, Makoto Morishita, Hiroyuki Deguchi, Hidetaka Kamigaito, and Taro Watanabe.

How to Make the Most of LLMs’ Grammatical Knowledge for Acceptability Judgments [paper]
The 2025 Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics: Human Language Technologies: NAACL 2025 (long)
Yusuke Ide, Yuto Nishida, Justin Vasselli, Miyu Oba, Yusuke Sakai, Hidetaka Kamigaito, and Taro Watanabe.

Generating Diverse Translation with Perturbed kNN-MT [paper]
The 18th Conference of the European Chapter of the Association for Computational Linguistics: Student Research Workshop:  EACL 2024 SRW (long)
Yuto Nishida, Makoto Morishita, Hidetaka Kamigaito, Taro Watanabe.

NAIST-NICT WMT’23 General MT Task Submission [paper]
The 8th Conference on Machine Translation: WMT2023
Hiroyuki Deguchi, Kenji Imamura, Yuto Nishida, Yusuke Sakai, Justin Vasselli, Taro Watanabe.

NAIST-NICT-TIT WMT22 General MT Task Submission [paper]
The 7th Conference on Machine Translation: WMT 2022
Hiroyuki Deguchi, Kenji Imamura, Masahiro Kaneko, Yuto Nishida, Yusuke Sakai, Justin Vasselli, Huy Hien Vu, Taro Watanabe.

Journal

大規模言語モデルの文法知識評価方法の再検討
自然言語処理, Volume 33, Number 1, 2026. (to appear)
井手佑翼, 西田悠人, Justin Vasselli, 大羽未悠, 坂井優介, 渡辺太郎, 上垣外英剛.

kNN言語モデルの低頻度語に対する振る舞いの分析  [paper]
自然言語処理, Volume 32, Number 4, 2025.
西田 悠人, 森下 睦, 出口 祥之, 上垣外 英剛, 渡辺 太郎

Domestic Conference

ニューラル言語モデルの学習初期における単語の分節化  [paper]
情報処理学会第265回自然言語処理研究会 (2025)
帖佐宗浩, 西田悠人, 大羽未悠, 渡辺太郎.

Wikipediaリダイレクト情報を活用したエンティティベース質問応答データセットの構築  [paper]
言語処理学会第31回年次大会 (NLP2025)
西田悠人, 志子田直輝, 岸波洋介, 藤井諒, 森下睦, 上垣外英剛, 渡辺太郎.

日本語大規模言語モデルの事前訓練過程における下流タスク性能の網羅的な分析  [paper]
言語処理学会第31回年次大会 (NLP2025)
西田悠人, 小田悠介, Namgi Han, 高木優, 宮尾祐介.

独立成分分析による事前学習済み多言語モデルの層を横断した単語埋め込み表現の分析  [paper]
言語処理学会第31回年次大会 (NLP2025)
北野雄士, 西田悠人, 坂上温紀, 上垣外英剛, 渡辺太郎.

LLMの学習過程におけるタスク性能の不安定性とその緩和  [paper]
情報処理学会第263回自然言語処理研究会 (2025)  [若手奨励賞]
西田悠人, 小田悠介.

大規模言語モデルの知識は何に由来して記憶されるか？
第19回言語処理若手シンポジウム (YANS2024)
西田悠人, 岸波洋介, 藤井諒, 森下睦.

多言語モデルの埋め込み表現の理解に向けた独立成分分析による可視化
第19回言語処理若手シンポジウム (YANS2024)  [奨励賞]
北野雄士, 西田悠人, 坂上温紀, 上垣外英剛, 渡辺太郎.

大規模言語モデルに適した容認性判断手法の検討  [paper]
情報処理学会第260回自然言語処理研究会 (2024)  [若手奨励賞]
井手佑翼, 西田悠人, 大羽未悠, 坂井優介, Justin Vasselli, 上垣外英剛, 渡辺太郎 .

kNN言語モデルは低頻度語の予測に役立つか？ [paper]
言語処理学会第30回年次大会 (NLP2024)  [若手奨励賞]
西田悠人, 森下睦, 出口祥之, 上垣外英剛, 渡辺太郎.

単言語データを用いたLLMベースのkNN機械翻訳
NLP若手の会第18回シンポジウム (YANS2023)
西田悠人, 森下睦, 上垣外英剛, 渡辺太郎.

knn-seq: 高速・拡張可能なkNN機械翻訳フレームワーク [arXiv] [code]
NLP若手の会第18回シンポジウム (YANS2023)  [奨励賞]
出口祥之, 平野颯, 星野智紀, 西田悠人, Justin Vasselli, 渡辺太郎.

摂動を加えたkNN 機械翻訳による多様な翻訳候補の生成  [paper]
言語処理学会第29回年次大会 (NLP2023)
西田悠人, 森下睦, 上垣外英剛, 渡辺太郎.

kNN機械翻訳のためのTransformer デコーダ最終層の中間表現の可視化・統計的分析
NLP若手の会第17回シンポジウム (YANS2022)  [奨励賞]
西田悠人, 出口祥之, 上垣外英剛, 渡辺太郎.

ニューラル機械翻訳のための日本語の膠着語的性質を考慮したマルチタスク学習  [paper]
言語処理学会第28回年次大会(NLP2022)
西田悠人, 秋葉友良, 塚田元.

日本語の膠着語的性質を考慮したマルチタスク学習によるニューラル機械翻訳
NLP若手の会第16回シンポジウム(YANS2021)
西田悠人, 秋葉友良, 塚田元.

Work Experience

2025/10 -- 2026/03  (expected)
Part-time Lecturer at Japan Medical Gakuin College (日本医療学院専門学校)
Medical Engineering I

2025/01 -- present
Research Assistant at Research and Development Center for Large Language Models, National Institute of Informatics

2024/10 -- 2025/03
Part-time Lecturer at Osaka Metropolitan University College of Technology
Elementary Practice of Technological Systems (Thema I1: Programming Practice)

2024/10 -- 2025/03
Part-time Lecturer at Japan Medical Gakuin College (日本医療学院専門学校)
Medical Engineering I

2024/05 -- present
Part-time Researcher at Future Corporation

2023/10 -- 2024/03
Teaching Assistant of NAIST STELLA Program, Nara Institute of Science and Technology

2023/06 --  2025/02
Research Assistant at Yasutora Watanabe Laboratory, The University of Tokyo

2022/08 -- 2022/09
Research Internship at NTT Communication Science Laboratories

2022/01 -- 2022/03
Internship at  BrainCity Co., Ltd
Software Engineer

2021/10 --  2021/12,  2022/03  --  2022/05
Research Assistant at Yusuke Miyao Laboratory, The University of Tokyo

2018/08
Internship at Sunceed Co., Ltd.
Robot Engineer

Grant

2024/04 -- 2027/03 (expected)
JST SPRING: NAIST Granite Program
165,000 yen / month (stipend) + 400,000 yen / year (research funding)

2022/04 -- 2024/03
JASSO Scholarship: Full repayment exemption due to outstanding achievements (特に優れた業績による全額返済免除)
88,000 yen / month

Activity

2025/04 -- present
最先端NLP勉強会 実行委員 [HP]

2025/09
第20回言語処理若手シンポジウム 分野交流ハッカソン DPO部門 YANS運営委員特別賞
チームa 「東一点」

2025/01 -- present
NLP Dの会 幹事補佐 [HP]

2023/04 -- 2025/03
言語処理学会若手支援事業 YANSシンポジウム運営委員 [HP]

Education

2024/04 --  present
Doctor of  Engineering, Division of Information Science, Nara Institute of Science and Technology, Japan.
Supervisor: Taro Watanabe

2022/04 --  2024/03
Master of  Engineering, Division of Information Science, Nara Institute of Science and Technology, Japan.
Supervisor: Taro Watanabe
GPA: 3.69 / 4.00

2020/04 -- 2022/03
Bachelor of Engineering, Department of Computer Science and Engineering, Toyohashi University of Technology, Japan.
Supervisor: Tomoyoshi Akiba
GPA: 3.82 / 4.00  (Valedictorian of department)

2015/04 -- 2020/03
Associate of Engineering, Mechatronics Course, Osaka Metropolitan University College of Technology, Japan.
Supervisor: Takeshi Wada
Valedictorian of course

Contact

Email: nishida.yuto.nu8@is.naist.jp

Twitter: https://twitter.com/dovedovepigeon

Linkedin: https://www.linkedin.com/in/yutonishida/