高井研池本班での研究活動について
注意!:本プロジェクトは高井研究室の研究活動の一部であり,研究室としての指導方針ではありません.あくまでの池本のもとで研究を進める場合にのみ適用されます.
研究室に配属された後の流れ
B4の研究室配属者とM1からの研究室配属者は,まずは4~6月上旬にかけて研究室全体の輪講で基礎知識をつけてもらいます(2026年度は私が取りまとめをしたので連絡をいただければ,教材について詳しくお話しできます).池本の班で研究を希望する場合,併せて Sutton の教科書を使って強化学習の基礎的な内容の輪講を行います.院試以降(M1は基礎的な輪講が終わり次第),具体的な課題※を決め,その解決法を考えていきます.
※強化学習に関しては,理論的なテーマに取り組みたい方も可能な範囲でお手伝いしようと思います!また,自分で応用先のテーマを持ち込んだいただいてもかまいません(応用先ドメインの勉強と私への解説をお願いします).
修士の学生に課すノルマ
基本的に修士の学生は自発的に研究を進めていただき,システム・情報部門学術講演会 (SSI),人工知能学会全国大会 (JSAI) ,日本鉄鋼協会講演大会などの国内会議で最低1度は研究成果を外部発表することをノルマにしています.最終的に国際会議発表や論文誌投稿のレベルまでもっていけるよう研究に取り組むことがベターです.
特に,M1からの新規配属の学生は,最低限年明け1~2月に原稿の締め切りがある人工知能学会全国大会 (JSAI) で研究成果を外部発表できるように研究に取り組んでください.B4に関してもスケジュール的にはハードですが,卒論と並行してJSAIへの投稿が目指せると修士以降の研究活動・就職活動に関してかなり有利に働くと思うので頑張りましょう!
M2で修論を書くころには,少なくとも個別のテーマに関しては池本よりも詳しい状態を目指してください.
コアタイムについて
基本的に,研究室全体の行事(セミナーや進捗報告会),班の月例・輪講以外の時間にコアタイムはありません.
しっかりと研究時間を確保し,適宜 slack やメールによって報連相していただくことは前提ですが,それぞれのリズムで場所を選ばず研究に取り組んでもらえればOKです.池本の班で研究している学生には,最低限の進捗報告として,月報の提出をお願いしています.
一緒に研究したい学生さんへ (2026/10/7 追記)
池本のもとで研究をするためには,まずは高井研に所属する必要があります.
①学部入試や学部編入によって大阪大学工学部電子情報工学科に入学していただいて,電気工学コースを選択し,4回生進級時に高井研に配属されるルートと,②大阪大学大学院工学研究科電気電子情報通信工学専攻(電気工学部門)の院試を突破していただき,高井研に配属されるルートの2つがあります.私自身は研究室主宰者ではなく,研究室への受け入れ権限はありませんので,まずは①もしくは②の方法で高井研所属になる必要がある点はご認識ください.
また,②の修士から進学を希望される方で,外部から研究室見学に来られる方にお願いがあります.「AIに興味がある」や「自動運転に興味がある」という理由をきっかけに志望していただくのは構わないのですが,もう少し興味の解像度を上げて進学の相談をしていただけると助かります.特に,学部での専攻と私のテーマ(逐次的意思決定のための機械学習)とのギャップがある方は,そのハンデを踏まえた上で,2年間の研究を通してどういうスキルを身につけたいのかについて整理してから見学に来ていただけると助かります.とにかく,あなたなりの熱意を見せてください!
私が応用対象にしている分野に関係していなくても,「私は~~の分野について学部で勉強してきたのですが,この分野の意思決定において~~といった課題感があり,シミュレーション×強化学習を使って~~のような方法(ここはさすがに具体化できてなくてもOKです)での解決を考えてみたい」といった具体的な応用課題を持ち込んでいただける学生さんは大歓迎です!
プロジェクトメンバーの卒論・修論タイトル例
※個人情報のため名前は伏せさせていただきます.また諸事情によりタイトルを一部改変している可能性があります.
FY 2025
卒研:オンライン凸最適化によるパラメータ同定を用いた Sim-to-Real 強化学習
卒研:REINFORCE によるモデル予測経路積分制御におけるコスト関数設計
参考図書
藤田肇, 成果を生み出すテクニカルライティングートップエンジニア・研究者が実践する思考整理法, 技術評論社, 2019. (優先度:★★★★★)
研究を始める前に一読してほしい一冊です.この本の内容を知っているかどうかで研究生活が変わると思います.一度読んだ後も定期的に読み返してほしいです.
生成AIにアイデアをまとめさせた資料で進捗報告しないでほしい理由が分かっていただけると思います.
R. S. Sutton and A. G. Barto, Reinforcement Learning: An Introduction, MIT Press, 2018. (優先度:★★★★☆)
おそらく最も有名な強化学習の教科書です.2026年度の池本の指導学生には第3章から第13章までを輪講してもらいました.
C. Szepesvári, Algorithms for Reinforcement Learning, Morgan and Claypool Publishers, 2010. (優先度:★★★☆☆)
理論的に強化学習を勉強したい場合,入門となる教科書です.
A. Agarwal et al., Reinforcement Learning: Theory and Algorithms, 2026.(優先度:★☆☆☆☆)
現代的な強化学習理論についてまとめられている教科書です.非常に難解なので,統計的学習理論としての強化学習に踏み込んで理解・研究したい人のみ手を出してください.個人的には 2 や 3 の内容を習得していない段階ではお勧めできません.
COLTのチュートリアル: https://rltheorybook.github.io/colt21tutorial
M. Morales, Grokking Deep Reinforcement Learning, 2020. (優先度:★★★★☆)
できるだけ数理的な部分に踏み込まず深層学習と強化学習を融合させた深層強化学習への入門ができます.とりあえず,強化学習や深層強化学習の概要をつかんで自分のしたいことに活かしたい人にはおすすめです.
外部からの入学者で強化学習の研究をしたい人は,この本あたりをサラッと読んでおくと輪講に入っていきやすいかもしれません.
研究室配属前の学部生向け実験や研究体験型講義での教科書として採用しています.
実装コードなど: https://github.com/mimoralea/gdrl
R. Reiter et al., Synthesis of Model Predictive Control and Reinforcement Learning: Survey and Classification, 2025. (優先度:★★★★☆)
強化学習とMPCの比較などがまとめられているサーベイ論文です.強化学習の応用研究に取り組んでいる方は一読して,強化学習でなければならない理由を強化しておきましょう.
2, 5 の本の基本的な内容を習得した上で読んだほうが理解が深まると思います.
Arxiv 版: https://arxiv.org/abs/2502.02133
論文誌版: https://www.sciencedirect.com/science/article/pii/S1367578826000015
K. P. Murphy, Probabilistic Machine Learning: An Introduction, MIT Press, 2022.(優先度:★★★☆☆)
強化学習以外の機械学習の勉強をしたい場合に有用な教科書です. 2026年度の研究室全体の輪講で,2~8章の基礎的なトピックを扱いました.
公式HP: https://probml.github.io/pml-book/book1.html, https://probml.github.io/pml-book/book2.html
D. P. Bersekas, Reinforcement Learning and Optimal Control, Athena Scientific, 2019.(優先度:★★☆☆☆)
制御工学(特に最適制御)に明るい方が強化学習に入門する際におすすめの教科書です.
M. J. Kochenderfer et al., Algorithms for Decision Making, MIT Press, 2022. (優先度:★★★★★)
S. J. D. Prince, Understanding Deep Learning, MIT Press, 2023. (優先度:★★★★★)