人の理解/誘導で強化される
制御システム調査研究会
(2024.1-2025.12)
研究会への参加はいつでも歓迎しております。こちらのGoogle Formから登録頂けます。登録頂いた方へ，セミナー情報をまとめた discord への招待＆メーリングリストへの登録をいたします。
ニュース
2024.11.24-25：研究合宿（CPHS合宿）をおこないました
2024.11.23：第67回自動制御連合講演会にてOSを3セッション企画・実施しました。
2024.7.31：調査研究会の招待講演３をおこないます。
2024.6.18：調査研究会のセミナー２をおこないました。
2024.6.5：調査研究会の招待講演２をおこないました。
2024.4.24：調査研究会のセミナー１をおこないました。
2024.4.17：調査研究会の招待講演１をおこないました。
2024.4.17：調査研究会のキックオフをおこないました。
2024.3.18：SICE MSCS 2024にてOSを2セッション企画・実施しました。
2023.11.27：調査研究会の新設が承認されました。
活動内容（セミナー情報）
【キックオフ&招待講演1】
2024.4.17(水)15:00-17:00
プログラム
15:00-15:30：趣旨説明（井上 正樹＠慶應）
15:30-17:00：招待講演
タイトル：Vision & Language技術とロボティクスの融合の先にある未来
アブスト：大量のデータで自己教示学習をする大規模言語モデル(LLM)は、開発者も思いも寄らないほどの汎化性能を示し、第四次AIバブルとも呼ばれる現在の状況を作り上げた。また、画像と言語を結びつけたCLIPを皮切りに、LLMは視覚と言語の両方を扱うVision Language Model (VLM)へと発展している。ロボットについても、同様に大規模データの収集によるRT-Xなどの成果が新たな時代を予感させている。本講演では、もともと画像処理やVision & Languageの研究者であった講演者の視点から、最近の言語制御型ロボットへの取り組みを紹介するとともに、当該分野の今後の発展の方向性について議論する。
会場：ハイブリット（早稲田大学西早稲田キャンパス & Zoom）
【セミナー1】
2024.4.24(水) 10:30-11:30
プログラム
10:30-11:10：招待講演
11:10-11:30：ディスカッション
講演者：Thien Q. Tran 博士＠LINEヤフー
タイトル：大規模言語モデルに対するjailbreak prompts攻撃と防御
アブスト：大規模言語モデル（LLM）の安全な運用には、システムの安全性を脅かす「jailbreak prompts」攻撃への対策が必要不可欠です。本講演では、jailbreak promptsの背景、それがもたらす脅威、およびこれに関連技術について解説します。さらに、効率的なjailbreak prompts構築手法に関する最近の研究成果を紹介し、LLMの安全性を高めるための今後の課題について述べます。
会場：オンラインのみ
【招待講演2】
2024.6.5(水)14:45-16:15
講演者：杉浦 孔明教授＠慶應
タイトル：ロボティクスにおける基盤モデルの利活用
アブスト：マルチモーダル大規模言語モデル等の基盤モデルの発展は社会全体に影響を与えており、ロボティクスも大きな転換期を迎えている。現状では、システム統合への基盤モデルの利活用が先行しているものの、自己注意に代わる機構として状態空間モデルを導入するなど制御理論における知見の利活用も進みつつある。本講演では、基盤モデルの概要、ロボティクスにおける基盤モデルの利活用事例、我々の取り組みと展望について述べる。
会場：ハイブリット（慶應義塾大学矢上キャンパス ＆ Zoom）
【セミナー2】
2024.6.18(火)13:00-14:30
タイトル：イベントカメラを用いた低遅延自己位置推定手法とその展望
アブスト：イベントカメラは画素ごとの輝度変化を高い時間分解能で出力する。この動作原理から、特にこのカメラは「動き」の認識に長けているセンサーだと考えることができる。この特性を活用することで、イベントカメラは自動走行ロボット等への応用が期待されている。本講演では特に、ロボットへの応用の際に必要となる自己位置推定アルゴリズムに着目し、その概要、関連技術、今後の展望について解説する。
会場：ハイブリット（慶應義塾大学矢上キャンパス ＆ Zoom）
【招待講演3】
2024.7.31(水)14:00-15:00
タイトル：人間の認知の歪み・行動変容を活かした自動制御：技術シーズのマネタイズに向けた一考
アブスト：自動制御技術シーズのさらなるマネタイズには、人間に与えられたタスクを正確にこなす制御のみならず、認知に歪みがある人間の特性を理解した上で、必要に応じてヒューマンエラーに対する適切な介入をする自律的な制御が求められる時代になるかもしれない。本講演ではそのために必要な人間の認知の歪みと行動変容の事例を、行動ファイナンス、行動経済学、医療経済学の専門的見地から紹介し、技術シーズのマネタイズに資する視点を提供する。
会場：オンライン（Zoom）
研究会の目的
昨今の大規模言語モデル（LLM）や大規模マルチモーダルモデル（LMM）の急速な発展を背景として、チャット情報やカメラ情報からLLM/LMM を通して、人の行動だけでなく心理的な状態までも推定して、より深い部分まで人を理解するための下地は整ってきた。これら人の理解に繋がる情報系分野の技術に対して、SICE 制御分野ではこれらと関連付けた新しい理論どころか技術を取り入れる試みすらもほとんど行われていない。本調査研究では、まずは、人の理解のための技術動向を追いながら制御分野に取り入れることを目的としている。また、人からシステムへの情報の解析技術だけではなく、逆方向、人を誘導する技術に関しても動向調査をおこなう。本調査研究では。これらの人の理解/誘導の技術を制御分野に取り入れて新たな制御システム開発、そして、構成される人とシステムのフィードバック系の解析・設計など、新たな理論開拓の準備までおこなうことを目的とする。
委員
研究会幹事
主査：井上 正樹（慶應義塾大学），副査：和佐 泰明（早稲田大学），幹事：阿久津 彗（富山県立大学）
研究会相談役（アドバイザ）
平田 研二（富山大学）：前身の調査研究会主査(こちら)
研究会委員
委員40名以上にご参加頂いています（掲載を承諾頂いている委員の皆様のみ，登録順）
薄良彦 京都大学
奥田裕之 名古屋大学
稲垣伸吉 南山大学
早川朋久 東京工業大学
畑中健志 東京工業大学
中村幸紀 岡山大学
山内淳矢 東京大学
中村文一 東京理科大学
仲野聡史 名古屋工業大学
木下拓矢 広島大学
滑川徹 慶應義塾大学
伊吹竜也 明治大学
舩田陸 東京工業大学
南裕樹 大阪大学
小島千昭 富山県立大学
村尾俊幸 金沢工業大学
木村駿介 清水建設株式会社
阿部侑真 国立研究開発法人情報通信研究機構
瀋迅 大阪大学
鈴木羽留香 慶應義塾大学 (同志社大学兼任)
種村昌也 信州大学
小蔵正輝 大阪大学
寄田明宏 東京都立大学
澤田賢治 電気通信大学
山本薫 九州大学
和田孝之 大阪大学
鈴木元哉 株式会社ホンダスタッフィングサービス Wing-AI LAB
岩田拓海 広島大学
難波巧 立命館大学