東京工業大学 情報理工学院 情報工学系 知能情報コース
佐久間研究室
機械学習と人工知能の信頼性、特にAIセキュリティ・プライバシー、説明可能AI 、AIによる差別や捏造などについて研究をしています。
PI（佐久間）は理化学研究所革新知能統合研究センター AIセキュリティプライバシーチームを兼務しており、佐久間研は東工大/筑波大学の研究室及び理研のチームとして稼働しています。
主な研究
論文業績については google scholar DBLP を参照してください。最近の研究テーマは以下の通りです。
AIセキュリティ（AIへの攻撃、敵対的サンプル、ポイズニング、モデル反転）、AIのプライバシー（差分プライバシー、マルチパーティー計算）、説明可能AI、AI公平性、AIモデルやAI生成知識の著作権保護、言語モデルの安全性とプライバシー。
応用問題としては外部の研究組織と連携し、悪性リンパ腫の病理診断における説明可能AIの適用、AIによる自動運転システムへの攻撃と防御等を扱っています。
東工大ポスター.pdfAI trust.pdf主なプロジェクト (2023/4現在)
識別における因果構造を考慮したAIに対する攻撃機序の理解とその防御戦略の構築 (科学研究費, 基盤研究A, 代表者, 2023-2027)
AI 駆動型サイバーフィジカルシステムのセキュリティ評価・対策基盤 (JST CREST, 主たる共同研究者, 2023-2029)
AI駆動仮説の静的・動的信頼性保証と医療への展開 (JST CREST, 主たる共同研究者, 2021-2026)
自動運転システムに対する敵対的入力の理解と対策技術の開発 (科学研究費, 基盤研究A, 分担者, 2022-2024)
分散型ソーシャルグラフに向けた差分プライバシー技術 (科学研究費, 基盤研究A, 分担者, 2022-2026)
メンバー (2023/4現在)
PI 佐久間 淳 (教授/東工大,筑波, 理研/チームリーダー)
連携教員 秋本洋平(准教授/筑波), 福地一斗(助教/筑波)
研究員 YU ZHE (理研/東工大), Joshua Butke (理研/東工大)
博士課程学生 柿崎和也(D3/筑波) 西山大輝(D2/東工大)
修士課程学生 大磯 秀幸(M2/筑波) 小路口 望(M2/筑波) 宮内篤矢(M1/筑波) 山岨寛門(M2/筑波) 山辺翔二郎(M1/東工大)
学部学生
Almuni
2024.03 Win Lei Thwe(研究生/筑波)→筑波M1
2024.03 加藤宇生(B4/筑波)→筑波M1
2024.03 吉成 勇人(B4/東工大)→東工大M1
2024.03 XU KAIWEN(M2/筑波)
2024.03 藤川光浩(M2/筑波)
2024.03 永池礼(M2/筑波)
2024.03 Dai Shengtian (M2/筑波)
2024.03 仙田涼磨(理研/東工大)→三重大学
2023.10 藤澤将広(理研/東工大)→理研
アクセス
〒152-8550 東京都目黒区大岡山２丁目１２−１
西八号館E-905
