Research

機械学習モデルを現実の環境で使うときには、計算資源の制約やデータのノイズ・欠損、学習時と運用時のデータ分布の違い、そもそもデータが無いなど、さまざまな問題が生じます。また、意図的に誤動作を引き起こすような攻撃への対策が必要になる場合もあります。こうした理想的とはいえない状況でも安定して性能を発揮し、現実の環境で安心して使い続けられる、頑健で実用的な機械学習手法について研究します。

機械学習の分野では、日々さまざまな手法が提案され、Kaggleなどの実践の場でも多くのテクニックが使われています。一方で、なぜそれらの手法がうまく機能するのか、どのような条件で性能が落ちるのかといった点は、十分に分かっていないことも少なくありません。こうした経験的に有効とされている手法について、理論と実験の両面からその仕組みを明らかにします。手法が機能する理由や限界を理解することで、AIをいつ、どのような状況で、どこまで信頼して使えるのかを明確にし、「本当に使えるAI」の実現につなげることを目指します。

実際のサービスや意思決定において、AIはあくまで大きなシステムを構成する一つの部品です。精度の高いモデルを作るだけでなく、運用中の性能をどのように確認・評価するか、問題が起きたときに人がどのように対応するか、新しいデータに合わせてモデルをどのように更新するかといったことまで考える必要があります。そこで、AIだけでなく、人や運用の仕組み、他のソフトウェアやデータ基盤まで含めたシステム全体を対象に、単に作って終わりではなく、現実のサービスや意思決定の中で継続的に信頼して使える仕組みの設計について研究します。

機械学習モデルは高い予測性能を示す一方で、なぜそのような判断をしたのか、データから何を学んでいるのかが分かりにくいことがあります。そこで、モデルがどのような特徴や規則を捉えているのか、その内部でどのような振る舞いが生じているのかを分析します。こうした解析を通して、モデルの判断根拠や失敗の原因を明らかにし、その予測をどこまで信頼してよいのかを判断できるようにするとともに、データに隠れた新たな構造や知見を見つけ出すことを目指します。