研究概要
研究概要
記述式テストや面接試験,口コミサイトのレビュー,採点式のスポーツなどでは,対象ごとに異なる複数の評価者が採点を行います.しかし,一般に評価者はそれぞれに異なる主観的な採点基準を持っていますので,この場合には,誰に採点されたかで最終的なスコアが変わりえます.
そこで,この不公平性を解消するために,宇都研究室では,評価者固有の採点の偏り(評価者バイアス)をデータから推定し,その影響を数理モデルを用いて取り除く技術を開発しています.具体的には,テスト理論のひとつである項目反応理論に基づく潜在変数モデルを高度に拡張した技術を開発しています.
本研究室の技術は,世界最先端の性能を達成しており,国内の様々な学会(人工知能学会,行動計量学会,日本テスト学会,教育システム情報学会など)で多数の賞を受賞するとともに,特に入試分野においてパフォーマンス評価データの分析手法として,実用化が進められています.
図1. レイティング技術の概念図
統計的自然言語処理(NLP)とは,統計理論や機械学習,人工知能技術などを駆使して自然言語テキストを解析する研究分野です.NLPのタスクには様々なものがありますが,宇都研究室では小論文や短答記述式試験,レポートなどを自動で採点する「自動採点」の研究と,任意の長文からそれに関連する読解問題を自動で生成する「読解問題自動生成」の研究を中心的に行っています.
自動採点技術は,小論文やレポート,書籍などの品質をコンピュータに自動で評価させる技術です.深層学習(ディープラーニング)を含む機械学習手法や統計的自然言語処理などの様々な技術を駆使して実現されています.文章の理解・評価は人間でも一貫した活動が難しいタスクであり,この高度化はLLMが普及した現在でも未だチャレンジングな研究の一つといえます.
テスト問題を自動で生成する自動作問技術を研究しています.宇都研究室では,ChatGPTに代表される大規模生成言語モデルと項目反応理論と呼ばれる洗練された統計・数理技術を融合することで,学習者の能力に適した難易度の問題を自動で生成できる自動作問技術を研究しています(動画).
さらに自動作問に留まらず,生成された問題の品質を自動評価する技術も研究しており,代表例としては,人間の学習者の振る舞いをAIに模倣させる学習者ツイン(AI受験者)や難易度予測モデルの開発が挙げられます.
本研究テーマについても,トップ国際会議AIEDやトップジャーナルIEEE TLTに論文が掲載され(参考),人工知能学会や産学連携に関するコンソーシアムをはじめとする様々な学協会から多くの賞を授与されています(参考).
全国の医学系大学では学生に凖国家試験である実技試験OSCEの受験を義務付けています.この試験の一部として,医師役の学生が患者さんに医療面接を行う形式の実技試験があります.しかし,患者さん役の振る舞いによって,学生のパフォーマンスが変わってしまい,公平な評価が難しい問題がありました.
これを解決するために,大規模言語モデル(LLM)を用いて患者さん役の振る舞い(応答)を模倣する仮想模擬患者の技術を開発しています.単純にLLMを利用するだけでは,医師から聞かれていないことまで答えてしまうことがあるので,それを抑制するようにLLMを制御する技術の開発に特に焦点を当てています.
本研究テーマについても,トップ国際会議AIEDに論文が複数掲載されています(参考).また,医学教育系の学会シンポジウムなどでも発表し,実用向けた取り組みも進行中です.
ベイズ確率論や上述のテスト理論,言語処理技術を駆使して,様々な問題を対象とした高度な確率モデルの開発を行っています.開発した確率モデルのパラメータ推定アルゴリズムの開発も同時に行っており,主に,複雑な確率モデルにおいて有効性の高い,マルコフ連鎖モンテカルロ法(MCMC:Markov Chain Monte Carlo)を用いた推定アルゴリズムを開発しています.
レイティングモデルのパラメータ推定精度を改善するための階層モデル化
キーストロークログ(キーボードのタイピングパタン)から,文章執筆のプロセスを推定するモデル.
項目反応理論とトピックモデルの一つである潜在ディリクレ配分法(Latent Dirichlet Allocation)を融合したモデル