近年、AIのメタ認知に関する研究が進展している。しかし、現在「AIのメタ認知」と呼ばれているものには、高度なメタ認知を支える自己概念が欠けている。現在のAIは、自らの出力を修正できても、それを「自分のもの」と理解したり、自己についての長期的な知識を用いて推論したりはしない。本発表では、AIは自己概念を持ちうるのか、持ちうるとすればその工学的ベンチマークは何か、さらに自己概念を伴うメタ認知はAIにどのような利点をもたらすのかを検討する。

AIの「メタ認知」を論じるプラグマティックな意義のひとつは、自己状態を把握しているかのような振る舞いによる出力の改善にあると思われる（ハルシネーションや望ましくない出力の回避など）。しかしこの目的に照らせば、人間的な心的能力が必ず求められるわけではない。本発表では、道徳的行為者性の「帰属」をめぐる関係的技術哲学の議論に着想を得て、AIのメタ認知を帰属の実践の問題として読み替える可能性を示唆したい。

Metacognition is known to play several important roles in human thinking and learning. It is therefore often argued that incorporating this ability is a necessary step toward advanced AI, including AGI. Contemporary AI, however, has computational power far superior to that of humans, which might enable it to achieve high performance without metacognition. In this talk, I will consider whether this is really the case.

言語モデルにメタ認知的な振る舞いを要請することは、利用者がモデルの限界を把握し、適切に信頼・利用するための判断材料を得るうえで重要であると考えられる。しかし、現在提案されているベンチマークや分析手法の間で、メタ認知的な振る舞いの「よさ」をどのように捉え、評価すべきかについて合意があるわけではない。本発表では、規範性・言語知識・心の理論などに関する研究を手がかりに、メタ認知的な振る舞いの評価のあり方を検討する。