大規模言語モデルの登場以降、人工知能(AI)は誰でも使えるツールの1つとなり、私たちの暮らしや生活に身近な存在となりつつあリます。ビッグデータや深層学習が注目を集めた一昔前では、AIは一部の研究者や技術者の扱う道具でしたが、多くの人がAIを対話形式で使用する段階において、AIの信頼性はこれまで以上に社会の重要なトピックとなるでしょう。
そこで「AIは信頼できるのか？」というテーマに対し、若手の研究者がそれぞれに信頼性の問題を定め、解決に取り組んだ最新の研究事例を紹介します。また、これらの研究事例に対し、多様な分野の専門家を交えたオープンなパネルディスカッションを行います。
ディスカッションには、「コンピュータビジョンにおけるAIの評価の研究者」である大谷まゆ氏、「科学哲学、特に生物学（進化論）の哲学、統計学の哲学の研究者」である大塚 淳氏、「学術書編集や科学技術政策の調査」に関わってきた丸山隆一氏をお招きします。
本企画では、多様な視点から見たAIの信頼性や、AIをさらに一段階社会の生活に馴染ませ、浸透させるための方法論について議論を深める機会の提供を目指します。
主なキーワード：人工知能の信頼性、人工知能の再現性、人工知能の説明性
2024年度 人工知能学会全国大会（第38回）企画セッション
JSAP2024：https://www.ai-gakkai.or.jp/jsai2024/ks#ks-12
セッション情報：https://confit.atlas.jp/guide/event/jsai2024/session/4H02-02/tables?IsMLenWdhz
オープニング
14:00-14:03 企画概要説明
竹内 孝 (京都大学 大学院情報学研究科 講師)
話題提供トーク
14:03-14:10 丸山 隆一 (AIアライメントネットワーク（ALIGN）、編集者)
ライトニングトーク
14:10-14:14 菅原 朔 (国立情報学研究所 コンテンツ科学研究系 助教)
14:14-14:18 竹内 孝 (京都大学 大学院情報学研究科 講師)
14:18-14:22 西田 知史 (情報通信研究機構 脳情報通信融合研究センター 主任研究員)
14:22-14:26 原 聡 (大阪大学 産業科学研究所 准教授)
14:26-14:30 藤井 慶輔 (名古屋大学 大学院情報学研究科 准教授)
14:30-14:34 松原 崇 (大阪大学 大学院基礎工学研究科 准教授)
14:34-14:38 谷中 瞳 (東京大学 大学院情報理工学系研究科 准教授)
14:38-14:42 岸田 昌子 (国立情報学研究所 情報学プリンシプル研究系 准教授)
パネリストからのフィードバック
14:45-14:55
大谷まゆ（サイバーエージェントAILab）
大塚 淳 (京都大学 大学院文学研究科 准教授)
丸山 隆一 (AIアライメントネットワーク（ALIGN）、編集者)
パネルディスカッション
14:55-15:10
「技術的アプローチによる信頼性（説明可能機械学習、ベンチマーキング、etc.）と社会的アプローチによる信頼性の両立に向けて必要なことは？」
大谷まゆ（サイバーエージェントAILab）
15:10-15:25
「具体的に、誰から信頼して欲しいのか？」
大塚 淳 (京都大学 大学院文学研究科 准教授)
15:25-15:40
「技術的アプローチと社会的アプローチが積極的に補完しあう場面について聞いてみたい。具体的には、自身の研究成果が、実際の「AIの信頼性」に結びつくために、どのような法制度・ガイドライン・認証制度等々の社会的アプローチがあるとよいか。」
丸山 隆一 (AIアライメントネットワーク（ALIGN）、編集者)
+上記研究者8名
クロージング
15:40-15:40 全員
反省会および第2回の開催に向けたディスカッション
17:00-20:30
場所未定
2024年度 人工知能学会全国大会（第38回）
日時：2024年5月31日(金) 14:00-15:40
場所アクトシティ浜松 H会場
竹内 孝 (京都大学 大学院情報学研究科 講師)
谷中 瞳 (東京大学 大学院情報理工学系研究科 准教授)
松原 崇 (大阪大学 大学院基礎工学研究科 准教授)
2024年度 人工知能学会全国大会 (第38回)
https://www.ai-gakkai.or.jp/jsai2024/
JSTさきがけ [信頼されるAI] 信頼されるAIの基盤技術 https://www.jst.go.jp/kisoken/presto/research_area/ongoing/bunya2020-5.html
第75回 メタサイエンスとは何か ～「営みとしての科学」を理解し、よりよく変えていく研究・実践の胎動～
https://www.jst.go.jp/crds/column/kaisetsu/column75.html
本サイトのヘッダーはDALL·E 3を用いて作成した画像で特に深い意図はありません。