In memory of Dr. Kazuhei Kikuchi


統計物理と統計科学のセミナー

       @統計数理研究所


世話人 伊庭幸人 坂田綾香 (統数研)

共催   統計数理研究所 統計的機械学習研究センター 

統計物理,統計科学,特にその境界にあるテーマについて,いろいろな方を招いてオンラインのセミナーを配信します  

2020年11月より続けてまいりました当セミナーですが,2023年度末にて,定期的な配信は終了することとします.今後もイベント的な配信を行う可能性がありますが.その際はご登録いただいたメールアドレスに通知いたします. 案内メールの停止を希望される場合は、フォームのコメント欄に「案内停止」と記入してご登録ください.皆様のこれまでのご支援・ご参加に感謝いたします.


本セミナーは菊地和平氏と3人で開始しました.菊地氏の思わぬ早逝により,現在では伊庭と坂田の2名での運営となっておりますが,その思い出はタイトルページに"In memory of Dr. Kazuhei Kikuchi"と記されております.連続セミナー終了にあたり,菊地氏を追悼し,その貢献を想起したいと思います.

開催日:火曜日(不定期,ときどき月曜日)

開催時刻:17時から1時間程度(+質疑)

言語:ふつう日本語,ときどき英語 

これからのセミナー

(表示されない場合は,アブストラクト依頼中です)

2024年 3月26日 ()

伊庭幸人 氏(統計数理研究所

線形応答と統計的推測 - ベイズと頻度論を結ぶ2つの視点から

ベイズ統計と頻度論の関係については,以下の2つの異なった視点がある.

1.統計量の事後分布と頻度論的分布が一定の条件下で似ている

2.事後分布の中に推定量の頻度論的評価に必要な情報が含まれている

「モデルが母集団を表現でき,事後分布の正規近似がよいとき,確信区間と信頼区間が近似的に一致する」というのは1の例である.これに対し「情報量規準WAICの補正項が事後分散で表現される」のは2の例である.

 興味深いことに,1と2のどちらにおいても,統計物理でいう線形応答公式(揺動散逸定理)が重要な役割を果たす.線形応答といっても,時間を含まない古典系の〈揺らぎと相関の関係〉のレベルであるが,そういう解釈ができるのは興味深い.ただし,1と2において,線形応答公式のあらわれ方は全く異なる.

 1においてあらわれるのは「頻度論的分布(母集団からの繰り返し抽出で生じる分布)」に対する線形応答である.具体的にはFisher情報行列のIとJが等しいことが線形応答公式に相当する [1].このことは古くから指摘されてきたと思われるが,これが正則モデルの場合の事後分布と頻度論的分布の漸近的一致のカギとなることはもっと認識されてよい.

 2において重要なのは「事後分布」に対する線形応答,特に個々の観測値につけた重みに関するものである.これは統計学ではlocal case sensitivity公式 [2,3]として知られているが,統計物理の目からすると線形応答そのものである.これを利用することで,ベイズ期待値や予測分布に関するさまざまな頻度論的な推論をMCMCの繰り返しなしで実装することができる [4,5].WAICの補正項はその1例である.

 現在,講演者が主に興味を持っているのは2だが,これについては今後も話す機会があると思うので [6],今回は,ベイズ統計と頻度論のつながりについての話から,1を中心にして話し,2については時間の許す範囲で触れることとしたい.

 おまけとして「一般に成り立つことでも指数型分布限定で式を書き下してみると,直観的によくわかる」ということも示したい.

[1] 学生時代の講義で聞いた等の話を耳にする.岩波データサイエンスVol.2をお持ちの方はp.128-129のコラムにコンパクトな説明を書いたので参照されたい.

[2] Perez, C., Martin, J., and Rufo, M. (2006). MCMC-based local parametric sensitivity estimations. Computational, Statistics & Data Analysis, 51:823-835.

[3] Millar, R. and Stewart, W. (2007). Assessment of locally influential observations in Bayesian models. Bayesian Analysis, 2:365-384.

[4] Giordano, R. and Broderick, T. (2023). The Bayesian infinitesimal jackknife for variance. arXiv:2305.06466.

[5] Iba, Y. (2023). W-kernel and essential subspace for frequencist's evaluation of Bayesian estimators. arXiv:2311.13017.

[6] 最近やったオンライン講演のアブストラクトはこちら(既に終了)https://www-mmds.sigmath.es.osaka-u.ac.jp/structure/activity/ai_data.php?id=65

これまでのセミナーについてはこちら:過去のセミナー 

セミナーを聞きたい方は以下のフォームから登録してください