適応的マルコフ連鎖モンテカルロ法

Metropolis-Hastings法をはじめ多くのMCMC法は多数のパラメータを含んでおり，それらの細かい調整が必要である．適応的マルコフ連鎖モンテカルロ法は，MCMC法を実行し目的分布からサンプリングしながらそのパラメータを適切な値に学習させるアルゴリズムである．

(詳細 -> スパースモデリング・チュートリアル 資料 “適応的マルコフ連鎖モンテカルロ法入門” )

適応的補助変数法に関する研究

混合モデルやベイジアン変数選択における事後分布は多峰性のある複雑な分布となる．このような分布からのサンプリングには交換モンテカルロ法（パラレルテンパリング）や指標変数選択法など補助分布を用いたMCMC法（補助変数法）が必要となる．

我々は，交換モンテカルロ法を，サンプリングしながらそのパラメータを適切な値に調整する適応的なアルゴリズム（適応的交換モンテカルロ法）に拡張した．これにより，大きなコストとなっていたアルゴリズムのパラメータ調整が不要となり，サンプリングを大幅に効率化できた．

さらに，適応的交換モンテカルロ法を一般化して，補助変数法のパラメータを適応的に調整する適応的補助変数法を提案し，このアルゴリズムが緩い条件下で収束することを示した．この結果を用いて適応的交換モンテカルロ法の収束を示した．

(Araki & Ikeda, Neural Networks, 2013)

Takamitsu Araki, Kazushi Ikeda, “Adaptive Markov Chain Monte Carlo for Auxiliary Variable Method and Its Application to Parallel Tempering”, Neural Networks, Vol.43, pp.33–40, 2013.より転載