[S01] AM-2

[S01-06] Computational difficulty of posterior means and ABIC in fully Bayesian inference: a proposal of new Monte-Carlo methods

*Daisuke Sato¹, Yukitoshi Fukahata¹ (1. Disaster Prevention Research Institute, Kyoto University)

ベイズ推定では、観測データとモデルパラメターを理論的に関係付ける観測方程式とモデルパラメターに関する事前情報から、モデルパラメターの事後分布を構成する。フルベイズ推定では、観測方程式と事前分布によるモデルパラメターの拘束を重み付ける超パラメターについても事前分布（超事前分布）を考慮し、モデルパラメターと超パラメターに関する同時事後分布を構成する。同時事後分布はモデルパラメターと超パラメターの全統計的情報を記述するフルベイズ推定の形式解だが、ここからモデルパラメターの有用な情報を引き出す縮約の操作は必ずしも容易ではない。Sato, Fukahata, & Nozue (2022)は、同時事後分布から単純に計算した場合、モデルパラメターの標本平均が事後母平均へ収束するのにモデルパラメター数の指数関数時間が必要になることを結論づけた。赤池のベイズ情報量規準(ABIC; Akaike, 1980)として知られる同時事後分布をモデルパラメターについて積分(周辺化)する方法が有効な縮約であることが同時に示されたが、非線形問題では通常ABICを解析的に計算できないという問題は残る。同時事後分布のモデルパラメターに関する周辺化を数値的に実行することも、モデルパラメター数の指数関数時間を要するために実行は一般に現実的でない。

本研究では、非線形問題でABICおよび事後母平均を高速に計算するための新たなモンテカルロ法を提案し、その性能を検討する。新手法では、(i)モデルパラメターの条件付事後分布と(ii)超パラメターの周辺事後分布へと同時事後分布を形式的に分解する。超パラメターの周辺事後分布の解析形(閉形式)が既知である場合、(ii)は従来のABICの計算と同一であり、上記手法は入れ子構造をなしたMulti-Stage Monte-Carlo法として数値計算できる。さらに、超パラメターの周辺事後分布の閉形式が未知であるより一般の場合には、熱力学的積分法(Kirkwood, 1935)と呼ばれる、統計力学における自由エネルギーの高速計算法を応用する。熱力学的積分法は、未規格化確率(ボルツマン因子)の積分の対数(自由エネルギー)の超パラメター微分が高速計算可能なボルツマン因子の対数(エネルギー; 損失関数)の平均になることを利用した、一種のlikelihood free推定である。超パラメターの周辺事後分布は、データ分布・モデルパラメターの事前分布・同条件付事後分布に対する3つの自由エネルギーの線型結合になっており、各項の超パラメターに関する微係数を熱力学的積分法で高速に、つまり非指数関数時間で計算できる。これにより、超パラメター値の微小変化に対するABICの変化量(ベイズ因子)が得られ、前述のMulti-Stage Monte-Carlo法が非指数関数(多項式)時間解法として機能する。

発表では、上記手法を概略した上で、その性能を従来標準的に用いられてきたフルベイズモンテカルロ法の結果と比較する。これまでに、Sato, Fukahata, & Nozue (2022)と同様の線形逆問題で、モデルパラメターの事後平均の計算において新手法の方がより高速であることを確認している。さらに、新手法の応用として、同時事後分布が非ガウス分布になる、非負の拘束下 (ABICの閉形式が得られるためベンチマークとして利用できる)やスパース条件下での滑りインバージョンを取り上げる予定である。