ベイズ情報量規準 (BIC) / シュワルツ規準

Bayesian Statistics >

Bayesian Information Criterion（BIC）はベイズ統計で2以上の代替モデルから選択するために用いられるインデックスである。

BICはシュワルツ情報量規準（abrv. SIC）またはシュワルツ・ベイズ情報量規準としても知られています。 これはGideon E. Schwarzが1978年に発表した論文で、1974年に正式に発表された赤池情報量規準（AIC）と密接な関係がある。

ベイズ情報量規準／シュワルツ規準の定義

ベイズ情報量規準（BIC）は

k log(n)-2log(L(θ̂))として定義されています。

ここでnはサンプルサイズ、つまり扱っている観測値またはデータポイントの数、kはモデルが推定するパラメータの数、θはすべてのパラメータのセットである。

L(θ̂) は、θの最大尤度値で評価したときに、データを与えてテストしたモデルの尤度を表します。 これは、すべてを最も好ましい状態に揃えたときのモデルの尤度と呼ぶことができます。

L(θ̂)のもう一つの捉え方は、テストするモデルが与えられたと仮定して、今あるデータを得る確率です。

モデルの比較

ベイズ情報量規準によるモデルの比較は、単純に各モデルのBICを計算することです。 BICが最も低いモデルが最良とされ、BIC*（またはその名称と略称を使用する場合はSIC*）と書くことができます。

また、ΔBICを計算することもできます。特定のモデルと、最も低いBICを持つ「最良」モデルとの差を計算し、他のモデルに対する反論として使用することができるのです。 ΔBIC は BICmodel – BIC* で、BIC* は最良のモデルです。

ΔBIC が 2 より小さい場合、最良の理論に対する議論、または代替モデルに対する議論のいずれかとして「ほとんど言及する価値がない」ものとみなされます。 最良のモデルに与える優位性は小さすぎて、有意とは言えません。 しかし、もしΔBICが2から6の間であれば、他のモデルに対する証拠は肯定的であると言うことができます；すなわち、我々は我々の「最良のモデル」を支持する良い議論を持っています。 BICが6から10の間であれば、最良のモデルに対する証拠と、弱いモデルに対する証拠が強いと言えます。 3478>

例

50個の観測点を持つデータセットがあり、モデル1は3つのパラメータを推定するとする。 モデル2は4つのパラメータを推定する。 モデル1の最尤度の対数をa、モデル2の最尤度の対数を2aだとする。 k log(n)-2log(L(θ)):

このデータでSICを計算すると:

• Model 1: 3log(50) – 2a = 5.1 – 2a
• モデル2： 4log(50) – 4a = 6.8 – 4a

なのでΔBICは 1.7 – 2aになります。

モデル1についてベイズ情報量規準が与える証拠は、1.7 – 2a > 2の場合にのみ「言及に値する」ので、-2a > 0.3、つまり a < -0.15 の場合にのみ決定的結果を主張できるのである。

Claeskins, G. & Hkort, N. (2008). モデル選択とモデル平均化（Cambridge Series in Statistical and Probabilistic Mathematics）1st Edition. Cambridge University Press.
ファボッツィ、フォカルディ、ラチェフ & アルシャナパリ. 金融計量学の基礎: ツール、コンセプト、アセットマネジメントへの応用. 付録E：モデル選択基準。 AICとBIC. 2018年3月1日http://onlinelibrary.wiley.com/store/10.1002/9781118856406.app5/asset/app5.pdf;jsessionid=A6726BA5AE1AD2A5AF007FFF78528249.f03t01?v=1&t=je8jr983&s=09eca6efc0573a238457d475d3ac909ec816a699より取得
ワッサーマン, ラリー. STAT 705 レクチャーノート Model Selection
Retrieved from http://www.stat.cmu.edu/~larry/=stat705/Lecture16.pdf on March 1, 2018

———————————————————-

Need help with a homework or test question? Chegg Studyでは、その分野の専門家からステップバイステップの解決策を得ることができます。 Cheggのチューターとの最初の30分間は無料です!