Bayesi információs kritérium (BIC) / Schwarz-kritérium

Bayesi statisztika >

A Bayesi információs kritérium (BIC) a Bayesi statisztikában használt mutató, amely két vagy több alternatív modell közötti választásra szolgál.

A BIC-t Schwarz információs kritériumnak (abrv. SIC) vagy Schwarz-Bayesi információs kritériumnak is nevezik. Gideon E. Schwarz 1978-ban publikálta egy tanulmányában, és szoros kapcsolatban áll az Akaike információs kritériummal (AIC), amelyet hivatalosan 1974-ben publikáltak.

A Bayes-féle információs kritérium / Schwarz-kritérium definíciója

A Bayes-féle információs kritérium (BIC) meghatározása:

k log(n)- 2log(L(θ̂)).

Itt n a minta mérete; a megfigyelések vagy az adatpontok száma, amelyekkel dolgozunk. k a paraméterek száma, amelyeket a modellünk becsül, és θ az összes paraméter halmaza.

L(θ̂) a vizsgált modell valószínűségét jelenti az Ön adatai mellett, amikor a θ maximális valószínűségi értékeinél értékelik. Ezt nevezhetjük a modell valószínűségének, ha mindent a legkedvezőbbjükhöz igazítunk.

Az L(θ̂) értelmezésének egy másik módja az, hogy ez a valószínűsége annak, hogy megkapjuk azokat az adatokat, amelyekkel rendelkezünk, feltételezve, hogy a tesztelt modell adott.

Modellek összehasonlítása

A modellek összehasonlítása a Bayes-i információs kritériummal egyszerűen az egyes modellek BIC-jének kiszámítását jelenti. A legalacsonyabb BIC-vel rendelkező modellt tekintjük a legjobbnak, amit BIC*-nek (vagy SIC*-nek, ha ezt a nevet és rövidítést használjuk) írhatunk.

Kiszámíthatjuk a Δ BIC-et is; egy adott modell és a legalacsonyabb BIC értékkel rendelkező “legjobb” modell közötti különbséget, és ezt érvként használhatjuk a másik modellel szemben. Δ BIC egyszerűen BICmodell – BIC*, ahol a BIC* a legjobb modell.

Ha Δ BIC kisebb, mint 2, akkor azt “alig említésre méltónak” tekintjük, mint érvet akár a legjobb elmélet mellett, akár az alternatív elmélet ellen. Az előny, amit a legjobb modellünknek ad, túl kicsi ahhoz, hogy jelentős legyen. Ha azonban Δ BIC 2 és 6 között van, akkor azt mondhatjuk, hogy a másik modell elleni bizonyíték pozitív; azaz jó érvünk van a “legjobb modellünk” mellett. Ha 6 és 10 között van, akkor a bizonyíték a legjobb modell mellett és a gyengébb modell ellen erős. A tíznél nagyobb Δ BIC azt jelenti, hogy a legjobb modellünk mellett szóló bizonyíték a másik modellel szemben valóban nagyon erős.

Példa

Tegyük fel, hogy van egy 50 megfigyelési pontot tartalmazó adatsorunk, és az 1. modell 3 paramétert becsül. A 2. modell 4 paramétert becsül. Tegyük fel, hogy a maximális valószínűséged logaritmusa az 1. modell esetében a; a 2. modell esetében pedig 2a. A k log(n)- 2log(L(θ)) képletet használva:

A SIC kiszámítása ezen az adaton a következőket adja:

• 1. modell: 3log(50) – 2a = 5,1 – 2a
• 2. modell: 4log(50) – 4a = 6,8 – 4a

Az ΔBIC tehát 1,7 – 2a.

Mivel a Bayes-i információs kritérium által az 1. modellre adott bizonyíték csak akkor lesz “említésre méltó”, ha 1,7 – 2a > 2, csak akkor állíthatunk meggyőző eredményeket, ha -2a > 0,3; azaz a < -0,15.

Claeskins, G. & Hkort, N. (2008). Model Selection and Model Averaging (Cambridge Series in Statistical and Probabilistic Mathematics) 1. kiadás. Cambridge University Press.
Fabozzi, Focardi, Rachev & Arshanapalli. A pénzügyi ökonometria alapjai: Eszközök, fogalmak és vagyonkezelési alkalmazások. E. függelék: Modellválasztási kritérium: AIC és BIC. Retrieved from http://onlinelibrary.wiley.com/store/10.1002/9781118856406.app5/asset/app5.pdf;jsessionid=A6726BA5AE1AD2A5AF007FFF78528249.f03t01?v=1&t=je8jr983&s=09eca6efc0573a238457d475d3ac909ec816a699 on March 1, 2018
Wasserman, Larry. STAT 705 Előadás jegyzetek: Model Selection
Retrieved from http://www.stat.cmu.edu/~larry/=stat705/Lecture16.pdf on March 1, 2018

——————————————————————————

Segítségre van szüksége egy házi feladathoz vagy tesztkérdéshez? A Chegg Study segítségével lépésről lépésre megoldásokat kaphat kérdéseire a terület szakértőjétől. Az első 30 perc egy Chegg oktatóval ingyenes!