Bayesovské informační kritérium (BIC) / Schwarzovo kritérium

Bayesovská statistika >

Bayesovské informační kritérium (BIC) je index používaný v bayesovské statistice k výběru mezi dvěma nebo více alternativními modely.

BIC je také znám jako Schwarzovo informační kritérium (abrv. SIC) nebo Schwarzovo-Bayesovo informační kritérium. Bylo zveřejněno v článku Gideona E. Schwarze z roku 1978 a úzce souvisí s Akaikeho informačním kritériem (AIC), které bylo oficiálně zveřejněno v roce 1974.

Definice Bayesova informačního kritéria / Schwarzova kritéria

Bayesovo informační kritérium (BIC) je definováno jako

k log(n)- 2log(L(θ̂)).

Tady n je velikost vzorku; počet pozorování nebo počet datových bodů, se kterými pracujete. k je počet parametrů, které váš model odhaduje, a θ je množina všech parametrů.

L(θ̂) představuje pravděpodobnost testovaného modelu vzhledem k vašim datům, když je vyhodnocena při hodnotách maximální pravděpodobnosti θ. Mohli byste to nazvat pravděpodobností modelu vzhledem ke všemu vyrovnanému na jejich nejpříznivější hodnoty.

Jiný způsob, jak chápat L(θ̂), je, že se jedná o pravděpodobnost získání dat, která máte k dispozici, za předpokladu, že by testovaný model byl daný.

Srovnání modelů

Srovnání modelů pomocí Bayesova informačního kritéria jednoduše spočívá ve výpočtu BIC pro každý model. Model s nejnižším BIC je považován za nejlepší a lze jej zapsat BIC* (nebo SIC*, pokud používáte tento název a zkratku).

Můžeme také vypočítat Δ BIC; rozdíl mezi konkrétním modelem a „nejlepším“ modelem s nejnižším BIC a použít jej jako argument proti jinému modelu. Δ BIC je právě BICmodelu – BIC*, kde BIC* je nejlepší model.

Je-li Δ BIC menší než 2, je považován za „sotva hodný zmínky“ jako argument buď pro nejlepší teorii, nebo proti alternativní. Výhoda, kterou dává našemu nejlepšímu modelu, je příliš malá na to, aby byla významná. Je-li však Δ BIC mezi 2 a 6, lze říci, že důkaz proti druhému modelu je pozitivní; tj. máme dobrý argument ve prospěch našeho „nejlepšího modelu“. Pokud je mezi 6 a 10, je důkaz ve prospěch nejlepšího modelu a proti slabšímu modelu silný. Δ BIC větší než deset znamená, že důkazy ve prospěch našeho nejlepšího modelu proti alternativnímu jsou skutečně velmi silné.

Příklad

Předpokládejme, že máme soubor dat s 50 body pozorování a model 1 odhaduje 3 parametry. Model 2 odhaduje 4 parametry. Řekněme, že logaritmus vaší maximální věrohodnosti pro model 1 je a; a pro model 2 je 2a. Pomocí vzorce k log(n)- 2log(L(θ)):

Výpočet SIC na těchto datech nám dává:

• Model 1: 3log(50) – 2a = 5,1 – 2a
• Model 2: 4log(50) – 4a = 6,8 – 4a

Takže ΔBIC je 1,7 – 2a.

Protože důkaz, který nám Bayesovské informační kritérium poskytne pro model 1, bude „stát za zmínku“ pouze tehdy, pokud 1,7 – 2a > 2, můžeme tvrdit, že přesvědčivé výsledky dostaneme pouze tehdy, pokud -2a > 0,3; to znamená a < -0,15.

Claeskins, G. & Hkort, N. (2008). Model Selection and Model Averaging (Cambridge Series in Statistical and Probabilistic Mathematics). 1. vydání. Cambridge University Press.
Fabozzi, Focardi, Rachev & Arshanapalli. Základy finanční ekonometrie: Tools, Concepts, and Asset Management Applications. Příloha E: Kritérium výběru modelu: AIC a BIC. Převzato z http://onlinelibrary.wiley.com/store/10.1002/9781118856406.app5/asset/app5.pdf;jsessionid=A6726BA5AE1AD2A5AF007FFF78528249.f03t01?v=1&t=je8jr983&s=09eca6efc0573a238457d475d3ac909ec816a699 dne 1. března 2018
Wasserman, Larry. Poznámky k přednášce STAT 705: Získáno z http://www.stat.cmu.edu/~larry/=stat705/Lecture16.pdf dne 1. března 2018

——————————————————————————

Potřebujete pomoci s domácím úkolem nebo testovou otázkou? S Chegg Study můžete získat řešení svých otázek krok za krokem od odborníka v oboru. Prvních 30 minut s lektorem Chegg je zdarma!