Criterio di Informazione Bayesiano (BIC) / Criterio di Schwarz

Statistiche Bayesiane >

Il Criterio di Informazione Bayesiano (BIC) è un indice usato nella statistica Bayesiana per scegliere tra due o più modelli alternativi.

Il BIC è anche conosciuto come il criterio di informazione di Schwarz (abrv. SIC) o il criterio di informazione Schwarz-Bayesiano. È stato pubblicato in un documento del 1978 da Gideon E. Schwarz, ed è strettamente legato al criterio di informazione di Akaike (AIC) che è stato formalmente pubblicato nel 1974.

Definizione del Criterio di Informazione Bayesiano / Criterio di Schwarz

Il Criterio di Informazione Bayesiano (BIC) è definito come

k log(n)- 2log(L(θ̂)).

Qui n è la dimensione del campione; il numero di osservazioni o il numero di punti dati con cui stai lavorando. k è il numero di parametri che il tuo modello stima, e θ è l’insieme di tutti i parametri.

L(θ̂) rappresenta la verosimiglianza del modello testato, dati i vostri dati, quando valutato ai valori di massima verosimiglianza di θ. Si potrebbe chiamare questa la verosimiglianza del modello dato tutto allineato al loro più favorevole.

Un altro modo di intendere L(θ̂) è che è la probabilità di ottenere i dati che avete, supponendo che il modello testato sia un dato.

Confronto dei modelli

Confrontare i modelli con il criterio di informazione bayesiano comporta semplicemente il calcolo del BIC per ogni modello. Il modello con il BIC più basso è considerato il migliore, e può essere scritto BIC* (o SIC* se usate questo nome e abbreviazione).

Possiamo anche calcolare il Δ BIC; la differenza tra un particolare modello e il modello ‘migliore’ con il BIC più basso, e usarlo come argomento contro l’altro modello. Δ BIC è solo BICmodello – BIC*, dove BIC* è il modello migliore.

Se Δ BIC è inferiore a 2, è considerato ‘appena degno di nota’ come argomento sia per la teoria migliore che contro quella alternativa. Il vantaggio che dà al nostro modello migliore è troppo piccolo per essere significativo. Ma se Δ BIC è tra 2 e 6, si può dire che l’evidenza contro l’altro modello è positiva; cioè abbiamo un buon argomento a favore del nostro ‘modello migliore’. Se è compreso tra 6 e 10, l’evidenza a favore del modello migliore e contro il modello più debole è forte. Un Δ BIC maggiore di dieci significa che l’evidenza a favore del nostro modello migliore rispetto a quello alternativo è davvero molto forte.

Esempio

Supponiamo di avere una serie di dati con 50 punti di osservazione e il modello 1 stima 3 parametri. Il modello 2 stima 4 parametri. Diciamo che il log della vostra massima verosimiglianza per il modello 1 è a; e per il modello 2 è 2a. Usando la formula k log(n)- 2log(L(θ)):

Calcolando il SIC su questi dati ci dà:

• Modello 1: 3log(50) – 2a = 5.1 – 2a
• Modello 2: 4log(50) – 4a = 6.8 – 4a

Quindi ΔBIC è 1.7 – 2a.

Siccome le prove che il Criterio di Informazione Bayesiano ci dà per il modello 1 saranno “degne di nota” solo se 1,7 – 2a > 2, possiamo pretendere risultati conclusivi solo se -2a > 0,3; cioè a < -0,15.

Claeskins, G. & Hkort, N. (2008). Model Selection and Model Averaging (Cambridge Series in Statistical and Probabilistic Mathematics) 1st Edition. Cambridge University Press.
Fabozzi, Focardi, Rachev & Arshanapalli. Le basi dell’econometria finanziaria: Tools, Concepts, and Asset Management Applications. Appendice E: Criterio di selezione del modello: AIC e BIC. Recuperato da http://onlinelibrary.wiley.com/store/10.1002/9781118856406.app5/asset/app5.pdf;jsessionid=A6726BA5AE1AD2A5AF007FFF78528249.f03t01?v=1&t=je8jr983&s=09eca6efc0573a238457d475d3ac909ec816a699 il 1 marzo 2018
Wasserman, Larry. STAT 705 Lecture Notes: Model Selection
Retrieved from http://www.stat.cmu.edu/~larry/=stat705/Lecture16.pdf on March 1, 2018

——————————————————————————

Hai bisogno di aiuto per un compito a casa o per un test? Con Chegg Study, puoi ottenere soluzioni passo dopo passo alle tue domande da un esperto del settore. I tuoi primi 30 minuti con un tutor Chegg sono gratuiti!