Criterio de Información Bayesiano (BIC) / Criterio de Schwarz

Estadística Bayesiana >

El Criterio de Información Bayesiano (BIC) es un índice utilizado en la estadística Bayesiana para elegir entre dos o más modelos alternativos.

El BIC también se conoce como criterio de información de Schwarz (abrv. SIC) o criterio de información de Schwarz-Bayes. Fue publicado en un artículo de 1978 por Gideon E. Schwarz, y está estrechamente relacionado con el criterio de información de Akaike (AIC) que se publicó formalmente en 1974.

Definición del criterio de información bayesiano / criterio de Schwarz

El criterio de información bayesiano (BIC) se define como

k log(n)- 2log(L(θ̂)).

Aquí n es el tamaño de la muestra; el número de observaciones o el número de puntos de datos con los que está trabajando. k es el número de parámetros que estima su modelo, y θ es el conjunto de todos los parámetros.

L(θ̂) representa la probabilidad del modelo probado, dados sus datos, cuando se evalúa en los valores de máxima probabilidad de θ. Se podría llamar a esto la probabilidad del modelo dado todo alineado a su más favorable.

Otra forma de entender L(θ̂) es que es la probabilidad de obtener los datos que se tienen, suponiendo que el modelo que se prueba fuera un hecho.

Comparación de modelos

La comparación de modelos con el criterio de información bayesiano consiste simplemente en calcular el BIC de cada modelo. El modelo con el BIC más bajo se considera el mejor, y se puede escribir BIC* (o SIC* si se utiliza ese nombre y abreviatura).

También podemos calcular el Δ BIC; la diferencia entre un modelo concreto y el «mejor» modelo con el BIC más bajo, y utilizarlo como argumento contra el otro modelo. Δ BIC es simplemente BICmodel – BIC*, donde BIC* es el mejor modelo.

Si Δ BIC es inferior a 2, se considera «apenas digno de mención» como argumento a favor de la mejor teoría o en contra de la alternativa. La ventaja que da a nuestro mejor modelo es demasiado pequeña para ser significativa. Pero si el Δ BIC está entre 2 y 6, se puede decir que la evidencia contra el otro modelo es positiva; es decir, tenemos un buen argumento a favor de nuestro ‘mejor modelo’. Si está entre 6 y 10, la evidencia a favor del mejor modelo y en contra del modelo más débil es fuerte. Un Δ BIC de más de diez significa que la evidencia a favor de nuestro mejor modelo frente al alternativo es muy fuerte.

Ejemplo

Suponga que tiene un conjunto de datos con 50 puntos de observación, y el Modelo 1 estima 3 parámetros. El modelo 2 estima 4 parámetros. Digamos que el logaritmo de su máxima verosimilitud para el modelo 1 es a; y para el modelo 2 es 2a. Utilizando la fórmula k log(n)- 2log(L(θ)):

Calculando el SIC en estos datos nos da:

• Modelo 1: 3log(50) – 2a = 5,1 – 2a
• Modelo 2: 4log(50) – 4a = 6,8 – 4a

Así que el ΔBIC es 1,7 – 2a.

Como la evidencia que nos da el Criterio de Información Bayesiano para el modelo 1 sólo será «digna de mención» si 1,7 – 2a > 2, sólo podemos afirmar resultados concluyentes si -2a > 0,3; es decir, a < -0,15.

Claeskins, G. & Hkort, N. (2008). Model Selection and Model Averaging (Cambridge Series in Statistical and Probabilistic Mathematics) 1st Edition. Cambridge University Press.
Fabozzi, Focardi, Rachev & Arshanapalli. The Basics of Financial Econometrics: Tools, Concepts, and Asset Management Applications. Apéndice E: Criterio de selección de modelos: AIC y BIC. Recuperado de http://onlinelibrary.wiley.com/store/10.1002/9781118856406.app5/asset/app5.pdf;jsessionid=A6726BA5AE1AD2A5AF007FFF78528249.f03t01?v=1&t=je8jr983&s=09eca6efc0573a238457d475d3ac909ec816a699 el 1 de marzo de 2018
Wasserman, Larry. STAT 705 Lecture Notes: Model Selection
Retrieved from http://www.stat.cmu.edu/~larry/=stat705/Lecture16.pdf on March 1, 2018

——————————————————————————

¿Necesitas ayuda con una tarea o pregunta de examen? Con Chegg Study, puedes obtener soluciones paso a paso a tus preguntas de un experto en la materia. ¡Tus primeros 30 minutos con un tutor de Chegg son gratis!