Bayesian Information Criterion (BIC) / Schwarz Criterion

Bayesian Statistics >

The Bayesian Information Criterion (BIC) é um índice usado nas estatísticas Bayesianas para escolher entre dois ou mais modelos alternativos.

O BIC também é conhecido como o critério de informação Schwarz (abreviado SIC) ou o critério de informação Schwarz-Bayesian. Foi publicado em 1978 por Gideon E. Schwarz, e está estreitamente relacionado com o critério de informação Akaike (AIC) que foi formalmente publicado em 1974.

Definição do Critério de Informação Bayesiano / Critério Schwarz

O Critério de Informação Bayesiano (BIC) é definido como

k log(n)- 2log(L(θ̂)).

Her n é o tamanho da amostra; o número de observações ou o número de pontos de dados com os quais você está trabalhando. k é o número de parâmetros que seu modelo estima, e θ é o conjunto de todos os parâmetros.

L(θ̂) representa a probabilidade do modelo testado, dados os seus dados, quando avaliado nos valores de máxima verosimilhança de θ. Você poderia chamar a isto a probabilidade do modelo dado tudo alinhado aos seus mais favoráveis.

Uma outra forma de entender L(θ̂) é que é a probabilidade de obter os dados que você tem, supondo que o modelo sendo testado foi um dado adquirido.

Comparar modelos

Comparar modelos com o critério de informação Bayesiana simplesmente envolve calcular o BIC para cada modelo. O modelo com o BIC mais baixo é considerado o melhor, e pode ser escrito BIC* (ou SIC* se você usar esse nome e abreviação).

Também podemos calcular o BIC Δ; a diferença entre um determinado modelo e o modelo ‘melhor’ com o BIC mais baixo, e usá-lo como um argumento contra o outro modelo. Δ BIC é apenas BICmodel – BIC*, onde BIC* é o melhor modelo.

Se Δ BIC é inferior a 2, é considerado ‘mal vale a pena mencionar’ como um argumento a favor da melhor teoria ou contra a alternativa. A vantagem que ele dá ao nosso melhor modelo é muito pequena para ser significativa. Mas se Δ BIC está entre 2 e 6, pode-se dizer que a evidência contra o outro modelo é positiva; ou seja, temos um bom argumento a favor do nosso ‘melhor modelo’. Se estiver entre 6 e 10, a evidência a favor do melhor modelo e contra o modelo mais fraco é forte. Um BIC de mais de dez significa que a evidência a favor do nosso melhor modelo versus o alternativo é muito forte.

Exemplo

Suponha que você tenha um conjunto de dados com 50 pontos de observação, e o Modelo 1 estima 3 parâmetros. O Modelo 2 estima 4 parâmetros. Digamos que o log da sua probabilidade máxima para o modelo 1 é a; e para o modelo 2 é 2a. Usando a fórmula k log(n)- 2log(L(θ)):

Calcular SIC sobre esses dados nos dá:

• Modelo 1: 3log(50) – 2a = 5.1 – 2a
• Modelo 2: 4log(50) – 4a = 6.8 – 4a

Então ΔBIC é 1.7 – 2a.

Desde a evidência que o Critério de Informação Bayesiano nos dá para o modelo 1 só será ‘digno de menção’ se 1.7 – 2a > 2, só podemos reivindicar resultados conclusivos se -2a > 0.3; ou seja, um < -0.15.

Claeskins, G. & Hkort, N. (2008). Model Selection and Model Averaging (Cambridge Series in Statistical and Probabilistic Mathematics) 1st Edition. Imprensa da Universidade de Cambridge.
Fabozzi, Focardi, Rachev & Arshanapalli. The Basics of Financial Econometrics (Noções Básicas de Econometria Financeira): Ferramentas, Conceitos, e Aplicações de Gestão de Activos. Anexo E: Critério de Seleção do Modelo: AIC e BIC. Obtido de http://onlinelibrary.wiley.com/store/10.1002/9781118856406.app5/asset/app5.pdf;jsessionid=A6726BA5AE1AD2A5AF007FFF78528249.f03t01?v=1&t=je8jr983&s=09eca6efc0573a238457d475d3ac909ec816a699 em 1 de março de 2018
Wasserman, Larry. STAT 705 Notas de Palestra: Selecção do Modelo
Recuperado de http://www.stat.cmu.edu/~larry/=stat705/Lecture16.pdf em 1 de Março de 2018

——————————————————————————

Need ajuda com um trabalho de casa ou pergunta de teste? Com o Chegg Study, você pode obter soluções passo-a-passo para suas perguntas de um especialista na área. Seus primeiros 30 minutos com um tutor do Chegg são grátis!