Interpretação dos números AIC e BIC

23

Estou procurando exemplos de como interpretar as estimativas AIC (critério de informação de Akaike) e BIC (critério de informação bayesiano).

As diferenças negativas entre os BICs podem ser interpretadas como as chances posteriores de um modelo em relação ao outro? Como posso colocar isso em palavras? Por exemplo, o BIC = -2 pode implicar que as chances do melhor modelo em relação ao outro modelo são aproximadamente ?e2=7.4

Qualquer conselho básico é apreciado por esse neófito.

Juan
fonte
Dê uma olhada no capítulo 2. A Seção 2.6 - que está parcialmente disponível nos livros google - pode ajudá-lo em particular. books.google.se/... (Ref: Selecção do modelo e Multi-Modelo de Inferência por Kenneth P. Burnham e David R. Anderson Springer Verlag.)
Boscovich

Respostas:

6

para o modelo i de umaa prioriconjunto modelo pode ser recaled para Δ i = A I C i - m i n Uma eu C , onde o melhor modelo do conjunto modelo terá Δ = 0 . Podemos usar o Δ i valores para estimar a força de evidência ( w i ) para os todos os modelos no conjunto modelo onde: w i = e ( - 0,5 Δ i )UMAEuCEuΔEu=UMAEuCEu-mEunUMAEuCΔ=0 0ΔEuWEu Isso costuma ser chamado de "peso da evidência" para o modeloi,dado oconjunto de modelos apriori. ComoΔiaumenta,widiminui modelo sugerindoié menos plausível. Esteswivalores pode ser interpretado como a probabilidade de que modeloié o melhor modelo dada apriorimodelo set. Também poderíamos calcular a probabilidade relativa do modeloiversus o modelojcomo

WEu=e(-0,5ΔEu)r=1Re(-0,5ΔEu).
EuΔEuWEuEuWEuEuEuj . Por exemplo, se w i = 0,8 e w j = 0,1 , poderíamos dizer que o modelo i é 8 vezes mais provável que o modelo j .WEu/WjWEu=0,8Wj=0,1Euj

Observe que quando o modelo 1 é o melhor modelo (menor A I C ). Burnham e Anderson (2002) chamam isso de razão de evidência. Esta tabela mostra como a taxa de evidência muda em relação ao melhor modelo.W1/W2=e0,5Δ2UMAEuC

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Referência

Burnham, KP e DR Anderson. 2002. Seleção de modelos e inferência multimodal: uma abordagem teórica da informação prática. Segunda edição. Springer, Nova York, EUA.

Anderson, DR 2008. Inferência baseada em modelo nas ciências da vida: uma cartilha sobre evidências. Springer, Nova York, EUA.

RioRaider
fonte
você se importaria de esclarecer a que se refere, principalmente porque o índice da soma não aparece dentro da soma. Does R abrangem o espaço do modelo? rR
Dopexxx # 16/18
Existem modelos R no conjunto de modelos.
RioRaider 17/10/19
3

Eu não acho que exista uma interpretação simples da AIC ou da BIC assim. Ambas são quantidades que assumem a probabilidade do log e aplicam uma penalidade a ela pelo número de parâmetros que estão sendo estimados. As penalidades específicas são explicadas para a AIC por Akaike em seus trabalhos a partir de 1974. A BIC foi selecionada por Gideon Schwarz em seu trabalho de 1978 e é motivada por um argumento bayesiano.

Michael R. Chernick
fonte
2
A penalidade pode ser interpretada como modelos favoráveis ​​anteriores de um tamanho específico. Se você adotar o anterior (que tem algumas justificativas teóricas da informação), poderá calcular uma razão de chances posterior diretamente dos valores de IC. Além disso, o @RioRaider menciona os pesos Akaike, que oferecem a probabilidade de um determinado modelo ser o melhor modelo do conjunto em termos de divergência de KL. ( ref. veja p. 800).
David J. Harris
1

Você provavelmente usa o BIC como resultado da aproximação ao fator Bayes. Portanto, você não considera (mais ou menos) uma distribuição anterior. O BIC em um estágio de seleção de modelo é útil quando você compara os modelos. Para entender completamente o fator BIC, Bayes, recomendo a leitura de um artigo (seção 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf para complementar o conhecimento com: http: // www .stat.washington.edu / raftery / Pesquisa / PDF / kass1995.pdf

Robert
fonte