Contabilização de parâmetros discretos ou binários no critério de informação bayesiano

9

O BIC penaliza com base no número de parâmetros. E se alguns dos parâmetros forem algum tipo de variável de indicador binário? Eles contam como parâmetros completos? Mas eu posso combinar parâmetros binários em uma variável discreta que recebe valores em . Estes devem ser contados como parâmetros ou um parâmetro?{ 0 , 1 , . . . , 2 m - 1 } mm{0 0,1 1,...,2m-1 1}m

bayesian model-selection bic parameterization alta largura de banda
fonte

Respostas:

3

É em parte por causa dessa imprecisão no "número de parâmetros" no BIC que o DIC (o critério de informação de desvio ) introduziu um número efetivo de parâmetros como onde e Observe que depende dos dados. (Como discutido lá , o DIC também tem problemas próprios!)

pD(x)=E[D(θ)|x]-D(E[θ|x])
D(θ)=-2registro⁡f(x|θ)
DIC(x)=pD(x)+E[D(θ)|x]
pD(x)
Xi'an
fonte
Então, eu estou um pouco confuso. I pensou BIC era uma aproximação de , que pode ser calculada das simulações do MCMC. Por que então calcularíamos o DIC? E[euogP(y|Modeeu)]=registro⁡(∫P(y|θ)Pmodeeu(θ)dθ)
highBandWidth
11
Sim, o BIC é uma aproximação da probabilidade marginal. No entanto, é apenas uma aproximação que converge para a "verdade" quando o tamanho da amostra cresce para o infinito. Portanto, não é diretamente bayesiano (não usa o anterior, por um lado!) E completamente não relacionado ao MCMC (onde a aproximação é do tipo Monte Carlo: se eu aumentar o número de simulações, a aproximação melhora). DIC é considerado mais bayesiano por muitos (inclusive B. Carlin e D. Spiegelhatler)
Xian
Acho que minha pergunta foi: o DIC também é uma aproximação da probabilidade do modelo marginal? Acho que eu deveria ler sobre isso pessoalmente, mas, como estávamos discutindo, pensei que explicar isso tornaria a resposta mais completa. Obrigado!
highBandWidth