Como o beta anterior afeta o posterior sob uma probabilidade binomial

8

Eu tenho duas perguntas,

Pergunta 1: Como posso mostrar que a distribuição posterior é uma distribuição beta se a probabilidade é binomial e a anterior é beta

Pergunta 2: Como as escolhas dos parâmetros anteriores afetam a posterior? Eles não deveriam ser todos iguais?

É possível responder a essas perguntas em R?

George Kramer
fonte
Você pode usar firstbayes com facilidade para fazer comparações sem precisar escrever códigos, como em R. Get firstbayes. Isso pode ajudar, pois a instalação pode ser complicada .. youtube.com/watch?v=BcdigiWY054

Respostas:

18

Para responder sua primeira pergunta, precisamos apenas usar o Teorema de Bayes para atualizar nossa probabilidade binomial com a versão beta anterior. Para entender melhor como fazer isso, primeiro observe o seguinte resultado onde podemos usar o resultado da proporcionalidade desde a distribuição beta é o conjugado anterior para a probabilidade binomial.

p(θ|x)=p(x|θ)p(θ)Θp(x|θ)p(θ)dθp(x|θ)p(θ)

Agora, deixe e . Agora podemos usar o Teorema de Bayes para calcular o posterior da seguinte forma:θ Beta ( α , β )xiBinomial(Ni,θ)θBeta(α,β)

s= n i = 1 xiN= n i = 1 Ni

p(θ|x)p(x|θ)p(θ)(Nxi)θs(1θ)NsΓ(α+β)Γ(α)Γ(β)θα1(1θ)β1θs(1θ)Nsθα1(1θ)β1θα+s1(1θ)β+Ns1
onde es=i=1nxiN=i=1nNi

Agora, reconhecemos o lado proporcional à direita da equação como o kernel de outra distribuição beta com parâmetros atualizados e

α=α+i=1nxi
β=β+i=1nNii=1nxi

Agora, para a segunda parte do seu problema, considere os seguintes gráficos das partes posteriores, com diferentes distribuições anteriores.

BetaPriors

O gráfico acima é composto por cinco distribuições anteriores diferentes:

Prior 1:θBeta(.5,.5)Prior 1:θBeta(5,1)Prior 1:θBeta(1,3)Prior 1:θBeta(2,2)Prior 1:θBeta(2,5)
insira a descrição da imagem aqui insira a descrição da imagem aqui insira a descrição da imagem aqui insira a descrição da imagem aqui insira a descrição da imagem aqui

Agora, embora a distribuição posterior não pareça ser muito alterada pela escolha do prior nessa situação, esse nem sempre é o caso. Por exemplo, se amostrássemos a partir de uma distribuição binomial (no código) onde veríamos que a distribuição posterior é drasticamente alterada pela escolha da distribuição anterior.N=2

Aqui está o Rcódigo usado para gerar tudo:

colors = c("red","blue","green","orange","purple")

n = 10
N = 10
theta = .2

x = rbinom(n,N,theta)
grid = seq(0,2,.01)


alpha = c(.5,5,1,2,2)
beta = c(.5,1,3,2,5)

plot(grid,grid,type="n",xlim=c(0,1),ylim=c(0,4),xlab="",ylab="Prior Density",
     main="Prior Distributions", las=1)
for(i in 1:length(alpha)){
    prior = dbeta(grid,alpha[i],beta[i])
    lines(grid,prior,col=colors[i],lwd=2)
}

legend("topleft", legend=c("Beta(0.5,0.5)", "Beta(5,1)", "Beta(1,3)", "Beta(2,2)", "Beta(2,5)"),
       lwd=rep(2,5), col=colors, bty="n", ncol=3)

for(i in 1:length(alpha)){
    dev.new()
    plot(grid,grid,,type="n",xlim=c(0,1),ylim=c(0,10),xlab="",ylab="Density",xaxs="i",yaxs="i",
    main="Prior and Posterior Distribution")

    alpha.star = alpha[i] + sum(x)
    beta.star = beta[i] + n*N - sum(x)
    prior = dbeta(grid,alpha[i],beta[i])
    post = dbeta(grid,alpha.star,beta.star)

    lines(grid,post,lwd=2)
    lines(grid,prior,col=colors[i],lwd=2)
    legend("topright",c("Prior","Posterior"),col=c(colors[i],"black"),lwd=2)

}
COOLSerdash
fonte
(+1) Ótima resposta @ user25658.
precisa saber é o seguinte
Esta é uma ótima resposta e seria bom, pois também inclui o gráfico de probabilidade (Dados).
MYaseen208
1
@ user25658 Se a posterior for uma distribuição beta, não deveríamos usá-la em rbetavez de rbinomgerar x, já que teta é uma distração beta?
Kamaldeep Singh 23/10/1918