A distribuição beta tem um conjugado antes?

34

Eu sei que a distribuição beta é conjugada ao binômio. Mas qual é o conjugado anterior ao beta? Obrigado.

Equilíbrio Brash
fonte

Respostas:

25

Parece que você já desistiu da conjugação. Só para constar, uma coisa que eu vi pessoas fazendo (mas não me lembro exatamente onde, desculpe) é uma reparameterização como essa. Se forem condicionalmente iid, dados , de modo que , lembre-se de e Portanto, você pode reparameterizar a probabilidade em termos de e e usar como X1 1,...,Xnα,βXEuα,βBetuma(α,β)

E[XEuα,β]=αα+β=:μ
Vumar[XEuα,β]=αβ(α+β)2(α+β+1 1)=:σ2.
μσ2
σ2μvocê[0 0,μ(1 1-μ)]μvocê[0 0,1 1].
Agora você está pronto para calcular o posterior e explorá-lo pelo seu método computacional favorito.
zen
fonte
4
Não, não MCMC essa coisa! Quadratura essa coisa! apenas 2 parâmetros - a quadratura é o "padrão ouro" para posteriores dimensionais menores, tanto em termos de tempo quanto de precisão.
probabilityislogic
3
Outra opção é considerar como uma medida de precisão e, novamente, usar μ = αψ=α+β como a média. Isso é feito o tempo todo com os processos Dirichlet, e a distribuição beta é um caso especial. Então, talvez atire uma gama ou log-normal antes emψe uniforme emμ. μ=αα+βψμ
cara
2
Para ter certeza, isso não é conjugado, correto?
cara
3
Definitivamente não!
Zen
Oi @ Zen, estou lidando com esse problema agora, mas sou novo na Bayesian e não tenho certeza se estou entendendo a idéia. Eu descobri que você está propondo encontrar e depois uso reparametrização, mas é claro que não foi a idéia que você pode me ajudar a entender.?0 01 11 1μ(1 1-μdμ
Red Noise
23

Sim, ele tem um conjugado anterior na família exponencial. Considere a família de três parâmetros Para alguns valores de(a,b,p),isso é integrável, embora eu ainda não tenha descoberto qual (acredito quep0ea<0,b<0deve funcionar -p=0corresponde a distribuições exponenciais independentes, portanto que definitivamente funciona, e a atualização conjunta envolve incrementar

π(α,βuma,b,p){Γ(α+β)Γ(α)Γ(β)}pexp(umaα+bβ).
(uma,b,p)p0 0uma<0 0,b<0 0p=0 0 então isso sugere que p > 0 também funciona).pp>0 0

O problema, e pelo menos parte da razão pela qual ninguém o usa, é que ou seja, a constante de normalização não tem uma forma encoberta.

0 00 0{Γ(α+β)Γ(α)Γ(β)}pexp(umaα+bβ)=?
cara
fonte
Ah Isso é problemático. Eu procuraria uma versão não informativa do conjugado antes de qualquer maneira, então parece que eu poderia começar com anteriores uniformes sobre os dois parâmetros. Obrigado.
Equilíbrio Brash
Você não precisa normalizá-lo se estiver apenas comparando verossimilhanças…
Neil G
Eu acho que você pode estar perdendo a ação de no seu termo exp também. Provavelmente deve ser p um α , etc.pexppumaα
Neil G
@ NeilG está na exp , você só precisa expressar as coisas em termos de log Γ ( ) em vez de Γ ( ) . Fazer p a α é apenas uma reparmetrização, nada muda. Não sabe ao certo o que você quer dizer "apenas comparando probabilidades". Você não pode implementar um amostrador de Gibbs com este antes sem usar algo como Metropolis, que mata a vantagem de conjugação condicional, a constante de normalização depende de um e b que mata colocar uma prévia sobre eles ou estimando-las por métodos de probabilidade, etc .. .pexpregistroΓ()Γ()pumaαumab
cara
2
A integral do @NeilG está acima de e β, pois essas são as variáveis ​​aleatórias. αβ
cara
9

Em teoria , deve haver um conjugado antes da distribuição beta. Isto é porque

Contudo, a derivação parece difícil, e para citar Famílias Exponenciais e Priores Conjugados de A Bouchard-Cote

Uma observação importante a ser feita é que essa receita nem sempre produz um conjugado anterior que é computacionalmente tratável.

Consistente com isso, não há prévia para a distribuição Beta no A Compendium of Conjugate Priors de D Fink .

TooTone
fonte
3
A derivação não é difícil - Veja a minha resposta: mathoverflow.net/questions/63496/...
Neil G
3

Não acredito que exista uma distribuição "padrão" (isto é, família exponencial) que seja o conjugado anterior à distribuição beta. No entanto, se existir, teria que ser uma distribuição bivariada.


fonte
Eu não tenho nenhuma idéia sobre esta questão, mas eu encontrei este prático mapa conjugado antes que parece apoiar a sua resposta: johndcook.com/conjugate_prior_diagram.html
Justin Bozonier
O conjugado anterior está na família exponencial e tem três parâmetros - não dois.
Neil G
11
@ Neil, você está definitivamente certo. Acho que deveria ter dito que teria que ter pelo menos dois parâmetros.
-1: esta resposta é claramente errado na afirmação de que "conjugado antes não existe na família exponencial", como é demonstrado na resposta acima ...
Jan KUKACKA
3

Robert e Casella (RC) descrevem a família de conjugados anteriores da distribuição beta no Exemplo 3.6 (p. 71 - 75) de seu livro Introducing Monte Carlo Methods in R , Springer, 2010. No entanto, eles citam o resultado sem citar uma fonte.

Adicionado em resposta à solicitação de detalhes do gung. RC declara que, para a distribuição , o conjugado anterior é "... da formaB(α,β)

π(α,β){Γ(α+β)Γ(α)Γ(β)}λx0 0αy0 0β

onde são hiperparâmetros, uma vez que o posterior é igual a{λ,x0 0,y0 0}

π(α,β|x){Γ(α+β)Γ(α)Γ(β)}λ(xx0 0)α((1 1-x)y0 0)β."

O restante do exemplo diz respeito à amostragem de importância de para calcular a probabilidade marginal de x .π(α,β|x)x

user37239
fonte
2
Eu não tenho o livro de Robert disponível, mas o posterior é . Robert também postou neste tópico aquimathoverflow.net/questions/20399/…π(α,β)(Γ(α+β)Γ(α)Γ(β))λ+1 1(xx0 0)α-1 1(y0 0(1 1-x))β-1 1
Fred Schoen
11
Recomendo humildemente que o pôster original atualize o post para indicar que o posterior fornecido no livro está incorreto, de acordo com o comentário de Fred Schoen (que é facilmente verificado).
RMurphy