O que deve ser um anterior não informativo para a inclinação ao fazer regressão linear?

10

Ao realizar a regressão linear bayesiana, é preciso atribuir uma prévia para a pista de e interceptar b . Como b é um parâmetro de localização, faz sentido atribuir um uniforme anterior; no entanto, parece-me que a é semelhante a um parâmetro de escala e não parece natural atribuir um uniforme antes dele.abba

Por outro lado, não parece correto atribuir o habitual não informativo Jeffrey anterior ( ) para uma inclinação de uma regressão linear. Por um lado, pode ser negativo. Mas não vejo o que mais poderia ser.1/a

Então, qual é o anterior não informativo "adequado" para a inclinação de uma regressão linear bayesiana? (Todas as referências serão apreciadas.)

lindelof
fonte
A inclinação não é realmente como um parâmetro de escala - por exemplo, pode ser negativo. Não existe uma informação não apropriada "informativa" ("baixa informação" pode ser um termo melhor) anterior. Existem algumas opções comuns, que podem atender pessoas diferentes ou situações diferentes.
Glen_b -Reinstala Monica

Respostas:

10

De Bayesian Data Analysis, 3a ed., P. 355:

A distribuição prévia não informativa padrão

(β,logσ)

p(β,σ2|X)σ-2

X

Sean Easter
fonte
9

Os bayesianos normalmente escolhem anteriores que facilitam sua vida matematicamente desafiadora. Isso significa priores gaussianos, a menos que o modelo o proíba absolutamente. Lembre-se de que você precisa de uma bivariada antes da sua situação, pois é necessário modelar a correlação entre a inclinação e a localização, bem como seus comportamentos marginais. O normal multivariado é o seu bilhete.

Um Gaussiano anterior aos parâmetros se encaixa perfeitamente no erro de medição Gaussiano (sem dúvida) que seu modelo de regressão já possui.

A propósito, não associo inclinações a parâmetros de escala, pois as inclinações podem ser negativas e os parâmetros de escala não.

Agora, a distribuição gaussiana não é um prévio não informativo, mas se você realmente não tem informações anteriores, talvez deva se tornar freqüentador. Ou use um gaussiano com uma variação muito grande.

Não conheço uma referência moderna à inferência bayesiana. Correndo o risco de usar uma bazuca para atirar em um coelho, você pode procurar Rasmussen e Williams, que está disponível online . A primeira seção do capítulo 2 passa pela regressão bayesiana com mais detalhes.

Placidia
fonte