Jeffreys Prior para distribuição normal com média e variância desconhecidas

Estou lendo sobre distribuições anteriores e calculei Jeffreys antes para uma amostra de variáveis aleatórias normalmente distribuídas com média e variação desconhecidas. De acordo com meus cálculos, o seguinte é válido para Jeffreys anterior: Aqui, sou a matriz de informações de Fisher.

p (μ, σ^{2}) = \sqrt{d e t (I)} = \sqrt{d e t (\begin{matrix} 1 / σ^{2} & 0 \\ 0 & 1 / (2 σ^{4}) \end{matrix})} = \sqrt{\frac{1}{2 σ^{6}}} \propto \frac{1}{σ^{3}} .

$p(\mu,\sigma^2)=\sqrt{det(I)}=\sqrt{det\begin{pmatrix}1/\sigma^2 & 0 \\ 0 & 1/(2\sigma^4)\end{pmatrix}}=\sqrt{\frac{1}{2\sigma^6}}\propto\frac{1}{\sigma^3}.$

I

$I$

No entanto, também li publicações e documentos que declaram

$p(\mu,\sigma^2)\propto 1/\sigma^2$ veja a Seção 2.2 em Kass e Wassermann (1996) .
$p(\mu,\sigma^2)\propto 1/\sigma^4$ veja a página 25 em Yang e Berger (1998)

como Jeffreys antes, para o caso de uma distribuição normal com média e variância desconhecidas. Qual é o Jeffreys 'real' antes?

bayesian normal-distribution prior jeffreys-prior Nussig
fonte

Respostas:

Penso que a discrepância é explicada se os autores consideram a densidade sobre ou a densidade sobre . Apoiando essa interpretação, o que exatamente Kass e Wassermann escrevem é enquanto Yang e Berger escrevem $\sigma$ $\sigma^2$

π (μ, σ) = 1 / σ^{2},

$\pi(\mu, \sigma) = 1 / \sigma^2,$

π (μ, σ^{2}) = 1 / σ^{4} .

$\pi(\mu, \sigma^2) = 1 / \sigma^4.$

A. Donda
fonte

Obrigado, eu esqueci isso. No entanto, isso ainda não explica a discrepância entre e .

1 / σ^{3}

$1/\sigma^3$

1 / σ^{4}

$1/\sigma^4$

Nussig

Na verdade, ter um prior de é o mesmo que ter um , devido à propriedade de reparametrização de Jeffreys anterior: com a matriz jacobiana de , ou seja, .

π (μ, σ) = 1 / σ^{2}

$\pi(\mu, \sigma)=1/\sigma^2$

π (μ, σ^{2}) = 1 / σ^{3}

$\pi(\mu, \sigma^2)=1/\sigma^3$

π (μ, σ) = π (μ, σ^{2}) d e t (J_{f}) \propto \frac{1}{σ^{3}} 2 σ \propto \frac{1}{σ^{2}}

$\pi(\mu, \sigma)=\pi(\mu, \sigma^2)det(J_f)\propto \frac{1}{\sigma^3}2\sigma \propto \frac{1}{\sigma^2}$

J_{f}

$J_f$

f : (μ, σ) \to (μ, σ^{2})

$f: (\mu, \sigma)\to (\mu, \sigma^2)$

J_{f} = (\begin{matrix} 1 & 0 0 \\ 0 0 & 2 σ \end{matrix})

$J_f=\begin{pmatrix}1&0\\0&2\sigma\end{pmatrix}$

Nussig

@ Nussig, verifiquei o cálculo e acho que você está chegando ao ponto . Você também está certo de que a reparametrização equivale apenas a um fator . Considerando isso, seu cálculo está de acordo com Kass e Wassermann, e posso apenas supor que Yang e Berger cometeram um erro. Isso também faz sentido, já que o primeiro é um periódico revisado regularmente e o último é um rascunho de um tipo de coleção de fórmulas.

1 / σ^{3}

$1/\sigma^3$

1 / σ

$1/\sigma$

A.Delda

Kass e Wassermann também observam que Jeffreys introduziu uma regra modificada, segundo a qual os parâmetros de localização e escala devem ser tratados separadamente. Isso leva a e, portanto, , mas ainda não a .

π (μ, σ) = 1 / σ

$\pi(\mu, \sigma) = 1 / \sigma$

π (μ, σ^{2}) = 1 / σ^{2}

$\pi(\mu, \sigma^2) = 1 / \sigma^2$

π (μ, σ^{2}) = 1 / σ^{4}

$\pi(\mu, \sigma^2) = 1 / \sigma^4$

A.Delda

Jim Berger ainda é um cientista ativo, de modo a ter certeza de que você pode verificar diretamente com ele: stat.duke.edu/~berger

A. Donda

As respostas existentes já respondem bem à pergunta original. Como físico, gostaria apenas de acrescentar a esta discussão um argumento de dimensionalidade. Se você considerar e para descrever a distribuição de uma variável aleatória em um espaço real 1D e medido em metros, eles têm as dimensões e . Para ter um prior fisicamente correto, você precisa ter as dimensões corretas, ou seja, os únicos poderes fisicamente possíveis de em um prior não paramétrico são: e . $\mu$ $\sigma^2$ $[\mu] \sim m$ $[\sigma^2] \sim m^2$ $\sigma$

π (μ, σ) \sim 1 / σ^{2}

$\pi(\mu, \sigma) \sim 1/\sigma^{2}$

π (μ, σ^{2}) \sim 1 / σ^{3}

$\pi(\mu, \sigma^2) \sim 1/\sigma^{3}$

Dr_Zaszuś
fonte

Por que existe na segunda expressão?

σ^{3}

$\sigma^{3}$

cerebrou

$\frac{1}{\sigma^3}$ é o anterior de Jeffreys. No entanto, na prática, é frequentemente usado porque leva a um posterior relativamente simples, a "intuição" deste prior é que ele corresponde a um flat anterior em . $\frac{1}{\sigma^2}$ $\log(\sigma)$

Jorne Biccler
fonte

\log (σ)

$\log(\sigma)$

χ^{2}

$\chi^2$

(μ, σ^{2}) | D \sim N χ^{- 1} (\bar{X}, n, n, \frac{1}{n} \sum (X_{Eu} - \bar{X})^{2}) .

$(\mu,\sigma^2)|D \sim \mathcal{N}\chi^{-1}\left(\overline{X}, n,n, \frac{1}{n}\sum(X_i-\overline{X})^2\right).$

1 / σ^{2}

$1/\sigma^2$

χ^{2}

$\chi^2$

χ^{2} (\bar{X}, n, n - 1, s^{2})

$\chi^2(\bar{X},n,n-1,s^2)$

σ^{2}

$\sigma^2$

χ^{2}

$\chi^2$