Diferença entre Priores não informativos e impróprios

10

Gostaria de saber qual é a diferença entre esses dois tipos de anteriores:

  • Não informativo
  • Impróprio
Bram
fonte
4
Pode ser útil se você puder fornecer algum contexto aqui. O que você já entende sobre isso? Existe um ponto particular de confusão?
gung - Restabelece Monica
@ Tim obrigado. Eu estava procurando não informativo em vez de pouco informativo .
Bram

Respostas:

17

Antecedentes impróprios são -finite medidas não-negativos de d π no espaço de parâmetros Θ tal que Θ d π ( θ ) = + Como tal eles generalizar a noção de uma distribuição antes, que é uma distribuição de probabilidade no espaço de parâmetros Θ de tal modo que q d π ( θ ) = 1 Eles são úteis de várias maneiras de caracterizarσdπΘ

Θdπ(θ)=+
Θ
Θdπ(θ)=1 1
  1. o conjunto de limites de procedimentos bayesianos adequados, que não são todos os procedimentos bayesianos adequados;
  2. procedimentos ótimos freqüentistas como em (admissibilidade) completam teoremas de classe como os de Wald;
  3. melhores avaliadores invariantes freqüentes (uma vez que podem ser expressos como estimativas de Bayes sob a correspondente medida de Haar correta, geralmente imprópria);
  4. Priores derivados da forma da função de probabilidade, como Priores não informativos (por exemplo, Jeffreys).

Como eles não se integram a um número finito, eles não permitem uma interpretação probabilística, mas, no entanto, podem ser usados ​​em inferência estatística se a probabilidade marginal for finita desde que o distribuição posterior ( θ | x ) d π ( θ )

Θ(θ|x)dπ(θ)<+
é então bem definido. Isso significa que pode ser usado exatamente da mesma maneira que uma distribuição posterior derivada de um anterior adequado é usada, para derivar quantidades posteriores para estimativa como médias posteriores ou intervalos posteriores credíveis.
(θ|x)dπ(θ)Θ(θ|x)dπ(θ)

Aviso: Um ramo da inferência bayesiana não lida muito bem com anteriores impróprios, ou seja, ao testar hipóteses nítidas. De fato, essas hipóteses requerem a construção de duas distribuições anteriores, uma sob a nula e outra sob a alternativa, ortogonais. Se um desses antecedentes for impróprio, ele não poderá ser normalizado e o fator Bayes resultante será indeterminado.

δeu(d,θ)dπ

argmindΘeu(d,θ)(θ|x)dπ(θ)
eu(d,θ)dπ(θ)ϖ(θ)ϖ(θ)
eu(d,θ)dπ(θ)=eu(d,θ)ϖ(θ)×ϖ(θ)dπ(θ)

Priores não informativos são classes de distribuições anteriores (apropriadas ou impróprias) que são determinadas em termos de um determinado critério informacional relacionado à função de probabilidade, como

  1. A razão insuficiente de Laplace é plana antes;
  2. Jeffreys (1939) anteriores invariantes;
  3. entropia máxima (ou MaxEnt) anteriores (Jaynes, 1957);
  4. descrição mínima do comprimento da descrição (Rissanen, 1987; Grünwald, 2005);
  5. priores de referência (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
  6. anteriores de correspondência de probabilidades (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

e outras classes, algumas das quais são descritas em Kass & Wasserman (1995). O nome não informativo é um nome impróprio, pois nenhum anterior é completamente não informativo. Veja minha discussão neste fórum. Ou a diatribe de Larry Wasserman . (Priores não informativos costumam ser impróprios.)

Xi'an
fonte
9

95%95%

Um prior não informativo geralmente é "impróprio". Uma distribuição tem uma propriedade conhecida: sua integral é igual a uma. Um prior não informativo é considerado impróprio quando sua integral é infinita (portanto, nesse caso, fica claro que não é uma distribuição).

Stéphane Laurent
fonte
3
Considero essa definição de "não informativo" antes de ser super-restritiva!
Xian
@ Xi'an Tendo em vista a escassez do OP, acho que essa resposta curta é bastante apropriada.
Stéphane Laurent
@ Xi'an É uma citação de Bernardo (mais ou menos). Eu concordo ^^
Stéphane Laurent
11
@ Xi'an Ainda não estou em casa, mas por exemplo, aqui as referências posteriores são obtidas pelo uso formal do teorema de Bayes com uma função anterior de referência . Benardo diz que a função anterior de referência , não a distribuição.
Stéphane Laurent
2
Mais a sério @ Xi'an, você quer dizer que é restritivo aos anteriores não informativos de Bernardes? Isso mesmo, e alguns outros talvez. Eu sei que você tem mais conhecimento do que eu neste tópico. Mas sou orientado por Bernardo (e anteriores correspondentes).
Stéphane Laurent