Priores não informativos bayesianos versus hipóteses nulas freqüentistas: qual é a relação?

11

Me deparei com esta imagem em um post aqui .

Alguém em um mosh pit experimentando um EUREKA!  momento

Fiquei desapontado que a leitura da declaração não provocou a mesma expressão facial para mim como para esse cara.

Então, o que se quer dizer com a afirmação de que a hipótese nula é como os freqüentadores expressam um prior não informativo? É mesmo verdade?


Edit: Espero que alguém possa oferecer uma interpretação de caridade que torne a afirmação verdadeira, mesmo que em algum sentido genérico.

jerad
fonte
3
Eu não acho que é preciso. Primeiro, alguém pode anotar a probabilidade de um teste T? Então podemos começar a falar sobre analogias. Bem, e se você não puder ... veremos essa imagem não faz sentido.
joint_p

Respostas:

10

A hipótese nula não é equivalente a um anterior não informativo bayesiano pela simples razão de que os bayesianos também podem usar hipóteses nulas e realizar testes de hipóteses usando os fatores de Bayes. Se fossem equivalentes, os bayesianos não usariam hipóteses nulas.

No entanto, o teste de hipóteses freqüentista e bayesiano incorpora um elemento de auto-ceticismo, pois somos obrigados a mostrar que há alguma evidência de que nossa hipótese alternativa é de alguma forma uma explicação mais plausível para as observações do que o acaso. Os freqüentistas fazem isso tendo um nível de significância, os bayesianos fazem isso com uma escala de interpretação para o fator Bayes, de modo que não promulgaríamos fortemente uma hipótese, a menos que o fator Bayes sobre a hipótese nula fosse suficientemente alto.

Agora, a razão pela qual os testes de hipóteses freqüentistas são contra-intuitivos é porque um freqüentador não pode atribuir uma probabilidade não trivial à verdade de uma hipótese, que infelizmente é geralmente o que realmente queremos. O mais próximo que eles podem chegar disso é calcular o valor-p (a probabilidade das observações em H0) e, em seguida, tirar uma conclusão subjetiva sobre se H0 ou H1 são plausíveis. O bayesiano pode atribuir uma probabilidade à verdade de uma hipótese, e também pode determinar a razão dessas probabilidades para fornecer uma indicação de suas plausibilidades relativas, ou pelo menos de como as observações alteram a razão dessas probabilidades (que é o que Fator de Bayes sim).

Na minha opinião, é uma má idéia tentar aproximar demais os métodos freqüentes e bayesianos de teste de hipóteses, pois eles são fundamentalmente diferentes e respondem a perguntas fundamentalmente diferentes. Tratá-los como se fossem equivalentes incentiva uma interpretação bayesiana do teste freqüentista (por exemplo, a falácia do valor-p) que é potencialmente perigosa (por exemplo, céticos climáticos geralmente assumem que a falta de uma tendência estatisticamente significativa na temperatura média da superfície global significa que existe não houve aquecimento - o que não está correto).

Dikran Marsupial
fonte
9

A razão pela qual você não tem a mesma aparência epifânica em seu rosto que esse cara é que eu acho. . . a afirmação não é verdadeira.

Uma hipótese nula é a hipótese de que qualquer diferença entre o controle e as condições experimentais se deve ao acaso.

Um prior não informativo deve declarar que você tem dados anteriores sobre uma pergunta, mas que não informa nada sobre o que esperar da próxima vez. É provável que um bayesiano afirme que há informações em qualquer distribuição anterior, mesmo uniforme.

Portanto, a hipótese nula diz que não há diferença entre controle e experimental; um prévio não informativo, por outro lado, pode ou não ser possível, e se isso indicasse nada sobre a diferença entre controle e experimental (o que é diferente de indicar que qualquer diferença se deve ao acaso).

Talvez me falte o entendimento de priores não informativos. Estou ansioso por outras respostas.

Krysta
fonte
2
Eu apenas acrescentaria que os priores não informativos têm mais a ver com a atitude do pesquisador do que quaisquer propriedades especialmente interessantes da própria distribuição. Essa é a atitude que Gelman defende na análise de dados bayesiana, embora eu não consiga encontrar o número da página.
Sycorax diz Reinstate Monica
7
A hipótese nula nem sempre é a mesma. A hipótese nula é apenas uma hipótese "chata" alternativa que você compara à sua hipótese "interessante", para ver se os dados suportam um sobre o outro. Na verdade, "nenhuma diferença" é na verdade uma hipótese nula ruim, já que você sabe a priori que é falsa. Melhor é "a diferença está abaixo de algum limiar do meu carinho".
Stumpy Joe Pete
Obrigado pela resposta @Krysta, e eu basicamente tive o mesmo pensamento sobre a afirmação, mas talvez haja um sentido em que a afirmação seja meio verdadeira?
Jerad 24/04
Meu melhor palpite é que a hipótese nula é o ponto de partida para os freqüentadores, ou o conjunto vazio de hipóteses ?; talvez este escritor pense que o prior não informativo é o ponto de partida para os bayesianos, mas um prior informativo regular é um análogo melhor, se é isso que eles querem dizer. Hipóteses nulas e anteriores não informativas têm semelhanças conceituais - ambas são sobre assumir que não há informação / efeito. Mas isso é muito vago!
Krysta
"É provável que um bayesiano afirme que há informações em qualquer prévia". Porém, um prior de Jeffreys não é informativo.
Neil G
4

Veja este artigo da Wikipedia :

No caso de um único parâmetro e dados que podem ser resumidos em uma única estatística suficiente, pode ser demonstrado que o intervalo credível e o intervalo de confiança coincidirão se o parâmetro desconhecido for um parâmetro de localização (...) com um valor anterior que é uma distribuição plana uniforme (...) e também se o parâmetro desconhecido for um parâmetro de escala (...) com um prior de Jeffreys '.

De fato, a referência aponta para Jaynes:

Jaynes, ET (1976), Intervalos de Confiança vs Intervalos Bayesianos .

Na página 185, podemos encontrar:

Se o caso (I) surgir (e é mais frequente do que o realizado), os testes bayesianos e ortodoxos nos levarão exatamente aos mesmos resultados e à mesma conclusão, com um desacordo verbal sobre se devemos usar 'probabilidade' ou ' significado 'para descrevê-los.

Então, de fato, existem casos semelhantes, mas eu não diria que a afirmação na imagem é verdadeira se você estiver, por exemplo, usando uma distribuição de Cauchy como probabilidade ...

random_user
fonte
4

Fui eu quem criou o gráfico, embora, como observado no post em anexo, não seja originalmente meu insight. Deixe-me fornecer um contexto de como surgiu e fazer o meu melhor para explicar como eu o entendo. A realização ocorreu durante uma discussão com um aluno que havia aprendido principalmente a abordagem bayesiana da inferência até aquele momento. Ele estava tendo dificuldade em compreender todo o paradigma teste de hipóteses, e eu estava fazendo o meu melhor para explicar esta abordagem decididamente confuso (se você considerar “diferença” para ser um negativo - como em nãoigual a - então a abordagem padrão da hipótese nula é um triplo negativo: o objetivo dos pesquisadores é mostrar que não há diferença). Em geral, e como declarado em outra resposta, os pesquisadores geralmente esperam que exista alguma diferença; o que eles realmente esperam encontrar é evidência convincente para "rejeitar" o nulo. Para ser imparcial, porém, eles começam essencialmente fingindo ignorância, como em "Bem, talvez essa droga não tenha efeito sobre as pessoas". Em seguida, eles demonstram, por meio de coleta e análise de dados (se possível), que essa hipótese nula, dados os dados, era uma suposição ruim.

Para um bayesiano, isso deve parecer um ponto de partida complicado. Por que não começar anunciando diretamente suas crenças anteriores e ter clareza sobre o que você está (e não está) assumindo, codificando-a em uma prévia? Um ponto chave aqui é que um prior uniforme não éo mesmo que um anterior não informativo. Se eu jogar uma moeda 1000 vezes e receber 500 caras, meu novo prior atribuirá peso igual (uniforme) a caras e coroas, mas sua curva de distribuição é muito íngreme. Estou codificando informações adicionais altamente informativas! Um verdadeiro anterior não informativo (levado ao limite) não teria peso algum. Significa, com efeito, começar do zero e, para usar uma expressão frequentista, deixar os dados falarem por si. A observação feita por "Clarence" foi que a maneira freqüente de codificar essa falta de informação é com a hipótese nula. Não é exatamente o mesmo que um anterior não informativo; é a abordagem freqüentista de expressar a ignorância máxima de uma maneira honesta, que não pressupõe o que você deseja provar.

Matt Asher
fonte
2
A hipótese nula freqüentista não expressa ignorância máxima, começa a supor que a hipótese nula é verdadeira e só devemos prosseguir com a hipótese alternativa se as observações forem suficientemente improváveis ​​sob H0. Pode-se argumentar que o teste de hipótese nula codifica alguns anteriores, mas é decididamente informativo. Na minha opinião, tentar interpretar os testes de hipóteses freqüentes em termos bayesianos é equivocado e uma receita para o erro; eles não são respostas para a mesma pergunta.
Dikran Marsupial
@Dikran Marsupial, isso é de certa forma um debate sem fim, mas, de uma perspectiva mais frequente, não vejo como ver o nulo como "decididamente informativo". Se esse fosse o caso, a falha em rejeitar o nulo seria vista como prova do nulo (já que "já" temos informações sobre o nulo). Todas as abordagens de inferência da IMO estão tentando responder às mesmas perguntas inter-relacionadas: "Como os dados devem ser interpretados?" e "quão forte é o caso?"
Matt Asher
1
O nulo em si não é informativo ou não informativo, mas o teste de hipóteses freqüentador convencional é inerentemente (e com razão) tendencioso em relação ao H0 (a menos que você também execute uma análise de potência). Esse viés pode ser comparado a um anterior, mas seria informativo. Simplesmente não faz sentido comparar prévios e hipóteses, eles servem a propósitos diferentes na análise; note: Bayesiano também usa hipóteses nulas no teste de hipóteses (veja minha resposta à pergunta), onde serve ao mesmo propósito que no teste de hipóteses freqüentista.
Dikran Marsupial
3
Para ser claro, usando o exemplo da droga, não começamos fingindo ignorância "Bem, talvez essa droga tenha efeito nulo sobre as pessoas". Começamos assumindo que a hipótese nula está correta "A droga tem efeito nulo e acabou para a empresa farmacêutica estabelecer que isso tem efeito, mostrando que os resultados não podem ser adequadamente explicados por acaso ". O auto-ceticismo que essa abordagem fornece é o motivo pelo qual o "ritual nulo", apesar de suas muitas falhas, ainda tem valor prático na ciência.
Dikran Marsupial