Por que um bayesiano não pode olhar para os resíduos?

46

No artigo "Discussão: os ecologistas devem se tornar bayesianos?" Brian Dennis fornece uma visão surpreendentemente equilibrada e positiva das estatísticas bayesianas quando seu objetivo parece ser alertar as pessoas sobre isso. No entanto, em um parágrafo, sem citações ou justificativas, ele diz:

Os bayesianos, como você vê, não podem olhar para seus resíduos. Ele viola o princípio da probabilidade de julgar um resultado pelo quão extremo é sob um modelo. Para um bayesiano, não existem modelos ruins, apenas más crenças.

Por que um bayesiano não poderia olhar para os resíduos? Qual seria a citação apropriada para isso (ou seja, quem ele está citando)?

Dennis, B.
Discussão: Os ecologistas devem se tornar bayesianos?
Aplicações ecológicas, Sociedade Ecológica da América , 1996 , 6, 1095-1103

Mankka
fonte
6
Se esse argumento funcionasse, os freqüentadores também não poderiam usar o princípio da probabilidade - pela mesma razão.
Glen_b
@Glen: análise freqüentista faz violar o princípio da probabilidade.
Scortchi - Restabelece Monica
3
@Glen: Um freqüentador verdadeiramente dependente do LP (a versão fraca, equivalente ao Princípio da Suficiência - a versão forte é simplesmente incompatível com a abordagem freqüentista) teria que evitar a verificação do modelo. Aqueles que apenas o admiram ficam satisfeitos quando podem usá-lo para o trabalho de estimar os parâmetros de um modelo especificado e ainda têm auxiliares mais ou menos independentes - os resíduos - que sobram para o modelo verificar qualquer modo antigo.
Scortchi - Reinstate Monica
1
Mesmo quando o freqüentador faz estimativa de ML, ele ainda viola o LP, porque considera a distribuição amostral do MLE como um intervalo de confiança para sua estimativa.
Zen
2
@ Zen: Ele não viola o LP fraco , desde que o intervalo de confiança dependa dos dados apenas através da função de probabilidade. Porém, mais cedo ou mais tarde, ele pode violar o LP forte , criando um intervalo de confiança diferente, com base na mesma função de probabilidade de um experimento diferente, com um espaço de amostragem diferente.
Scortchi - Restabelece Monica

Respostas:

19

É claro que os bayesianos podem olhar para os resíduos! E é claro que existem modelos ruins na análise bayesiana. Talvez alguns bayesianos nos anos 70 apoiassem visões como essa (e eu duvido disso), mas dificilmente você encontrará bayesianos que apoiem essa visão nos dias de hoje.

Não li o texto, mas os bayesianos usam coisas como fatores de Bayes para comparar modelos. Na verdade, um bayesiano pode até calcular a probabilidade de um modelo ser verdadeiro e escolher o modelo que tem mais probabilidade de ser verdadeiro. Ou um bayesiano pode fazer a média entre modelos, para obter um modelo melhor. Ou pode usar verificações preditivas posteriores. Existem muitas opções para verificar um modelo e cada uma pode favorecer uma abordagem ou outra, mas dizer que não há modelos ruins na análise bayesiana não faz sentido.

Portanto, no máximo, seria mais apropriado dizer que em algumas versões extremas do bayesianismo (versões extremas que quase ninguém usa nas configurações aplicadas, a propósito), você não tem permissão para verificar seu modelo. Mas, do que você poderia dizer, em algumas versões extremas do frequentismo, você também não pode usar dados observacionais. Mas por que perder tempo discutindo essas coisas tolas, quando podemos discutir se e quando, em um ambiente aplicado, devemos usar métodos bayesianos ou frequentistas ou o que quer que seja? Isso é importante, na minha humilde opinião.

Atualização: O OP solicitou uma referência de alguém que defendia a versão extrema do Bayes. Como nunca li nenhuma versão extrema do Bayes, não posso fornecer essa referência. Mas eu acho que Savage pode ser uma referência. Eu nunca li nada escrito por ele, então posso estar errado.

ps .: Pense no problema do "bayesiano bem calibrado" ( Dawid (1982), JASA , 77 , 379 ). Um meteorologista bayesiano subjetivista coerente não pode ser desequilibrado e, portanto, não revisaria seu modelo / previsões, apesar de qualquer evidência esmagadora de que ele não esteja calibrado. Mas eu não acho que alguém na prática possa afirmar ser tão coerente. Assim, a revisão do modelo é importante.

ps2 .: Eu também gosto deste artigo de Efron . A referência completa é: Efron, Bradley (2005). "Bayesianos, frequentistas e cientistas". Jornal da Associação Estatística Americana 100 (469).

Manoel Galdino
fonte
5
Eu também assumi que a proibição nunca foi levada a sério na prática, então fiquei surpreso ao ler isso de Gelman: - "Eu certamente não quero voltar ao status quo da década de 1990 nas estatísticas bayesianas, em que era considerado virtualmente ilegal verificar o ajuste do modelo aos dados ".
Scortchi - Reinstate Monica
1
Não sei como foram as estatísticas bayesianas nos anos noventa. Mas é difícil acreditar que nas configurações aplicadas os bayesianos não tenham verificado seus modelos. Talvez tenham verificado, mas não contaram!
Manoel Galdino
2
Definitivamente, concordo que essa não é uma questão importante. Fiquei curiosa para saber se alguém publicou sobre isso. Você já leu alguém defendendo essas "versões extremas do bayesianismo"?
Mankka
35

Eles podem olhar, mas não tocar. Afinal, os resíduos são a parte dos dados que não carregam informações sobre os parâmetros do modelo, e seus anteriores expressam toda a incerteza sobre eles - eles não podem mudar seus anteriores com base no que veem nos dados.

Por exemplo, suponha que você esteja ajustando um modelo gaussiano, mas observe demasiada curtose nos resíduos. Talvez sua hipótese anterior devesse ter sido uma distribuição t com probabilidade diferente de zero em baixos graus de liberdade, mas não era - era efetivamente uma distribuição t com probabilidade zero em todos os lugares, exceto em graus infinitos de liberdade. Nada na probabilidade pode resultar em probabilidades diferentes de zero em regiões da densidade posterior, onde a densidade anterior é zero. Portanto, a noção de atualização contínua de anteriores com base nas probabilidades dos dados não funciona quando o anterior original é mal especificado.

Obviamente, se você pesquisar no "Bayesian Model Check", verá que isso é uma paródia da prática bayesiana real; ainda assim, representa uma dificuldade para os argumentos do tipo Lógica da Ciência em favor da superioridade do bayesianismo em bases filosóficas. O blog de Andrew Gelman é interessante sobre esse tópico.

Scortchi - Restabelecer Monica
fonte
Você tem alguma referência a essa "dificuldade para a lógica da ciência"?
Mankka
7
Eu estava me referindo a Jaynes, Teoria da Probabilidade: A Lógica da Ciência , na qual o uso repetido do teorema de Bayes para atualizar as distribuições de probabilidade à medida que novos dados chegam é reivindicado como um paradigma para o crescimento do conhecimento científico. Tenho certeza de que ele lida com o problema de um prior que é muito estreito, mas não me lembro como ou de maneira satisfatória. E vou mudar "superioridade geral" para "superioridade em bases filosóficas", pois isso parece transmitir melhor o que eu quis dizer.
Scortchi - Reinstate Monica
Este exemplo de uso anterior bayesiano foi aplicado para reduzir a ocorrência ocasional (2%) de resultados não físicos . Essa falta de fisicalidade foi atribuída a uma mistura instantânea não física (de droga no corpo) e foi corrigida assumindo a mistura inicial zero usando um modelo melhor. Parece melhor adaptar o modelo ao problema do que falsificar as respostas para se adaptar aos preconceitos. (+1)
Carl