Com um plano prévio, os estimadores ML (freqüentista - máxima verossimilhança) e MAP (bayesiano - máxima a posteriori) coincidem.
De maneira mais geral, porém, estou falando de estimadores de pontos derivados como otimizadores de alguma função de perda. Ou seja,
(Bayesian) x (
onde é o operador expectativa, L é a função de perda (minimizada a zero), x ( y ) é o estimador, dado os dados Y , o parâmetro de x , e variáveis aleatórias são denotados com as letras maiúsculas.
Alguém sabe quaisquer condições em , o pdf de x e y , imposta linearidade e / ou viés, onde os estimadores coincidirá?
Editar
Conforme observado nos comentários, é necessário um requisito de imparcialidade, como a imparcialidade, para tornar significativo o problema freqüentista. Priores planos também podem ser comuns.
Além das discussões gerais fornecidas por algumas das respostas, a questão também é realmente sobre fornecer exemplos reais . Eu acho que um importante vem da regressão linear:
- x = ( D ' D ) - 1 D ' y é a (AZUL teorema de Gauss-Markov ), ou seja, que minimiza o MSE entre frequencista estimadores linear-imparciais.
- se é Gaussiana e o anterior é plana, x = ( D ' D ) - 1 D ' y é o "posteriores" médios minimiza a perda média de Bayesian para qualquer função de perda convexa.
Aqui, parece ser conhecido como matriz de dados / design no jargão frequentista / bayesiano, respectivamente.
Respostas:
A questão é interessante, mas um tanto sem esperança, a menos que a noção de estimador freqüentista seja precisa. Definitivamente, não é o único conjunto na questão x ( uma vez que a resposta para a minimização é x ( y ) = x para todos os y 's como fora aguçada naresposta de Programmer2134. A questão fundamental é que não existe um estimador freqüentador único para um problema de estimativa, sem a introdução de restrições suplementares ou classes de estimadores. Sem esses, todos os estimadores de Bayes também são estimadores freqüentistas.
Como apontado nos comentários, a imparcialidade pode ser uma restrição, caso em que os estimadores de Bayes são excluídos. Mas essa noção freqüentista colide com outras noções freqüentistas, como
Além disso, a imparcialidade se aplica apenas a uma classe restrita de problemas de estimativa. Com isso, quero dizer que a classe de estimadores imparciais de um determinado parâmetro ou de uma transformação h ( θ ) fica na maior parte do tempo vazia.θ h ( θ )
Falando em admissibilidade, outra noção freqüentista, existem cenários para os quais os únicos estimadores admissíveis são estimadores de Bayes e vice-versa. Esse tipo de configuração refere-se aos teoremas de classe completos estabelecidos por Abraham Wald nos anos 50. (O mesmo se aplica aos melhores estimadores invariantes que são Bayes sob a medida apropriada de Haar correta.)
fonte
Em geral, os estimadores frequentistas e bayesianos não coincidem, a menos que você use um plano degenerado antes. A principal razão é a seguinte: os estimadores freqüentistas geralmente se esforçam para ser imparciais. Por exemplo, os freqüentadores geralmente tentam encontrar o estimador imparcial de variância mínima ( http://en.wikipedia.org/wiki/Minimum-variance_unbiated_estimator ). Enquanto isso, todos os estimadores de Bayes não degenerados são tendenciosos (no sentido freqüentista de tendenciosidade). Veja, por exemplo, http://www.stat.washington.edu/~hoff/courses/581/LectureNotes/bayes.pdf , Teorema 5.
Para resumir: A maioria dos estimadores freqüentistas populares se esforça para ser imparcial, enquanto todos os estimadores de Bayes são tendenciosos. Assim, Bayes e estimadores freqüentistas raramente coincidem.
fonte
fonte
Pode não haver resposta para essa pergunta.
Uma alternativa seria pedir métodos para determinar as duas estimativas com eficiência para qualquer problema em questão. Os métodos bayesianos estão bem próximos desse ideal. Entretanto, embora os métodos minimax possam ser usados para determinar a estimativa pontual freqüentista, em geral, a aplicação do método minimax permanece difícil e tende a não ser utilizada na prática.
Uma outra alternativa seria reformular a pergunta sobre as condições sob as quais os estimadores bayesianos e freqüentadores fornecem resultados "consistentes" e tentam identificar métodos para calcular eficientemente esses estimadores. Aqui "consistente" é considerado para implicar que os estimadores bayesianos e freqüentistas são derivados de uma teoria comum e que o mesmo critério de otimização é usado para ambos os estimadores. Isso é muito diferente de tentar se opor às estatísticas bayesianas e freqüentistas, e pode tornar a pergunta acima supérflua. Uma abordagem possível é visar, tanto no caso freqüentista quanto no caso bayesiano, conjuntos de decisões que minimizem a perda para um determinado tamanho, isto é, conforme proposto por
Schafer, Chad M e Philip B Stark. "Construindo regiões de confiança com o tamanho ideal esperado". Jornal da Associação Estatística Americana 104.487 (2009): 1080-1089.
Acontece que isso é possível - tanto para o caso freqüentista quanto para o bayesiano - incluindo por observações e parâmetros de preferência com grandes informações mútuas pontuais. Os conjuntos de decisões não serão idênticos, pois a pergunta que está sendo feita é diferente:
No entanto, os conjuntos se sobrepõem amplamente e se tornam idênticos em algumas situações, se forem utilizados planos anteriores. A idéia é discutida em mais detalhes, juntamente com uma eficiente implementação
Bartels, Christian (2015): Confiança genérica e consistente e regiões credíveis. compartilhamento de figo. https://doi.org/10.6084/m9.figshare.1528163
Para priores informativos, os conjuntos de decisões se desviam mais (como é comumente conhecido e foi apontado na pergunta e nas respostas acima). Porém, dentro de uma estrutura consistente, obtém-se testes freqüentistas, que garantem a cobertura freqüentista desejada, mas levam em consideração o conhecimento prévio.
Bartels, Christian (2017): Usando conhecimentos prévios em testes freqüentistas. compartilhamento de figo. https://doi.org/10.6084/m9.figshare.4819597
Os métodos propostos ainda carecem de uma implementação eficiente da marginalização.
fonte