Pela lei (fraca / forte) de grandes números, dados alguns pontos de amostra iid de uma distribuição, sua amostra significa converge para a média de distribuição, tanto em probabilidade quanto em, como tamanho da amostra vai para o infinito.
Quando o tamanho da amostra é fixo, eu me pergunto se o estimador LLN é um estimador melhor em algum sentido? Por exemplo,
- sua expectativa é a média da distribuição, portanto é um estimador imparcial. Sua variação é que é a variação da distribuição. Mas é UMVU?
existe alguma função tal que resolva o problema de minimização:
Em outras palavras, é a melhor função de contraste na estrutura de contraste mínimo ( consulte a Seção 2.1 "Heurísticas básicas de estimativa" em " Estatística matemática: idéias básicas e tópicos selecionados, Volume 1 " de Bickle e Doksum).
Por exemplo, se a distribuição for conhecida / restrita como sendo da família de distribuições gaussianas, a média da amostra será o estimador da média da distribuição do MLE, e o MLE pertencerá à estrutura mínima de contraste e sua função de contraste será menos a probabilidade do log função.
existe alguma função tal que resolva o problema de minimização: para qualquer distribuição de dentro de alguma família de distribuições?f ∗ f ∗ = argmin fP x i F
Em outras palavras, é o melhor para algumas funções perdidas alguma família de distribuições no referencial teórico da decisão (consulte a Seção 1.3 "O Marco Teórico da Decisão" em " Estatística matemática: idéias básicas e tópicos selecionados, volume 1 " de Bickle e Doksum). l F
Observe que as opções acima são três interpretações diferentes para uma "melhor" estimativa que eu conheci até agora. Se você conhece outras possíveis interpretações que podem ser aplicadas ao estimador LLN, não hesite em mencionar isso também.
Respostas:
A resposta para sua segunda pergunta é sim: A média da amostra é um estimador de contraste mínimo quando sua função é ( x - u ) 2 , quando x e u são números reais ou ( x - u ) ′ ( x - u ) , quando x e u são vetores de coluna. Isto segue da teoria dos mínimos quadrados ou cálculo diferencial.eu0 0 ( x - u )2 ( x - u )′( x - u )
Um estimador de contraste mínimo é, sob certas condições técnicas, consistente e assintoticamente normal. Para a média da amostra, isso já decorre do LLN e do teorema do limite central. Não sei se os estimadores mínimos de contraste são "ideais" de forma alguma. O que é bom nos estimadores de contraste mínimo é que muitos estimadores robustos (por exemplo, a mediana, estimadores de Huber, quantis de amostra) se enquadram nessa família, e podemos concluir que eles são consistentes e assintoticamente normais apenas aplicando o teorema geral para estimadores de contraste mínimos, portanto desde que verifique algumas condições técnicas (embora muitas vezes isso seja muito difícil do que parece).
Uma noção de otimização que você não menciona na sua pergunta é a eficiência, que, grosso modo, é sobre o tamanho de uma amostra que você precisa para obter uma estimativa de uma certa qualidade. Consulte http://en.wikipedia.org/wiki/Efficiency_(statistics)#Asymptotic_efficiency para obter uma comparação da eficiência de média e mediana (média é mais eficiente, mas a mediana é mais robusta para os valores extremos).
Para a terceira pergunta, sem alguma restrição no conjunto de funções f sobre as quais você está encontrando o argmin, não acho que a média da amostra seja ótima. Para qualquer distribuição P, você pode corrigir f ser uma constante que ignora o 's e minimiza a perda para a média da amostra P. particular não pode bater isso.xEu
fonte