Eu sei que o OLS é imparcial, mas não eficiente sob heterocedasticidade em um cenário de regressão linear.
Na Wikipedia
http://en.wikipedia.org/wiki/Minimum_mean_square_error
O estimador MMSE é assintoticamente imparcial e converge na distribuição para a distribuição normal: , onde I (x) é a informação de Fisher de x. Assim, o estimador MMSE é assintoticamente eficiente.
MMSE é reivindicado ser assintoticamente eficiente. Estou um pouco confuso agora.
Isso significa que o OLS não é eficiente em amostras finitas, mas é eficiente assintoticamente sob heterocedasticidade?
Crítica das respostas atuais: Até o momento, as respostas propostas não tratam da distribuição limitadora.
desde já, obrigado
least-squares
heteroscedasticity
efficiency
Cagdas Ozgenc
fonte
fonte
Respostas:
O artigo nunca assumiu homoskadasticidade na definição. Para colocá-lo no contexto do artigo, a homoskedasticidade estaria dizendo Onde a matriz de identidade e é um número positivo escalar. A heteroscadasticidade permite
Qualquer diaganol positivo definitivo. O artigo define a matriz de covariância da maneira mais geral possível, como o segundo momento centralizado de alguma distribuição multivariável implícita. devemos conhecer a distribuição multivariada de para obter uma estimativa assintoticamente eficiente e consistente de . Isso virá de uma função de probabilidade (que é um componente obrigatório do posterior). Por exemplo, suponha (isto é, . Então a função de probabilidade implícita é Onde é o pdf normal multivariado.D e x^ e∼N(0,Σ) E{(x^−x)(x^−x)T}=Σ
A matriz de informações de Fisher pode ser escrita como veja en.wikipedia.org/wiki/Fisher_information para mais informações. É daqui que podemos derivar O exemplo acima está usando uma função de perda quadrática, mas não assumindo homoscedasticidade.
No contexto do OLS, onde regredimos em , assumimos A probabilidade implícita é Que pode ser convenientemente reescrito como o pdf normal univariado. A informação do pescador é entãoy x
Se a homocedasticidade não for atendida, as informações de Fisher, conforme declaradas, são especificadas em falta (mas a função de expectativa condicional ainda está correta), portanto as estimativas de serão consistentes, mas ineficientes. Poderíamos reescrever a probabilidade de explicar a heteroskacticity e a regressão é eficiente, ou seja, podemos escrever Isso é equivalente a certas formas de Mínimos Quadrados Generalizados , como mínimos quadrados ponderados. No entanto, essa vontadelog [ L ] = log [ ϕ ( y - x ′ β , D ) ] β 1β
fonte
Não, o OLS não é eficiente sob heterocedasticidade. A eficiência de um estimador é obtida se o estimador tiver a menor variação entre outros estimadores possíveis. Declarações sobre eficiência no OLS são feitas independentemente da distribuição limitadora de um estimador.
fonte