Um exemplo de um estimador consistente e tendencioso?

13

Realmente perplexo neste. Eu realmente gostaria de um exemplo ou situação em que um estimador B fosse consistente e tendencioso.

Jimmy Wiggles
fonte
3
Isto é para uma aula?
Glen_b -Reinstate Monica
5
Acho que a especificação tardia que você está procurando para um exemplo de série temporal transforma isso em uma pergunta diferente, pois invalidaria as excelentes respostas já fornecidas. Mas tudo bem - Você pode fazer uma nova pergunta.
Sycorax diz Restabelecer Monica
6
Vejo que você mudou sua pergunta. Dado que várias respostas já trataram de sua pergunta anterior, aconselho que você a altere novamente e publique uma nova pergunta especificamente para modelos de séries temporais.
JohnK
3
É surpreendente que, mesmo que você solicite um estimador relacionado a séries temporais, ninguém tenha mencionado o OLS para um AR (1). O estimador é tendencioso, mas consistente, e é bastante fácil de mostrar (e pesquisar no Google fornecerá bastante material sobre isso). Edit: ele aparece como o pedido de séries temporais foi uma adição tardia, o que explicaria a falta de tais respostas ...
hejseb
2
Aqui está um exemplo bastante trivial: X¯n+ϵ/n , ϵ0 0 .
dsaxton

Respostas:

23

O exemplo mais simples que consigo pensar é a variação da amostra que chega intuitivamente para a maioria de nós, a soma dos desvios quadrados divididos por n vez de n-1 :

Sn2=1nEu=1n(XEu-X¯)2

É fácil mostrar que E(Sn2)=n-1nσ2e, portanto, o estimador é enviesado. Mas assumindo a variância finitaσ2, observe que o viés vai a zero comonporque

E(Sn2)-σ2=-1nσ2

Também pode ser mostrado que a variância do estimador tende a zero e, portanto, o estimador converge em quadrado médio . Portanto, é também convergente em probabilidade .

JohnK
fonte
1
Este é um exemplo útil, embora possa aplicar uma interpretação bastante fraca de "tendencioso" aqui (que é usado de maneira um tanto ambígua na própria pergunta). Também se poderia pedir algo mais forte, por exemplo, uma sequência de estimador consistente, mas com viés que não desaparece nem assintoticamente.
cardeal
@ cardinal O viés deve desaparecer assintoticamente para que o estimador seja consistente, não?
JohnK
3
Não. (Veja o fluxo de comentários para mais detalhes.)
cardeal
Eu acho que seria útil chamada seu estimador de σ 2 em vez de S 2 , como S 2 refere-se mais tipicamente ao estimador imparcial, enquanto σ 2 refere-se frequentemente à MLE. σ^2S2S2σ^2
Cliff AB
@CliffAB Sim, é isso que o índice indica, a soma dos desvios ao quadrado é dividida por n , em vez do n - 1 convencional . nnn-1
JohnK
9

Um exemplo simples seria a estimativa do parâmetro dado n observações iid y i ~ Uniforme [ 0 ,θ>0 0n .yEuUniforme[0 0,θ]

Vamos θ n = max { y 1 , ... , y n } . Para qualquer n finito , temos E [ θ n ] < θ (portanto, o estimador é enviesado), mas no limite será igual a θ com probabilidade um (por isso é consistente).θ^n=max{y1,...,yn}nE[θn]<θθ

Adrian
fonte
6

Considere qualquer estimador imparcial e consistente e uma sequência α n convergindo para 1 ( α n não precisa ser aleatório) e forme α n T n . É tendencioso, mas consistente, já que α n converge para 1.TnαnαnαnTnαn

Da wikipedia:

Genericamente falando, um estimador do parâmetro θ é dito ser consistente, se converge em probabilidade para o verdadeiro valor do parâmetro: plim n Tnθ

plimnTn=θ.

Agora, lembre-se de que o viés de um estimador é definido como:

Viésθ[θ^]=Eθ[θ^]-θ

O viés é de fato diferente de zero, e a convergência em probabilidade permanece verdadeira.

RUser4512
fonte
Agradeço a resposta e a explicação. Eu tenho uma melhor compreensão agora. Obrigado
Jimmy Wiggles
Esta resposta precisa de uma menor correção-up no início, para deixar claro que não qualquer imparcial vai fazer. A própria sequência original do estimador deve ser consistente. Tn
cardeal
2

Em uma configuração de série temporal com uma variável dependente defasada incluída como regressor, o estimador OLS será consistente, mas tendencioso. A razão para isso é que, para mostrar imparcialidade do estimador OLS, precisamos de estrita exogeneidade, , isto é, que o termo de erro,ε t , no períodotnão está correlacionado com todos os regressores em todos os períodos de tempo. No entanto, para mostrar consistência do estimador OLS, precisamos apenas de exogeneidade contemporânea,E [ ε t | x t ] , isto é, que o termo de erro,ε t , no períodotnão está correlacionado com os regressores,x t no períodot. Considere o modelo AR (1):y t =ρy t - 1 +ε tE[εt|x1,x2,,...,xT]εttE[εt|xt]εttxtt com x t = y t - 1 a partir de agora.yt=ρyt-1+εt,εtN(0 0,σε2)xt=yt-1

Primeiro, mostro que uma estrogenicidade estrita não se aplica a um modelo com uma variável dependente defasada incluída como regressor. Vamos olhar a correlação entre e x t + 1 = y t E [ ε t x t + 1 ] = E [ ε t y t ] = E [ ε t ( ρ y t - 1 + ε t ) ]εtxt+1=yt

E[εtxt+1]=E[εtyt]=E[εt(ρyt-1+εt)]

=ρE(εtyt-1)+E(εt2)

=E(εt2)=σε2>0 0 (Eq.(1)).

Se assumirmos a exogeneidade seqüencial, , ou seja, que o termo de erro, ε t , no período T não está correlacionada com todos os regressores em períodos de tempo anteriores e a corrente, em seguida, o primeiro termo acima, ρ E ( ε t y t - 1 ) , desaparecerá. O que está claro a partir de cima é que, a menos que tenhamos exogeneidade estrita, a expectativa E [ ε t x t + 1 ] = E [ ε t y tE[εty1,y2,......,yt-1]=0 0εttρE(εtyt-1). No entanto, deve ficar claro que a exogeneidade contemporânea,E [ ε t | x t ] , aguenta.E[εtxt+1]=E[εtyt]0 0E[εt|xt]

Agora, vejamos o viés do estimador OLS ao estimar o modelo AR (1) especificado acima. O estimador de OLS , ρ é dada como:ρρ^

ρ^=1Tt=1Tytyt-11Tt=1Tyt2=1Tt=1T(ρyt-1+εt)yt-11Tt=1Tyt2=ρ+1Tt=1Tεtyt-11Tt=1Tyt2 (Eq.(2))

E[εt|y1,y2,,...,yT-1]Eq.(2)

E[ρ^|y1,y2,,...,yT-1]=ρ+1Tt=1T[εt|y1,y2,,...,yT-1]yt-11Tt=1Tyt2

Eq.(1)E[εtyt]=E(εt2)[εt|y1,y2,,...,yT-1]0 01Tt=1T[εt|y1,y2,,...,yT-1]yt-11Tt=1Tyt20 0E[ρ^|y1,y2,,...,yT-1]ρE[ρ^|y1,y2,,...,yT-1]=ρ+1Tt=1T[εt|y1,y2,,...,yT-1]yt-11Tt=1Tyt2=ρ+1Tt=1TE(εt2)yt-11Tt=1Tyt2=ρ+1Tt=1Tσε2yt-11Tt=1Tyt2

E[εt|xt]=E[εt|yt-1]=0 0E[εtxt]=0 0xt=yt-1ρρ^

ρ^=1Tt=1Tytyt-11Tt=1Tyt2=1Tt=1T(ρyt-1+εt)yt-11Tt=1Tyt2=ρ+1Tt=1Tεtyt-11Tt=1Tyt2

peuEum1Tt=1Tyt2=σy2σy20 0<σy2<

Tplim1Tt=1Tεtyt-1=E[εtyt-1]=0 0

plimρ^T=ρ+plim1Tt=1Tεtyt-1plim1Tt=1Tyt2=ρ+0 0σy2=ρ

pρ^

Plissken
fonte