Quais são as condições de regularidade para o teste da Razão de Verossimilhança

12

Alguém poderia me dizer quais são as condições de regularidade para a distribuição assintótica do teste da Razão de Verossimilhança?

Em todo lugar que olho, está escrito 'Sob as condições de regularidade' ou 'sob as regularidades probabilísticas'. Quais são exatamente as condições? Que o primeiro e o segundo derivativos de probabilidade logarítmica existem e a matriz de informações não é zero? Ou algo completamente diferente?

Kingstat
fonte

Respostas:

15

As condições de regularidade exigidas estão listadas na maioria dos livros intermediários e não são diferentes das do mle. Os seguintes dizem respeito ao caso de um parâmetro, mas sua extensão para o multiparâmetro é direta.

Condição 1 : os PDFs são distintos, por exemplo,θθf(xi;θ)f(xi;θ)

Observe que essa condição afirma essencialmente que o parâmetro identifica o pdf.

Condição 2: os PDFs têm suporte comum a todosθ

O que isso implica é que o suporte não depende deθ

Condição 3 : O ponto , o parâmetro real que é, é um ponto interior em algum conjuntoθ0Ω

O último diz respeito à possibilidade de que apareça nos pontos finais de um intervalo.θ

Esses três juntos garantem que a probabilidade seja maximizada no parâmetro verdadeiro e, em seguida, que a mle que resolve a equaçãoθ0θ^

l(θ)θ=0

é consistente.

Condição 4 : o pdf ser diferenciado duas vezes em função def(x;θ)θ

Condição 5 : A integral pode ser diferenciada duas vezes sob o sinal integral como uma função def(x;θ) dxθ

Precisamos dos dois últimos para derivar a Informação de Fisher, que desempenha um papel central na teoria da convergência da mle.

Para alguns autores, isso é suficiente, mas, para sermos detalhados, precisamos adicionalmente de uma condição final que garanta a normalidade assintótica da mle.

Condição 6 : O pdf é três vezes diferenciável em função de . Além disso, para todos , existe uma constante e uma função tal quef(x;θ)θθΩcM(x)

|3logf(x;θ)θ3|M(x)

com para todos todo no suporte deEθ0[M(X)]<|θθ0|<cxX

Essencialmente, a última condição permite concluir que o restante de uma expansão de Taylor de segunda ordem sobre é delimitada em probabilidade e, portanto, não apresenta problemas assintoticamente.θ0

É isso que você tinha em mente?

JohnK
fonte
Obrigado. Mas você tem certeza de que as condições de regularidade relacionadas à prova de que -2log (lambda) segue o quadrado do Chi com df 1 são as mesmas?
Kingstat
1
@Kingstat Sim. Essas condições vêm de "Introdução à estatística matemática" de Hogg e Craig e garantem que, em , seja , θ = θ 0 - 2 log Λ D χ 2 ( 1 )H0θ=θ02logΛDχ2(1)
JohnK
você também poderia me dizer como, para uma densidade N (θ, 1), o teste Rao's Score é equivalente ao teste UMPU?
Kingstat
@Kingstat O que significa UMPU?
21468 John
Uniformemente mais poderoso e imparcial.
Kingstat