Teste de razão de verossimilhança generalizada de log para modelos não aninhados

Entendo que, se eu tenho dois modelos A e B e A está aninhado em B, dados alguns dados, posso ajustar os parâmetros de A e B usando o MLE e aplicar o teste de razão de verossimilhança generalizada de log. Em particular, a distribuição do teste deve ser com graus de liberdade, onde é a diferença no número de parâmetros que e possuem. $\chi^2$ $n$ $n$ $A$ $B$

No entanto, o que acontece se e tiverem o mesmo número de parâmetros, mas os modelos não estiverem aninhados? Ou seja, eles são simplesmente modelos diferentes. Existe alguma maneira de aplicar um teste de razão de verossimilhança ou alguém pode fazer outra coisa? $A$ $B$

maximum-likelihood model-selection likelihood-ratio Lembik
fonte

Respostas:

O artigo Vuong, QH (1989). Testes de razão de verossimilhança para seleção de modelo e hipóteses não aninhadas. Econometrica, 307-333. possui o tratamento teórico completo e os procedimentos de teste. Ele distingue entre três situações, "Modelos estritamente não aninhados", "Modelos sobrepostos", "Modelos aninhados" e também examina casos de erros de especificação. Portanto, não é por acaso que, em alguns casos, a estatística do teste é distribuída como uma combinação linear de qui-quadrados .

O artigo não é leve, nem propõe um procedimento de teste "pronto para uso". Mas, pela primeira vez, suas (quase) 3.000 citações falam de seus méritos, sendo uma combinação inspirada da estrutura clássica de testes e da abordagem teórica da informação.

Alecos Papadopoulos
fonte

O teste da razão de verossimilhança generalizada NÃO funciona da maneira que você está dizendo. Veja, por exemplo, as seguintes notas de aula:

http://www.maths.manchester.ac.uk/~peterf/MATH38062/MATH38062%20GLRT.pdf

http://www.maths.qmul.ac.uk/~bb/MS_Lectures_12b.pdf

O GLRT é definido para hipótese do tipo:

H_{0 0} : θ \in Θ_{0 0} v s . H_{1 1} : θ \in Θ_{1 1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

$\Theta_0\cap\Theta_1=\emptyset$ $\Theta_0\cup\Theta_1=\Theta$

Para a estrutura que você descreve, você pode comparar os modelos usando outras ferramentas, como AIC e BIC. Também fatores Bayes, se você estiver disposto a ficar cheio bayesiano.

Waterman
fonte

Bem-vindo ao CV. Talvez seja do seu interesse procurar o artigo que mencionei na minha própria resposta a esta pergunta.

Alecos Papadopoulos

@AlecosPapadopoulos Obrigado pela referência. Dei uma rápida olhada e, como esperado, as condições para esse tipo de GLRT funcionar são muito, muito, muito, muito restritivas. Então, eu preferiria ir para algo mais seguro. Eu sei que é altamente citado, desculpas pela blasfêmia.

Waterman

@AlecosPapadopoulos Em particular, acho a compactação da condição de espaço do parâmetro (suposição A2) extremamente desagradável.

Waterman

A anedota histórica muito instrutiva (embora provavelmente não real) sobre a magnum opus de Laplace é que Napoleão, o Grande, leu e comentou a Laplace "Vejo que você não menciona Deus em nenhum lugar do seu livro", ao qual Laplace supostamente respondeu: "Eu não precisava essa hipótese "... significando que o conceito de" sagrado "não é necessário na ciência e, portanto, não pode haver blasfêmia.

Alecos Papadopoulos

... quanto ao seu segundo comentário sobre a suposição A2, acho que significa que toda a estrutura de máxima verossimilhança não atende às necessidades de seu campo, exceto talvez quando as distribuições envolvidas tiverem densidades log-côncavas.

Alecos Papadopoulos