Estou interessado em uma boa referência para resultados relativos a propriedades assintóticas de estimadores de máxima verossimilhança. Considere um modelo que é uma densidade dimensional e é o MLE com base em uma amostra de que é o valor "verdadeiro" de . Estou interessado em duas irregularidades.
- Os dados não são iid e, como resultado, as informações de Fisher sobre acumuladas a uma taxa mais lenta que .
- é um conjunto delimitado e com probabilidade positiva fica no limite. O limite corresponde a um modelo "mais simples" e, portanto, há um interesse particular em saber se está ou não no limite.
Minhas perguntas particulares são
Deixar denotar as informações de Fisher observadas correspondentes a e supor que esteja no interior de . Sob que condições é assintoticamente normal como ? Em particular, as condições de regularidade são semelhantes às usuais, com a modificação relevante sendo em algum sentido?
Suponha que esteja no limite e lembre-se novamente de que acontece com probabilidade positiva - por concretude, em um modelo de efeitos mistos podemos ter . Sob quais condições (quase certamente ou com probabilidade) e sob quais condições eventualmente (isso provavelmente falha no modelo de efeitos mistos, mas corresponde às propriedades "oracle" para o LASSO e estimadores relacionados, então talvez seja pedir demais resultados gerais)?
Novamente, apenas um ponteiro para um texto com resultados nesse nível de generalidade seria muito apreciado.
Respostas:
Referências pelas quais você pode começar:
Para o caso em que o parâmetro true está no limite :
Moran (1971) "Estimativa de máxima verossimilhança em condições fora do padrão"
Steven G. Self e Kung-Yee Liang (1987) "Propriedades assintóticas de estimadores de máxima verossimilhança e testes de razão de verossimilhança sob condições não-padrão"
Ziding Feng e Charles E. McCulloch (1990) "Inferência Estatística Utilizando a Estimativa de Máxima Verossimilhança e a Razão de Verossimilhança Generalizada quando o Parâmetro Verdadeiro Está no Limite do Espaço de Parâmetros"
Para RVs não idênticos, mas independentes :
Bruce Hoadley (1971) "Propriedades assintóticas dos estimadores de máxima verossimilhança para o caso independente não identicamente distribuído"
Para RVs dependentes:
Martin J. Crowder (1976) "Estimativa de máxima verossimilhança para observações dependentes"
Além disso
Huber, PJ (1967). "O comportamento das estimativas de máxima verossimilhança em condições fora do padrão" . Em Anais do quinto simpósio de Berkeley sobre estatística matemática e probabilidade (Vol. 1, No. 1, pp. 221-233).
Atualização 17-03-2017: conforme sugerido em um comentário, o seguinte documento pode ser referenciado aqui
Andrews, DW (1987). Consistência em modelos econométricos não lineares: uma lei uniforme genérica de grandes números. Econometria: Jornal da Sociedade Econométrica, 1465-1471.
fonte