Estou tentando entender a diferença entre a Newton-Raphson
técnica e a Fisher scoring
técnica calculando a primeira iteração para cada método de uma Bernoulli
amostra. (Eu sei que, neste caso, posso calcular explicitamente e imediatamente mas quero fazê-lo iterativamente apenas para entender e ver como cada método converge).
Suponha que eu desenhe uma moeda vezes, o parâmetro real é desconhecido para mim e eu tenho 4 cabeças, então .
A função de pontuação é:
A informação pescada observada é:
e a informação esperada dos pescadores é:
E observe que podemos simplificar as informações esperadas dos pescadores apenas quando as avaliamos em , mas não sabemos onde é ...
Agora, suponha que meu palpite inicial seja
Será que Newton-Raphson
simplesmente ir como este:
?
E como Fisher-scoring
vai?
Note que ele contém que não sabemos! e nem podemos substituir π t por π m l e, como também não sabemos - é exatamente isso que estamos procurando ...
Você pode ajudar a me mostrar da maneira mais concreta possível esses dois métodos? Obrigado!