Dado o seguinte modelo hierárquico, e que é uma distribuição normal. Existe uma maneira de obter uma expressão exata para as informações de Fisher da distribuição marginal de dada . Ou seja, qual é a informação de Fisher de: Posso obter uma expressão para a distribuição marginal de dada c , mas diferenciar wrt ce tomar expectativas parece muito difícil. Estou perdendo algo óbvio? Qualquer ajuda seria apreciada.
20
Respostas:
Não há expressão analítica de forma fechada para as informações de Fisher para o modelo hierárquico fornecido. Na prática, as informações de Fisher só podem ser computadas analiticamente para distribuições familiares exponenciais. Para famílias exponenciais, a probabilidade de log é linear nas estatísticas suficientes e as estatísticas suficientes têm expectativas conhecidas. Para outras distribuições, a probabilidade de log não se simplifica dessa maneira. Nem a distribuição de Laplace nem o modelo hierárquico são distribuições familiares exponenciais; portanto, uma solução analítica será impossível.
fonte
Os dois Normal e Laplace são da família exponencial. Se você pode escrever a distribuição na forma exponencial, a matriz de informações do fisher é o segundo gradiente do normalizador de log da família exponencial.
fonte