Seja . A Matriz de Informações de Fisher é definida como:
Como posso provar que a Matriz de informações de Fisher é semidefinida positiva?
Seja . A Matriz de Informações de Fisher é definida como:
Como posso provar que a Matriz de informações de Fisher é semidefinida positiva?
Respostas:
Confira: http://en.wikipedia.org/wiki/Fisher_information#Matrix_form
A partir da definição, temos
If this component wise notation is too ugly, note that the Fisher Information matrixH=(Iij) can be written as H=Eθ[SS⊤] , in which the scores vector S is defined as
S=(∂1logfX∣Θ(X∣θ),…,∂klogfX∣Θ(X∣θ))⊤.
Hence, we have the one-lineru⊤Hu=u⊤Eθ[SS⊤]u=Eθ[u⊤SS⊤u]=Eθ[||S⊤u||2]≥0.
fonte
WARNING: not a general answer!
Iff(X|θ) corresponds to a full-rank exponential family, then the negative Hessian of the log-likelihood is the covariance matrix of the sufficient statistic. Covariance matrices are always positive semi-definite. Since the Fisher information is a convex combination of positive semi-definite matrices, so it must also be positive semi-definite.
fonte