Considere a seguinte configuração. Temos um -dimensional vetor de parâmetros θ que especifica o modelo completamente e um estimador de máxima verossimilhança θ . A informação de Fisher em θ é denotada I ( θ ) . O que geralmente é chamado de estatística de Wald épθθ^θI(θ)
(θ^−θ)TI(θ^)(θ^−θ)
onde é a informação de Fisher avaliada no estimador de máxima verosimilhança. Sob condições de regularidade, a estatística Wald segue assintoticamente uma distribuição de χ 2 com graus de liberdade p quando θ é o parâmetro verdadeiro. A estatística Wald pode ser usada para testar uma hipótese simples H 0 : θ = θ 0 em todo o vetor de parâmetros.Eu( θ^)χ2pθH0 0: θ = θ0 0
Com o inverso informação de Fisher a estatística de teste de Wald da hipótese H 0 : θ 1 = θ 0 , 1 é
( θ 1 - θ 0 , 1 ) 2Σ ( θ ) = I( θ )- 1H0 0: θ1= θ0 , 1
Sua distribuição assintótica é uma distribuição deχ2com 1 grau de liberdade.
( θ^1- θ0 , 1)2Σ ( θ^)eu eu.
χ2
Para o modelo normal, onde é o vector de média e variância dos parâmetros, a estatística de teste de Wald de testar se μ = μ 0 é
N ( μ - μ 0 ) 2θ = ( μ , σ2)μ = μ0 0
comno tamanho da amostra. Aquiσ2é o estimador de máxima probabilidade deσ2(onde você dividir porn). Aestatística do testeté
√
n ( μ^- μ0 0)2σ^2
nσ^2σ2nt
onde
s2é o estimador imparcial da variância (onde você divide pelo
n-1). A estatística do teste de Wald é quase, mas não exatamente, igual ao quadrado daestatística do teste
t, mas é assintoticamente equivalente quando
n→∞. Aestatística do teste
tquadradotem umadistribuiçãoexata de
F(1,n-1), que converge para adistribuiçãodo
χ2com 1 grau de liberdade para
n→∞.
n−−√(μ^−μ0)s
s2n−1tn→∞tF(1,n−1)χ2n→∞
A mesma história se aplica ao teste na ANOVA unidirecional.F
O @NRH deu uma boa resposta teórica, aqui está uma que pretende ser mais simples, mais intuitiva.
Observe também que, se você esquadrar uma variável aleatória que se segue à distribuição, ela seguirá uma distribuição F com 1 df para o numerador e o denominador df serão os da distribuição t. Observe também que uma distribuição F com denominador infinito df é uma distribuição qui-quadrado. Isso significa que tanto a estatística t (ao quadrado) quanto a estatística F são assintoticamente qui-quadrado, assim como a estatística de Wald. Nós apenas usamos a distribuição mais exata na prática.
fonte