Como testar se as inclinações no modelo linear são iguais a um valor fixo?

9

Suponha que tenhamos um modelo de regressão linear simples e gostaríamos de testar a hipótese nula relação à alternativa geral. $Z = aX + bY$ $H_0: a=b=\frac{1}{2}$

Acho que se pode usar a estimativa de e e aplicar ainda um teste para obter o intervalo de confiança em torno de . Tudo bem? $\hat{a}$ $SE(\hat{a})$ $Z$ $\frac{1}{2}$

A outra questão está fortemente relacionada a essa. Suponha que tenhamos uma amostra e calculemos estatísticas $\{(x_1,y_1,z_1),\ldots ,(x_n,y_n,z_n) \}$ $\chi^2$

\sum_{i = 1}^{n} \frac{(z_{i} - \frac{x_{i} + y_{i}}{2})^{2}}{\frac{x_{i} + y_{i}}{2}} .

$\begin{equation} \sum_{i=1}^n \frac{(z_i-\frac{x_i+y_i}{2})^2}{\frac{x_i+y_i}{2}}. \end{equation}$ Essas estatísticas podem ser usadas para testar a mesma hipótese nula?

hypothesis-testing regression Lan
fonte

8

Na regressão linear, a suposição é que e não são variáveis aleatórias. Portanto, o modelo $X$ $Y$

Z = a X + b Y + ϵ

$Z = a X + b Y + \epsilon$

é algebricamente o mesmo que

Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2}) X + (b - \frac{1}{2}) Y + ϵ = α X + β Y + ϵ .

$Z - \frac{1}{2} X - \frac{1}{2} Y = (a - \frac{1}{2})X + (b - \frac{1}{2})Y + \epsilon = \alpha X + \beta Y + \epsilon.$

Aqui, e . O termo de erro não é afetado. Ajuste esse modelo, estimando os coeficientes como e , respectivamente, e teste a hipótese da maneira usual. $\alpha = a - \frac{1}{2}$ $\beta =b - \frac{1}{2}$ $\epsilon$ $\hat{\alpha}$ $\hat{\beta}$ $\alpha = \beta = 0$

A estatística escrita no final da pergunta não é uma estatística qui-quadrado, apesar de sua similaridade formal com uma. Uma estatística qui-quadrado envolve contagens , não valores de dados e deve ter valores esperados em seu denominador, não covariáveis. É possível que um ou mais dos denominadores sejam zero (ou próximos a ele), mostrando que algo está seriamente errado com essa formulação. Se mesmo isso não for convincente, considere que as unidades de medida de , e podem ser qualquer coisa (como drams, parsecs e bicadas), de modo que uma combinação linear como é (em geral) sem sentido. Não testa nada. $\frac{x_i+y_i}{2}$ $Z$ $X$ $Y$ $z_i - (x_i+y_i)/2$

whuber
fonte

11

Obrigado pela sua resposta. Foi muito útil. Na verdade, não fui muito preciso na formulação da segunda parte da pergunta. Imagine que xs e ys são números positivos, medidos nas mesmas unidades. Os zs (resultado observado) de alguma forma medem a "interação" nesse sentido: se não houver interação, os zs devem ser (x + y) / 2 (resultado esperado). Portanto, do meu ponto de vista, era o mesmo usar a regressão com a hipótese nula a = b = 1/2 ou comparar a qualidade do ajuste usando as estatísticas chi ^ 2 de Pearson. Isto faz algum sentido? Obrigado!

Lan

11

@Lan Acho que a resposta de Wolfgang ilustra bem como fazer o teste que você está propondo. É um exemplo do que significou testar uma hipótese "da maneira usual".

whuber

9

Você pode testar esta hipótese com um teste de modelo completo versus reduzido. Aqui está como você faz isso. Primeiro, ajuste o modelo e obtenha os resíduos desse modelo. Esquadre os resíduos e some-os. Esta é a soma do erro quadrado do modelo completo. Vamos chamar isso de . A seguir, calcular onde . Esses são seus resíduos sob a hipótese nula. Esquadre-os e resuma-os. Esta é a soma do erro quadrado do modelo reduzido. Vamos chamar isso . $Z = aX + bY$ $SSE_f$ $Z - \hat{Z}$ $\hat{Z} = 1/2*X + 1/2*Y$ $SSE_r$

Agora calcule:

F = , $((SSE_r - SSE_f)/2) / (SSE_f / (n-2))$

onde é o tamanho da amostra. Sob , essa estatística F segue uma distribuição F com e graus de liberdade. $n$ $H_0$ $2$ $n-2$

Aqui está um exemplo usando R:

x <- rnorm(n)
y <- rnorm(n)
z <- 1/2*x + 1/2*y + rnorm(n) ### note I am simulating under H0 here

res <- lm(z ~ x + y - 1)
summary(res)
SSE.f <- sum(resid(res)^2)

zhat  <- 1/2*x + 1/2*y
SSE.r <- sum((z-zhat)^2)

F <- ((SSE.r - SSE.f) / 2) / (SSE.f / (n-2))
pf(F, 2, n-2, lower.tail=FALSE) ### this is the p-value

Rejeite o valor nulo se o valor-p estiver abaixo de 0,05 (se o seu for realmente 0,05). $\alpha$

Presumo que você realmente quisesse que seu modelo não contivesse uma interceptação. Em outras palavras, suponho que você esteja realmente trabalhando com o modelo e não . $Z = aX + bY$ $Z = c + aX + bY$

Wolfgang
fonte

Como testar se as inclinações no modelo linear são iguais a um valor fixo?

Respostas: