O que a fórmula y ~ x + 0 em R realmente calcula?

Qual é a diferença estatística entre fazer uma regressão linear em R com o formulaconjunto para em y ~ x + 0vez de y ~ x? Como interpreto esses dois resultados diferentes?

multiple-regression generalized-linear-model intercept JimBoy
fonte

Respostas:

Adicionar +0(ou -1) a uma fórmula de modelo (por exemplo, in lm()) em R suprime a interceptação. Isso geralmente é considerado uma coisa ruim a se fazer; Vejo:

A inclinação estimada é calculada de maneira diferente, dependendo se a interceptação também é estimada, a saber:

\begin{aligned} (com interceptação) & {\hat{β}}_{1 1} & = \frac{\sum x_{Eu} y_{Eu} - \frac{(\sum x_{Eu}) (\sum y_{Eu})}{N}}{\sum x_{Eu}^{2} - \frac{(\sum x_{Eu})^{2}}{N}} \\ (sem interceptação) & {\hat{β}}_{1 1} & = \frac{\sum x_{Eu} y_{Eu}}{\sum x_{Eu}^{2}} \end{aligned}

$\begin{align} \hat\beta_1 &= \frac{\sum x_iy_i - \frac{\big(\sum x_i\big)\big(\sum y_i\big)}{N}}{\sum x_i^2 - \frac{\big(\sum x_i\big)^2}{N}} \tag{with intercept} \\[15pt] \hat\beta_1 &= \frac{\sum x_iy_i}{\sum x_i^2} \tag{without intercept} \end{align}$

Como a quantidade a ser subtraída (o "subtraendo") no numerador e no denominador não é necessariamente , a estimativa da inclinação é enviesada quando a interceptação é suprimida. $0$

O valor para também é calculado de maneira diferente; Vejo: $R^2$

Aqui estão as fórmulas subjacentes:

\begin{aligned} (com interceptação) & R^{2} & = 1 1 - \frac{\sum (y_{Eu} - {\hat{y}}_{Eu})^{2}}{\sum (y_{Eu} - \bar{y})^{2}} \\ (sem interceptação) & R^{2} & = 1 1 - \frac{\sum (y_{Eu} - {\hat{y}}_{Eu})^{2}}{\sum y_{Eu}^{2}} \end{aligned}

$\begin{align} R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum (y_i - \bar y)^2} \tag{with intercept} \\[15pt] R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum y_i^2} \tag{without intercept} \end{align}$

- Reinstate Monica
fonte

Obrigado, gung! Se eu suprimir o Intercepto, meus múltiplos R ao quadrado melhoram, de repente. Você pode me ajudar aqui?

Jimboy

Não existe uma maneira acordada de calcular r ao quadrado sem interceptar. OR ao quadrado não tem sua interpretação usual. Fazendo regressão sem uma interceptação é quase sempre uma idéia muito ruim

Repmat

@Repmat: veja também stats.stackexchange.com/questions/171240/…

@ JimBoy: consulte stats.stackexchange.com/questions/171240/…

Depende do contexto (é claro), no lm(...)comando em R suprimirá a interceptação. Ou seja, você faz regressão através da origem.

Observe que a maioria dos livros sobre o assunto da regressão dirá que forçar a interceptação (a qualquer valor) é uma má idéia.

A interpretação de x não muda, mas o valor (comparando com e sem interceptação) muda, às vezes de maneira muito significativa.

Repmat
fonte

Obrigado, Repmat! Recebo estimativas muito diferentes se suprimir a interceptação em comparação com quando não o faço. Além disso, todos os testes t se tornam altamente significativos. Você sabe por que isso é?

Jimboy

A interceptação absorverá quaisquer variáveis que não sejam 0 não contidas no modelo. Sem a interceptação, a variação precisa ir a algum lugar. É por isso que a maioria dos livros, como regra geral, afirma que a regressão sem interceptação está sempre errada. Ou seja, o OLS é sempre tendencioso e consistente nesse caso (com algumas exceções).

Repmat