O que acontece quando eu incluo uma variável ao quadrado na minha regressão?

Começo com minha regressão OLS:

y = β_{0 0} + β_{1} x_{1} + β_{2} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2 D + \varepsilon$ onde D é uma variável dummy, as estimativas tornam-se diferentes de zero com um baixo valor de p. Em seguida, pré-formao um teste de Ramsey RESET e descobri que tenho alguma classificação equivocada da equação, portanto incluo ao quadrado x:

y = β_{0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

O que o termo ao quadrado explica? (Aumento não linear em Y?)
Ao fazer isso, minha estimativa D não varia mais de zero, com um alto valor de p. Como interpreto o termo quadrado na minha equação (em geral)?

Editar: Melhorando a pergunta.

regression multiple-regression interpretation least-squares polynomial seini
fonte

possível duplicata Por ANOVA / Regressão resultados mudam quando controlando para outra variável

Macro

Razão provável:

parece explicar a mesma variablility em

x_{1}^{2}

$x_{1}^2$

D

$D$

y

$y$

steadyfish

Uma coisa que pode ajudar é centralizar

antes de criar seu termo ao quadrado (veja aqui ). Quanto à interpretação do seu termo ao quadrado, eu argumento que é melhor interpretar

x

$x$

como um todo(vejaaqui). Outra questão é que poderá ser necessário uma interacção, que a adição de meios

β_{1} x_{1} + β_{2} x_{1}^{2}

$\beta_1x_1+\beta_2x_1^2$

β_{4} x_{1} D + β_{5} x_{1}^{2} D

$\beta_4x_1D+\beta_5x_1^2D$

gung - Restabelece Monica

Eu não acho que seja realmente uma duplicata dessa pergunta; a solução é diferente (variáveis de centralização funciona aqui, mas não há, se não me engano)

Peter Flom - Reintegrar Monica

@ Peter, eu interpreto essa pergunta como um subconjunto de "Por que quando adiciono uma variável ao meu modelo, o efeito estimar /

valor para algumas outras alterações de variáveis?", Abordado na outra pergunta. Entre as respostas para essas perguntas estão a colinearidade (que o gung alude em sua resposta a essa pergunta) / o conteúdo se sobrepõe entre os preditores (ou seja, entre

, que eu suspeito ser o culpado neste caso). . A mesma lógica se aplica aqui. Não sei ao certo qual é a controvérsia, mas tudo bem se você e outras pessoas discordarem. Felicidades.

p

$p$

D

$D$

(x_{1}, x_{1}^{2})

$(x_1,x_1^2)$

Macro

Respostas:

Bem, primeiro, a variável dummy é interpretada como uma mudança na interceptação. Ou seja, seu coeficiente fornece a diferença na interceptação quando , ou seja, quando , a interceptação é . Essa interpretação não muda ao adicionar o quadrado . $\beta_3$ $D=1$ $D=1$ $\beta_0 + \beta_3$ $x_1$

Agora, o ponto de adicionar um quadrado à série é que você assume que o relacionamento se desvanece em um determinado ponto. Olhando para sua segunda equação

y = β_{0 0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

Tomando o derivado wrt obtém-se $x_1$

\frac{δ y}{δ x_{1}} = β_{1} + 2 β_{2} x_{1}

$\frac{\delta y}{\delta x_1} = \beta_1 + 2\beta_2 x_1$

Resolver esta equação fornece o ponto de virada do relacionamento. Como o usuário 1493368 explicou, isso realmente reflete uma forma inversa de U se e vice-versa. Veja o seguinte exemplo: $\beta_1<0$

\hat{y} = 1.3 + 0,42 x_{1} - 0,32 x_{1}^{2} + 0,14 D

$\hat{y} = 1.3 + 0.42 x_1 - 0.32 x_1^2 + 0.14D$

A derivada wrt é $x_1$

\frac{δ y}{δ x_{1}} = 0,42 - 2 * 0,32 x_{1}

$\frac{\delta y}{\delta x_1} = 0.42 - 2*0.32 x_1$

A resolução de fornece a você $x_1$

\frac{δ y}{δ x_{1}} = 0 0 ⟺ x_{1} \approx 0,66

$\frac{\delta y}{\delta x_1} = 0 \iff x_1 \approx 0.66$

Esse é o ponto em que o relacionamento tem seu ponto de virada. Você pode dar uma olhada na saída do Wolfram-Alpha para a função acima, para obter uma visualização do seu problema.

Lembre-se, ao interpretar o efeito ceteris paribus de uma mudança em em , você deve observar a equação: $x_1$ $y$

Δ y = (β_{1} + 2 β_{2} x_{1}) Δ x

$\Delta y = (\beta_1 + 2\beta_2x_1)\Delta x$

Ou seja, você não pode interpretar isoladamente, depois de adicionar o regressor ao quadrado ! $\beta_1$ $x_1^2$

$D$ $x_1$

altabq
fonte

Oi. Se você tivesse vários preditores, deveria usar derivadas parciais ou derivadas totais (diferenciais)?

skan

Uma derivada parcial ainda é o caminho certo a seguir. A interpretação de todos os coeficientes é ceteris paribus , ou seja, mantendo todo o resto constante. É exatamente o que você está fazendo quando utiliza uma derivada parcial.

Altabq 26/08/16

Veja esta página da UCLA IDRE para complementar a ótima resposta da @ altabq.

Cyrille

Um bom exemplo de incluir quadrado de variável vem da economia do trabalho. Se você assume ycomo salário (ou log de salário) e xcomo idade, incluir x^2significa que está testando a relação quadrática entre uma idade e um salário. O salário aumenta com a idade, à medida que as pessoas se tornam mais experientes, mas com a idade mais alta, o salário começa a aumentar a uma taxa decrescente (as pessoas ficam mais velhas e não serão tão saudáveis para trabalhar como antes) e, em algum momento, o salário não aumenta ( atinge o nível salarial ideal) e depois começa a cair (eles se aposentam e seus ganhos começam a diminuir). Portanto, a relação entre salário e idade é invertida em forma de U (efeito do ciclo de vida). Em geral, para o exemplo mencionado aqui, ageespera-se que o coeficiente seja positivo eage^2negativo. O ponto aqui é que deve haver base teórica / justificativa empírica para incluir o quadrado da variável. A variável dummy, aqui, pode ser pensada como representando o sexo do trabalhador. Você também pode incluir o termo de interação de gênero e idade para examinar se o diferencial de gênero varia de acordo com a idade.

Métricas
fonte