Os resíduos são "previstos menos reais" ou "reais menos previstos"

Eu já vi "resíduos" definidos de várias maneiras como sendo "valores preditos menos reais" ou "valores reais menos preditos". Para fins de ilustração, para mostrar que as duas fórmulas são amplamente usadas, compare as seguintes pesquisas na Web:

• residual "previsto menos real"
• residual "menos real previsto"

Na prática, quase nunca faz diferença, uma vez que o sinal dos resíduos invidividuais geralmente não importa (por exemplo, se eles são quadrados ou se os valores absolutos são tomados). No entanto, minha pergunta é: uma dessas duas versões (previsão primeiro versus real primeiro) é considerada "padrão"? Eu gosto de ser consistente no meu uso; portanto, se houver um padrão convencional bem estabelecido, eu preferiria segui-lo. No entanto, se não houver um padrão, fico feliz em aceitá-lo como resposta, se for demonstrado de forma convincente que não existe uma convenção padrão.

Os resíduos são sempre reais menos o previsto. Os modelos são: Assim, os resíduos £ , que são estimativas de erros ε : ε = y -

Concordo com @whuber que o sinal realmente não importa matematicamente. É bom ter uma convenção. E a convenção atual é como na minha resposta.

Como o OP desafiou minha autoridade nesse assunto, estou adicionando algumas referências:

• " (2008) Residual. In: The Concise Encyclopedia of Statistics. Springer, Nova York, NY , que dá a mesma definição.
• Os "Métodos Estatísticos para Pesquisadores" de Fisher, de 1925, também têm a mesma definição, consulte a Seção 26 nesta versão de 1934 . Apesar do título modesto, este é um trabalho importante no contexto histórico

Acabei de encontrar um motivo convincente para uma resposta ser a correta.

A regressão (e a maioria dos modelos estatísticos de qualquer tipo) diz respeito a como as distribuições condicionais de uma resposta dependem de variáveis ​​explicativas. Um elemento importante da caracterização dessas distribuições é uma medida geralmente denominada "assimetria" (embora várias fórmulas tenham sido oferecidas): refere-se à maneira mais básica pela qual a forma distributiva se afasta da simetria. Aqui está um exemplo de dados bivariados (uma resposta e uma única variável explicativa x ) com respostas condicionais inclinadas positivamente:$y$$x$

A curva azul é o ajuste mínimo dos quadrados comuns. Traça os valores ajustados.

Quando calculamos a diferença entre uma resposta e seu valor equipada y , mudamos o local da distribuição condicional, mas não de outra forma alterar a sua forma. Em particular, sua assimetria não será alterada.$y$$\hat y$

Este é um gráfico de diagnóstico padrão que mostra como as distribuições condicionais alteradas variam com os valores previstos. Geometricamente, é quase o mesmo que "antecipar" o gráfico de dispersão anterior.

Se em vez disso, calcular a diferença na outra este vai deslocar e depois inverter a forma da distribuição condicional. Sua assimetria será negativa da distribuição condicional original.$\hat y - y,$

Isso mostra as mesmas quantidades da figura anterior, mas os resíduos foram calculados subtraindo os dados de seus ajustes - o que, é claro, é o mesmo que negar os resíduos anteriores.

Embora ambas as figuras anteriores sejam matematicamente equivalentes em todos os aspectos - uma é convertida na outra simplesmente lançando os pontos no horizonte azul - uma delas tem uma relação visual muito mais direta com a trama original.

Conseqüentemente, se nosso objetivo é relacionar as características distributivas dos resíduos às características dos dados originais - e quase sempre é esse o caso - , é melhor simplesmente mudar as respostas do que mudá-las e revertê-las.

A resposta certa é clara: calcular seus resíduos como $y - \hat y.$

Green & Tashman (2008, Foresight ) relatam uma pequena pesquisa sobre a questão análoga de erros de previsão. Vou resumir argumentos para qualquer convenção, conforme relatado por eles:

Argumentos para "previsão real"

1. A convenção estatística é .$y=\hat{y}+\epsilon$

2. Pelo menos um entrevistado da sismologia escreveu que esta também é a convenção para modelar o tempo de viagem das ondas sísmicas. "Quando a onda sísmica real chega antes do tempo previsto pelo modelo, temos um tempo de viagem negativo residual (erro)." ( sic )

3. Esta convenção faz sentido se interpretamos y como um orçamento, plano ou meta. Aqui, um erro positivo significa que o orçamento / plano / meta foi excedido.$\hat{y}$

4. Esta convenção torna as fórmulas para suavização exponencial um pouco mais intuitivas. Podemos usar um sinal de . Com a outra convenção, precisaríamos usar um sinal de - .$+$$-$

Argumentos para "predito-real"

1. Se , então um erro positivo indica que a previsão era demasiado elevado. Isso é mais intuitivo que o inverso.$y=\hat{y}-\epsilon$

   De maneira semelhante, se um viés positivo for definido como erros esperados positivos , isso significa que as previsões são, em média, muito altas com esta convenção.

   E este é praticamente o único argumento dado para esta convenção. Por outro lado, considerando os mal-entendidos que a outra convenção pode levar (erros positivos = previsão muito baixa), é forte.

No final, eu argumentaria que tudo se resume a quem você precisa comunicar seus resíduos. E, como certamente há dois lados nessa discussão, faz sentido anotar explicitamente qual convenção você segue.

Terminologia diferente sugere convenções diferentes. O termo "residual" implica que é o que resta depois que todas as variáveis ​​explicativas foram levadas em consideração, isto é, o previsto. "Erro de previsão" implica que é quanto a previsão se desvia do real, ou seja, previsão atual.

$X = x_1,x_2...$$y$$\hat y$

$y$$\hat y$$X$$y$$\hat y$$\hat y$$y$$\hat y$$\hat y$$y$$\hat y$$y$$e = \hat y -y$

$\hat y$$X$$X$$x \rightarrow f(X)\rightarrow f(X)+error()$$\hat y$$X$$y$$\sqrt{\frac{2x}{g}}$

$\hat y = \sqrt{\frac{2x}{g}}$
$y = \hat y +error$

$\hat y$$y$$\hat y$$X$

$\sqrt{\frac{2x}{g}}$$y = \hat y +error$

$X$

$\hat y = f(X)$
$y = \hat y+g(?)$
$g = y-\hat y$

A resposta de @Aksakal está completamente correta, mas vou adicionar um elemento adicional que acho que me ajuda (e meus alunos).

O lema: As estatísticas são "perfeitas". Como sempre, sempre posso fornecer a previsão perfeita (eu sei que algumas sobrancelhas estão se levantando agora ... então me ouça).

$y_i$$\hat{y}_i$

$\epsilon_i$

$\newcommand{\e}{\varepsilon}$$Y = X\beta + \e$$\e = Y - X\beta$$\hat \e = Y - \hat Y$$Y = X\beta - \e$$\e = X\beta - Y \implies \hat \e = \hat Y - Y$$1$$-1$

$\hat \e = Y - \hat Y$$(I - P_X)Y$$I - P_X$$X$$Y = X\beta - \e$$\hat \e = (P_X - I)Y$$P_X - I$$(P_X - I)^2 = P_X^2 - 2P_X + I = -(P_X - I)$$P_X - I$$I - P_X$$Y = X\beta - \e$$Y = X\beta + \e$$Y - \hat Y$

$\hat Y - Y$$Y - \hat Y$