Como calcular o intervalo de previsão para uma regressão múltipla OLS?

Faça um modelo de regressão com $N$ observações e $k$ regressores:

y = X β + u

$\mathbf{y=X\beta+u} \newcommand{\Var}{\rm Var}$

Dado um vetor $\mathbf{x_0}$ , o valor previsto para essa observação seria

E [y | x_{0}] = {\hat{y}}_{0} = x_{0} \hat{β} .

$E[y \vert \mathbf{x_0}]=\hat y_0 = \mathbf{x_0} \hat \beta.$ Um estimador consistente da variação dessa previsão é

{\hat{V}}_{p} = s^{2} \cdot x_{0} \cdot (X^{'} X)^{- 1} x_{0}^{'},

$\hat V_p=s^2 \cdot \mathbf{x_0} \cdot(\mathbf{X'X})^{-1}\mathbf{x'_0},$ que

s^{2} = \frac{Σ_{i = 1}^{N} {\hat{u}}_{i}^{2}}{N - k} .

$s^2=\frac{\Sigma_{i=1}^{N} \hat u_i^2}{N-k}.$ O erro de previsão para um

y_{0}

$y_0$ específico é

\hat{e} = y_{0} - {\hat{y}}_{0} = x_{0} β + u_{0} - {\hat{y}}_{0} .

$\hat e=y_0-\hat y_0=\mathbf{x_0}\beta+u_0-\hat y_0.$ A covariância zero entre

u_{0}

$u_0$ e

\hat{β}

$\hat \beta$ implica que

V a r [\hat{e}] = V a r [{\hat{y}}_{0}] + V a r [u_{0}],

$\Var[\hat e]=\Var[\hat y_0]+\Var[u_0],$ e um estimador consistente disso é

{\hat{V}}_{f} = s^{2} \cdot x_{0} \cdot (X^{'} X)^{- 1} x_{0}^{'} + s^{2} .

$\hat V_f=s^2 \cdot \mathbf{x_0} \cdot(\mathbf{X'X})^{-1}\mathbf{x'_0} + s^2.$

O intervalo de $1-\alpha$ $\rm confidence$ será:

y_{0} \pm t_{1 - α / 2} \cdot \sqrt{{\hat{V}}_{p}} .

$y_0 \pm t_{1-\alpha/2}\cdot \sqrt{\hat V_{p}}.$ O intervalo de

1 - α

$1-\alpha$

p r e d i c t i o n

$\rm prediction$ será maior:

y_{0} \pm t_{1 - α / 2} \cdot \sqrt{{\hat{V}}_{f}} .

$y_0 \pm t_{1-\alpha/2}\cdot \sqrt{\hat V_{f}}.$

Dimitriy V. Masterov
fonte

A resposta acima é muito bem feita, mas acho que essa fonte ajuda a fornecer algum contexto para a pergunta.

June Skeeter

@ Dimitriy Eu acredito que seu segundo eqn deve ter uma cenoura / chapéu, '^', sobre o .

β

$\beta$

Don Slowik

O erro de previsão não é o residual: ?

\hat{e} = \hat{u}

$\hat{e}=\hat{u}$

Don Slowik

Respostas: