Diferença entre calcular a média de dados e ajustar e ajustar os dados e calcular a média

Se houver, entre ajustar uma linha a vários "experimentos" separados e calcular a média dos ajustes, ou calcular a média dos dados das experiências separadas e ajustar os dados médios. Deixe-me elaborar:

Realizo simulações em computador que geram uma curva, mostradas abaixo. Nós extraímos uma quantidade, vamos chamá-la de "A" ajustando a região linear do gráfico (tempos longos). O valor é simplesmente a inclinação da região linear. Obviamente, há um erro associado a essa regressão linear.

Normalmente, executamos 100 dessas simulações com diferentes condições iniciais para calcular um valor médio de "A". Foi-me dito que é melhor calcular a média dos dados brutos (do gráfico abaixo) em grupos de 10, em seguida, ajustar para "A" e calcular a média dos 10 "A" juntos.

Não tenho intuição de saber se há algum mérito nisso ou se é melhor do que ajustar 100 valores "A" individuais e calcular a média deles.

Imagine que estamos em um contexto de dados em painel onde há variação ao longo do tempo e entre empresas . Pense em cada período como um experimento separado. Entendo sua pergunta como se fosse equivalente estimar um efeito usando:i $t$$i$$t$

• Variação transversal nas médias de séries temporais.
• Médias de séries temporais de variação transversal.

A resposta em geral é não.

A configuração:

Na minha formulação, podemos pensar em cada período de tempo como um experimento separado.$t$

Digamos que você tenha um painel equilibrado de comprimento sobre empresas. Se cada período de tempo etc ..., podemos escrever os dados gerais como:n ( X t , y t$T$$n$$(X_t, \mathbf{y}_t)$

$$Y = \begin{bmatrix} \mathbf{y}_1 \\ \mathbf{y}_2 \\ \ldots \\ \mathbf{y}_n \end{bmatrix} \quad \quad X = \begin{bmatrix} X_1 \\ X_2 \\ \ldots \\ X_n \end{bmatrix}$$

Média de ajustes:

$$\begin{align*} \frac{1}{T} \sum_t \mathbf{b}_t &= \frac{1}{T} \sum_t \left(X_t'X_t \right)^{-1} X_t' \mathbf{y}_t \\ &= \frac{1}{T} \sum_t S^{-1}_t \left( \frac{1}{n} \sum_i \mathbf{x}_{t,i} y_{t,i}\right) \quad \text{where } S_t = \frac{1}{n} \sum_i \mathbf{x}_{t,i} \mathbf{x}_{t,i}' \end{align*}$$

Ajuste das médias:

Em geral, isso não é igual à estimativa baseada na variação transversal das médias das séries temporais (isto é, entre o estimador).

$$\left( \frac{1}{n} \sum_i \bar{\mathbf{x}}_i \bar{\mathbf{x}}_i' \right)^{-1} \frac{1}{n} \sum_i \bar{\mathbf{x}}_i \bar{y}_i$$

Onde etc ...$\bar{\mathbf{x}}_i = \frac{1}{T} \sum_t \mathbf{x}_{t, i}$

Estimativa OLS combinada:

Algo talvez útil para se pensar é a estimativa OLS combinada. O que é isso? Em seguida, use

$$\begin{align*} \hat{\mathbf{b}} &= \left(X'X\right)^{-1}X'Y \\ &= \left( \frac{1}{nT} \sum_t X_t'X_t \right)^{-1} \left( \frac{1}{nT} \sum_t X_t' \mathbf{y}_i \right) \end{align*}$$ $\mathbf{b}_t = \left(X_t'X_t \right)^{-1}X_t' \mathbf{y}_i$ $$\begin{align*} &= \left( \frac{1}{nT} \sum_t X_t'X_t \right)^{-1} \left( \frac{1}{nT} \sum_t X_t'X_t \mathbf{b}_t \right) \end{align*}$$

Vamos e ser nossas estimativas de sobre a amostra completa e no período respectivamente. Então nós temos:$S = \frac{1}{nT} \sum_i X'X$$S_t = \frac{1}{n} X_t'X_t$$\operatorname{E}[\mathbf{x}\mathbf{x}']$$t$

$$\begin{align*} \hat{\mathbf{b}} &= \frac{1}{T} \sum_t \left( S^{-1} S_t \right) \mathbf{b}_t \end{align*}$$

É como uma média das diferentes estimativas específicas de tempo , mas é um pouco diferente. Em certo sentido, você está dando mais peso a períodos com maior variação das variáveis ​​do lado direito.$\mathbf{b}_t$

Caso especial: as variáveis ​​do lado direito são invariantes no tempo e específicas da empresa

Se as variáveis ​​do lado direito de cada empresa forem constantes ao longo do tempo (por exemplo, para qualquer e ), então para todos os teríamos:$i$$X_{t_1} = X_{t_2}$$t_1$$t_2$$S = S_t$$t$

$$\hat{\mathbf{b}} = \frac{1}{T} \sum_t \mathbf{b}_t$$

Comentário divertido:

Este é o caso de Fama e Macbeth em que quando aplicaram essa técnica de média de estimativas transversais para obter erros padrão consistentes ao estimar como os retornos esperados variam com a covariância das empresas com o mercado (ou com outros fatores de carga).

O procedimento de Fama-Macbeth é uma maneira intuitiva de obter erros padrão consistentes no contexto do painel quando os termos do erro são correlacionados transversalmente, mas independentes ao longo do tempo. Uma técnica mais moderna que produz resultados semelhantes é o agrupamento no prazo.

(Observação: não tenho reputação suficiente para comentar, por isso estou postando isso como resposta.)

Para a questão específica colocada, a resposta de fcop está correta: ajustar a média é o mesmo que calcular a média dos ajustes (pelo menos para os mínimos quadrados lineares). No entanto, vale ressaltar que qualquer uma dessas abordagens " on-line " ingênuas pode fornecer resultados tendenciosos, em comparação com o ajuste de todos os dados de uma só vez. Como os dois são equivalentes, vou focar na abordagem "ajustar a média". Essencialmente, o ajuste das curvas médias ignora a incerteza relativa nos valores de entre pontos diferentes . Por exemplo, se , e , então$\bar{y}[x]=\langle y[x]\rangle$$y$$x$$y_1[x_1]=y_2[x_1]=2$$y_1[x_2]=1$$y_1[x_2]=3$$\bar{y}[x_1]=\bar{y}[x_2]=2$ , mas qualquer ajuste de curva deve se preocupar muito mais com desajuste em comparação com .$x_1$$x_2$

Observe que a maioria das plataformas de software científicas deve ter ferramentas para calcular / atualizar um verdadeiro ajuste de mínimos quadrados "online" (conhecido como mínimos quadrados recursivos ). Portanto, todos os dados podem ser usados ​​(se isso for desejável).