O

O famoso artigo de Newey 94 sobre a convergência assintótica de estimadores semiparamétricos com um primeiro passo não paramétrico e um segundo passo paramétrico, http://www.jstor.org/stable/2951752 , estabelece que não importa a taxa de convergência dos estimadores. estimador não paramétrico específico, desde que um número de premissas de regularidade seja cumprido, o estimador do segundo passo é convergente para uma distribuição normal. Aqui estou pedindo intuição por que isso é um processo estocástico complicado, digamos, a distribuição assintótica de Naradaya-Watson converge para essa boa distribuição.$\sqrt{N}$

A prova usual do teorema clássico do limite central (CLT), creio, fornece a maior intuição que existe sobre esse fenômeno. E não é muita intuição de qualquer maneira.

Esta prova "usual" é através de funções características.

Considere uma variável aleatória com função característica$X$

$$\phi_X(t) = E(e^{i tX}), \;\;\;i^2 = -1$$

Agora considere sua versão centralizada e escalada

.

$$Y = \frac {X-\mu}{\sigma} = \frac 1{\sigma}X - \frac {\mu}{\sigma}$$

com . Além disso, Y é a soma de duas variáveis ​​aleatórias independentes, a segunda degenerada (sendo uma constante e, portanto, também independente de tudo). Assim, pelas propriedades da função característica para a soma de duas variáveis ​​aleatórias independentes$E(Y) = 0 , {\rm Var}(Y) E(Y^2)= 1$$Y$

$$\phi_Y(t) = \phi_Y\left(\frac 1{\sigma}t\right)\cdot e^{-i\frac {\mu}{\sigma}t} = E\left[\exp{\left\{it\frac 1{\sigma}X - i\frac {\mu}{\sigma}t\right\}}\right] = E(e^{i tY})$$

$\phi_Y(t)$$Y$$E(Y) =0$

$$\phi_Y(t) = E\left[e^{it\frac 1{\sigma}\cdot 0} + ite^{it\cdot 0}Y + \frac 12 i^2t^2e^{it\cdot 0}Y^2 + o(t^2)= \right]$$

$E(Y) =0$$i^2=-1, E(Y^2) =1$

$$\phi_Y(t) = 1 - \frac {t^2}2 + o(t^2)$$

O "fenômeno" já está aqui porque

$$\frac {t^2}2 = \ln MGF_{Z}(t),\;\; Z\sim {\rm N}(0,1)$$

$\ln MGF_{Z}(t)$

Como isso pode acontecer? Descobrimos aqui uma "lei da natureza", essa conexão fundamental de diferentes "tipos de comportamento incerto" com o tipo específico denominado "distribuição normal padrão" ou é apenas o nosso sistema matemático, através do qual modelamos essa coisa chamada " incerteza ", produzindo alguma conexão artificial que talvez revele algum aspecto de sua própria estrutura interna, mas não tem nada a ver com o mundo real ?

$$Z_n = \frac 1{\sqrt{n}}\sum_{i=1}^nY_i$$

$Y_i$

$$\phi_{Z_n}(t) = \prod_{i=1}^n\phi_{Y}(t\sqrt{n}) = \Big[1 - \frac {t^2}{2n} + o(\frac {t^2}{n})\Big]^n \xrightarrow{n\rightarrow \infty} e^{-t^2/2} = \phi_{Z}(t),\;\; Z\sim {\rm N}(0,1)$$

e entao

$$Z_n \xrightarrow{d} {\rm N}(0,1)$$

... e agora chegamos à distribuição normal padrão adequada. E essa é uma lei da natureza: matemática à parte, simulações por computador à parte, dados do mundo real validam consistentemente esse resultado. Portanto, não há mais "por quê?" aqui - como não pode ser com nenhuma lei da natureza. Nós apenas os descobrimos - e sentimos vontade de ganhar mais intuição quando descobrimos as interconexões entre essas leis (mas isso não é realmente perspicaz, são apenas mais descobertas).

É claro que este é o primeiro e mais simples caso, em uma longa linha de Teoremas de Limites Centrais que lidam cada vez mais com funções mais complicadas e interdependentes de variáveis ​​aleatórias, processos estocásticos, etc., como o mencionado no OP. E há também as generalizações de CLT para distribuições estáveis e não apenas o normal, e não há teoria de valores extremos ... todos esses são aspectos diferentes de uma mesma conclusão: que o comportamento coletivo (mesmo no sentido simples de pool comportamento) é muito mais homogêneo do que comportamentos individuais, mesmo que seja apenas o conjunto desses últimos - e esse deve ser um dos resultados mais contra-intuitivos já encontrados.

PS: Uma tentativa inspirada de intuição de baixo para cima é fornecida por @whuber neste tópico Cross Validated: https://stats.stackexchange.com/questions/3734/what-intuitive-explanation-is-there-for-the-central- teorema do limite