De onde vem o no teorema do limite central (CLT)?

Uma versão muito simples do teorema limitado central, como abaixo que é o CLT de Lindeberg – Lévy. Não entendo por que existe um no lado esquerdo. E o Lyapunov CLT diz mas por que não \ sqrt {s_n} ? Alguém me diria quais são esses fatores, como \ sqrt {n} e \ frac {1} {s_n} ? como os colocamos no teorema?

$$\sqrt{n}\bigg(\bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg) - \mu\bigg)\ \xrightarrow{d}\ \mathcal{N}(0,\;\sigma^2)$$ $\sqrt{n}$ $$\frac{1}{s_n} \sum_{i=1}^{n} (X_i - \mu_i) \ \xrightarrow{d}\ \mathcal{N}(0,\;1)$$ $\sqrt{s_n}$$\sqrt{n}$$\frac{1}{s_n}$

Boa pergunta (+1) !!

Você lembrará que, para variáveis ​​aleatórias independentes e , e . Portanto, a variação de é , e a variação de é .$X$$Y$$Var(X+Y) = Var(X) + Var(Y)$$Var(a\cdot X) = a^2 \cdot Var(X)$$\sum_{i=1}^n X_i$$\sum_{i=1}^n \sigma^2 = n\sigma^2$$\bar{X} = \frac{1}{n}\sum_{i=1}^n X_i$$n\sigma^2 / n^2 = \sigma^2/n$

Isto é para a variação . Para padronizar uma variável aleatória, você a divide por seu desvio padrão. Como você sabe, o valor esperado de é , então a variável$\bar{X}$$\mu$

$$\frac{\bar{X} - E\left( \bar{X} \right)}{\sqrt{ Var(\bar{X}) }} = \sqrt{n} \frac{\bar{X} - \mu}{\sigma}$$ tem o valor esperado 0 e variância 1. Portanto, se ele tende a um gaussiano, deve ser o gaussiano padrão . Sua formulação na primeira equação é equivalente. Ao multiplicar o lado esquerdo por você define a variação para .$\mathcal{N}(0,\;1)$$\sigma$$\sigma^2$

Com relação ao seu segundo ponto, acredito que a equação mostrada acima ilustra que você precisa dividir por e não para padronizar a equação, explicando por que você usa (o estimador de e não .$\sigma$$\sqrt{\sigma}$$s_n$$\sigma)$$\sqrt{s_n}$

Adição: @whuber sugere discutir o porquê da escala . Ele faz isso lá , mas como a resposta é muito longa, tentarei capturar a essência de seu argumento (que é uma reconstrução dos pensamentos de De Moivre).$\sqrt{n}$

Se você adicionar um grande número de + 1 e -1, poderá aproximar a probabilidade de que a soma seja por contagem elementar. O log desta probabilidade é proporcional a . Portanto, se quisermos que a probabilidade acima converja para uma constante à medida que aumenta, precisamos usar um fator de normalização em .$n$$j$$-j^2/n$$n$$O(\sqrt{n})$

Usando ferramentas matemáticas modernas (post de Moivre), você pode ver a aproximação mencionada acima observando que a probabilidade procurada é

$$P(j) = \frac{{n \choose n/2+j}}{2^n} = \frac{n!}{2^n(n/2+j)!(n/2-j)!}$$

que aproximamos pela fórmula de Stirling

$$P(j) \approx \frac{n^n e^{n/2+j} e^{n/2-j}}{2^n e^n (n/2+j)^{n/2+j} (n/2-j)^{n/2-j} } = \left(\frac{1}{1+2j/n}\right)^{n+j} \left(\frac{1}{1-2j/n}\right)^{n-j}.$$

$$\log(P(j)) = -(n+j) \log(1+2j/n) - (n-j) \log(1-2j/n) \\ \sim -2j(n+j)/n + 2j(n-j)/n \propto -j^2/n.$$

Existe uma boa teoria de que tipo de distribuições pode estar limitando as distribuições de somas de variáveis ​​aleatórias. O recurso interessante é o seguinte livro de Petrov, do qual eu pessoalmente gostei imensamente.

Acontece que, se você está investigando limites desse tipo que são variáveis ​​aleatórias independentes, as distribuições de limites são apenas certas distribuições.

$$\frac{1}{a_n}\sum_{i=1}^nX_n-b_n, \quad (1)$$ $X_i$

Há muita matemática por aí, o que se resume a vários teoremas que caracterizam completamente o que acontece no limite. Um desses teoremas é devido a Feller:

Teorema Seja uma sequência de variáveis ​​aleatórias independentes, seja a função de distribuição de e seja uma sequência de constante positiva. Para que$\{X_n;n=1,2,...\}$$V_n(x)$$X_n$$a_n$

$$\max_{1\le k\le n}P(|X_k|\ge\varepsilon a_n)\to 0, \text{ for every fixed } \varepsilon>0$$

e

$$\sup_x\left|P\left(a_n^{-1}\sum_{k=1}^nX_k<x\right)-\Phi(x)\right|\to 0$$

é necessário e suficiente que

$$\sum_{k=1}^n\int_{|x|\ge \varepsilon a_n}dV_k(x)\to 0 \text{ for every fixed }\varepsilon>0,$$

$$a_n^{-2}\sum_{k=1}^n\left(\int_{|x|<a_n}x^2dV_k(x)-\left(\int_{|x|<a_n}xdV_k(x)\right)^2\right)\to 1$$

e

$$a_n^{-1}\sum_{k=1}^n\int_{|x|<a_n}xdV_k(x)\to 0.$$

Esse teorema dá uma idéia de como deve ser um .$a_n$

A teoria geral do livro é construída de tal maneira que a constante normativa é restrita de qualquer forma, mas os teoremas finais que dão condições necessárias e suficientes não deixam espaço para constante normativa além de .$\sqrt{n}$

s representa o desvio padrão da amostra para a média da amostra. s é a variação da amostra para a média da amostra e é igual a S / n. Onde S é a estimativa amostral da variação populacional. Como s = S / √n explica como √n aparece na primeira fórmula. Observe que haveria um σ no denominador se o limite fosse$_n$$_n$$^2$$_n$$^2$$_n$$^2$$_n$$_n$

N (0,1), mas o limite é dado como N (0, σ ). Como S é uma estimativa consistente de σ, ela é usada na segunda equação para tirar σ fora do limite.$^2$$_n$

Intuitivamente, se Z n → N ( 0 , σ 2 ) para alguns σ 2 devemos esperar que Var ( Z n ) é aproximadamente igual a σ 2 ; parece uma expectativa bastante razoável, embora eu não ache necessário em geral. A razão para o $Z_n \to \mathcal N(0, \sigma^2)$$\sigma^2$$\mbox{Var}(Z_n)$$\sigma^2$n na primeira expressão é que a variação de ˉ X n-μvai para0como$\sqrt n$$\bar X_n - \mu$$0$ne então o$\frac 1 n$n está inflando a variação, de modo que a expressão apenas tenha variação igual aσ2. Na segunda expressão, o termosné definido como$\sqrt n$$\sigma^2$$s_n$Σ n i = 1 Var ( X i ) enquanto que a variância do numerador cresce comoΣ n i = 1 Var(Xi), de modo que temos novamente que a variância de toda a expressão é uma constante (1neste caso).$\sqrt{\sum_{i = 1} ^ n \mbox{Var}(X_i)}$$\sum_{i = 1} ^ n \mbox{Var}(X_i)$$1$

Essencialmente, sabemos que algo "interessante" está acontecendo com a distribuição de ˉ X n : = 1n ∑iXi, mas se não o centralizarmos e dimensionarmos adequadamente, não conseguiremos vê-lo. Já ouvi isso descrito algumas vezes como necessidade de ajustar o microscópio. Se não explodirmos (por exemplo) ˉ X -μpor$\bar X_n := \frac 1 n \sum_i X_i$$\bar X - \mu$n então apenas temos ˉ X n-μ→0na distribuição pela lei fraca; um resultado interessante por si só, mas não tão informativo quanto o CLT. Se inflarmos por qualquer fatoranque é dominado por$\sqrt n$$\bar X_n - \mu \to 0$$a_n$n , ainda obtemosumn( ˉ X n-μ)→0enquanto qualquer fatoranque domina$\sqrt n$$a_n(\bar X_n - \mu) \to 0$$a_n$n dáumn( ˉ X n-μ)→∞. Acontece que$\sqrt n$$a_n(\bar X_n - \mu) \to \infty$n é apenas a ampliação correta para poder ver o que está acontecendo neste caso (nota: toda convergência aqui está em distribuição; há outro nível de ampliação que é interessante para uma convergência quase certa, que dá origem à lei da iteração logaritmo).$\sqrt n$