Teorema do limite central versus lei de grandes números

14

O teorema do limite central afirma que a média das variáveis ​​iid, como N vai ao infinito, torna-se normalmente distribuída.

Isso levanta duas questões:

  1. Podemos deduzir disso a lei dos grandes números? Se a lei dos números grandes diz que a média de uma amostra dos valores de uma variável aleatória é igual à média verdadeira μ conforme N vai ao infinito, parece ainda mais forte dizer que (como o limite central diz) que o valor se torna N(μ,σ) onde σ é o desvio padrão. É justo dizer que o limite central implica a lei de grandes números?
  2. O teorema do limite central se aplica à combinação linear de variáveis?
user9097
fonte
5
Sua afirmação de que "o teorema do limite central afirma que a média das variáveis ​​iid, como vai ao infinito, torna-se normalmente distribuída" está incorreta. Veja minha resposta a esta pergunta recente, que levanta questões semelhantes. Outra resposta a essa pergunta foi postada, mas excluída logo em seguida, e a discussão a seguir, também desapareceu, discutiu esses problemas também. N
Dilip Sarwate
1
Por que a média da amostra convergindo para a população significa um resultado mais fraco do que a média da amostra convergindo para uma amostra a partir de uma distribuição de N ( µ , σ ) ? μN(μ,σ)
Dilip Sarwate
@DilipSarwate Obrigado pela bandeira, mas seu comentário é IMO o suficiente para revelar conceitos errados na pergunta e respostas razoáveis ​​apareceram.

Respostas:

10

O OP diz

O teorema do limite central afirma que a média das variáveis ​​iid, como N vai ao infinito, torna-se normalmente distribuída.

Vou levar isto para dizer que é convicção da OP que para as variáveis aleatórias iid com média μ e desvio padrão σ , a função de distribuição cumulativa F Z n ( um ) de Z n = 1XiμσFZn(a) converge para a função de distribuição cumulativa deN(μ,σ), uma variável aleatória normal com médiaμe desvio padrãoσ. Ou, o OP acredita em pequenos arranjos dessa fórmula, por exemplo, a distribuição deZn-μconverge para a distribuição deN(0,σ)ou a distribuição de(Zn-μ)/σ

Zn=1ni=1nXi
N(μ,σ)μσZnμN(0,σ)(Znμ)/σconverge para a distribuição de , a variável aleatória normal padrão. Observe como um exemplo que essas instruções implicam que P { | Z n - μ | > σ } = 1 - F Z n ( μ + σ ) + F Z n ( ( μ + σ ) - ) 1 - Φ ( 1 ) + Φ -N(0,1) como n
P{|Znμ|>σ}=1FZn(μ+σ)+FZn((μ+σ))1Φ(1)+Φ(1)0.32
n .

O OP continua dizendo

Isso levanta duas questões:

  1. Podemos deduzir disso a lei dos grandes números? Se a lei dos números grandes diz que a média de uma amostra dos valores de uma variável aleatória é igual à média verdadeira μ quando N vai para o infinito, parece ainda mais forte dizer que (como o limite central diz) que o valor se torna N ( μ, σ) onde σ é o desvio padrão.

Xiμϵ>0

P{|Znμ|>ϵ}0  as n.
Observe que não é necessário assumir que o desvio padrão é finito.

Então, para responder à pergunta do OP,

  • nP{|Znμ|>σ}0.317P{|Znμ|>σ}0

  • A partir de uma afirmação correta do teorema do limite central, pode-se deduzir, na melhor das hipóteses, apenas uma forma restrita da lei fraca de grandes números aplicada a variáveis ​​aleatórias com média finita e desvio padrão. Mas a lei fraca de grandes números também vale para variáveis ​​aleatórias, como variáveis ​​aleatórias de Pareto, com médias finitas, mas desvio padrão infinito.

  • Não entendo por que dizer que a média da amostra converge para uma variável aleatória normal com desvio padrão diferente de zero é uma afirmação mais forte do que dizer que a média da amostra converge para a média da população, que é uma constante (ou uma variável aleatória com desvio padrão zero se você gosta).

Dilip Sarwate
fonte
Eu me pergunto o que a pessoa que rebaixou minha resposta achou censurável ou incorreta no que eu disse.
usar o seguinte
7

X¯nnX¯nX¯n+1digamos. Portanto, não, a convergência na distribuição não implica a lei de grandes números, a menos que você tenha um espaço de probabilidade comum para todas as variáveis.

StasK
fonte
(+1) O que você diz é verdade, e um ponto muito importante. A matriz triangular permite que as variáveis ​​em cada "linha" residam em espaços de probabilidade diferentes das linhas anteriores. Por outro lado, se dissermos a priori que estamos considerando uma sequência de variáveis ​​aleatórias iid, elas implicitamente devem existir em um espaço subjacente comum para que a noção de independência faça muito sentido.
cardeal
@ cardinal: então, se eu entendi corretamente, no caso "simples", onde todos são definidos no mesmo espaço, é o caso que a centralidade implica a lei de grandes números? ou não?
User9097
@ user9097 Como agora estamos entrando em domínios de detalhes finos, sobre qual lei de grandes números está sendo questionada? A lei fraca ou a lei forte?
Dilip Sarwate
Esse ponto é verdade apenas para a forte lei dos grandes números , e não para a lei fraca
b Kjetil Halvorsen
4

Primeiro, embora existam muitas definições, uma das formas padrão do teorema do limite central diz que n(X¯nEX)N(0,Var(X))X¯nX.

Em segundo lugar, suponha que temos duas variáveis ​​aleatórias independentes X e Y. Então

n(1nj=1n(umaXj+Yj)-E(umaX+Y))N(0 0,Vumar(umaX+Y))
ou
numa(X¯n-EX)+n(Y¯n-EY)N(0 0,uma2Vumar(X)+Vumar(Y)).

Em outras palavras, uma combinação linear de variáveis ​​aleatórias não converge para uma combinação linear de normais no CLT, apenas uma normal. Isso faz sentido porque uma combinação linear de variáveis ​​aleatórias é apenas uma variável aleatória diferente na qual o CLT pode ser aplicado diretamente.

Daniel Johnson
fonte
1
This is a good start to an answer. Here are some comments: A linear combination of (joint) normals is normal, soo, I'm not sure what your comment in that regard was intended to mean. At any rate, I suspect the OP was not thinking about linear combinations of the form you consider. Observing that X¯n=i=1nwniXi where wni=1/n for each i=1,,n, a natural question one might ask is what happens when we replace these "uniform" weights with some other (more arbitrary) ones. When do we still get a CLT? Lindeberg's CLT can be used to get at this question.
cardinal
I think with strict conditions my result will still say something about j=1nwnjXj. Lets first define these conditions and then consider how to weaken them. Lets take wnj=wj/n and wj to be a single, infinite sequence of non-negative reals. If the number of distinct wj is finite and each appears infinitely often in the sequence, my result should hold as each wjX defines a random variable and this fits into the 'linear combination' framework I gave above. Then a good question would be if we could allow the number of distinct w scale with n.
Daniel Johnson
1
This is a good comment, and a nice idea, however I believe it would need some modification to work. Assume wlog that EX=0. Construct your wj as follows. Let w1=1, w2=0. Now, define wj inductively as follows: Set wj=0 until i=1jwi/j1/4. Then append ones until i=1jwi/j1/2. Append zeros again, then ones. Repeat ad infinitum. Now, 0 and 1 both occur an infinite number of times, but the variance of the rescaled mean oscillates between 1/2 and 1/4 (roughly). So, your stated sequence cannot converge in distribution.
cardinal
(Note: There is nothing special about the choice of 0 and 1, here. Also, strictly speaking the procedure you describe in the comment does not really fit within the linear-combination framework of your answer.)
cardinal