Independência da média da amostra e variância da amostra na distribuição binomial

Deixe . Sabemos que e . Isso implica que a média da amostra e a variação da amostra são dependentes uma da outra? Ou significa apenas que a variação da população pode ser escrita em função da média da população ?E [ X ] = n p V a r [ X ] = n p ( 1 - p $X\sim\mathrm{Binomial}(n,p)$$\mathrm{E}[X]=np$$\mathrm{Var}[X]=np(1-p)$$\bar x$$s^2$

$\bar x$ e são variáveis ​​aleatórias. Podemos calcular sua distribuição conjunta. Vamos tentar o caso não trivial mais simples possível, o de uma amostra de tamanho de uma distribuição Binomial . Existem apenas quatro possibilidades para essa amostra, que são tabuladas juntamente com suas probabilidades (calculadas a partir da independência dos dois elementos da amostra): 2 ( 1 , p $s^2$$2$$(1,p)$

First value | Second value | Mean | Variance | Probability
          0 |            0 |    0 |        0 | (1-p)^2
          0 |            1 |  1/2 |      1/2 | (1-p)p
          1 |            0 |  1/2 |      1/2 | p(1-p)
          1 |            1 |    1 |        0 | p^2

A média prediz perfeitamente a variação neste exemplo. Assim, desde que todas as probabilidades sejam diferentes de zero (ou seja, não é nem ), a média da amostra e a variação da amostra não são independentes.0 $p$$0$$1$

Uma questão interessante é se, em uma família de distribuições, a média determina a variação, a média da amostra e a variação da amostra podem ser independentes. A resposta é sim: pegue qualquer família de distribuições Normais nas quais a variação depende da média, como o conjunto de todas as distribuições Normais . Não importa qual dessas distribuições governe a amostra, a média e a variação da amostra serão independentes, porque esse é o caso de qualquer distribuição Normal.$(\mu, \mu^2)$

Essa análise sugere que questões sobre a estrutura de uma família de distribuições (que dizem respeito a , , etc.) não têm influência sobre questões de independência das estatísticas das amostras de qualquer elemento da família.p $n$$p$$\mu$

A propriedade que, para uma amostra iid, a média da amostra e a variação da amostra são independentes, é uma caracterização da distribuição normal: para nenhuma outra distribuição essa propriedade é válida.

Ver Patel, JK, & Read, CB (1982). Manual da distribuição normal , p. 81 na 1ª edição de 1982, no capítulo "Caracterizações" (pode ter mudado de página na 2ª edição de 1996).

Portanto, para qualquer outra distribuição, a média da amostra e a variação da amostra são estatisticamente dependentes.

O resultado geral referente à média da amostra e à variação da amostra de uma amostra de qualquer distribuição que tenha momentos até o 3d é o seguinte (usando o estimador imparcial para a variação):

$$\operatorname{Cov} (\bar X, s^2) = E(\bar X s^2) - E(x)\operatorname{Var}(x) = \frac 1n E[X-E(x)]^3$$

Em palavras, a covariância entre a média da amostra e a variância da amostra é igual ao terceiro momento central, dividido por . Consequências: $n$

1) À medida que o tamanho da amostra aumenta, os dois tendem a se tornar não correlacionados.

2) Para qualquer distribuição que tenha o terceiro momento central igual a zero, elas não são correlacionadas (embora permaneçam dependentes, para todas as distribuições, exceto a normal). É claro que isso inclui todas as distribuições simétricas sobre sua média, mas também outras distribuições que não são simétricas sobre sua média, mas que ainda têm o terceiro momento central igual a zero , veja este tópico .

$\operatorname{Bernoulli}(p) = \operatorname{Binomial}(1,p).$$N:$

$$\begin{align} Ns^2 = \sum_{k=1}^N (x_k - \overline x)^2 = {} & \left( \sum_k x_k^2 \right) - \left( 2\overline x \sum_i x_k \right) + \left( N\overline x^2 \right) \\[10pt] = {} & \left( \sum_k x_k \right) - 2\overline x \sum_k x_k + \left( n\overline x^2 \right) \\ & \text{since $x_k = 0$ or $1$, so $x_k^2=x_k$} \\[12pt] = {} & N\overline x - 2N\overline x^2 + N \overline x^2 \\[10pt] = {} & N \overline x(1-\overline x), \\[10pt] \text{so } s^2 = {} & \overline x(1-\overline x). \end{align}$$ $n$$1,$$\overline x$$\overline x(1-\overline x).$

$np$$n(1-p)$