Quais são alguns teoremas que podem explicar (por exemplo, generativamente) por que se espera que os dados do mundo real sejam normalmente distribuídos?
Existem dois que eu conheço:
O Teorema do Limite Central (claro), que nos diz que a soma de várias variáveis aleatórias independentes com média e variância (mesmo quando não são identicamente distribuídas) tende a ser normalmente distribuída
Sejam X e Y RV independentes, contínuos, com densidades diferenciáveis, de modo que a densidade de suas articulações dependa apenas de + . Então X e Y são normais.
(postagem cruzada de mathexchange )
Editar: para esclarecer, não estou afirmando quanto de dados do mundo real são normalmente distribuídos. Estou apenas perguntando sobre teoremas que podem dar uma ideia de que tipo de processos pode levar a dados normalmente distribuídos.
Respostas:
Muitas distribuições limitadoras de RVs discretos (poisson, binomial etc.) são aproximadamente normais. Pense em plinko. Em quase todos os casos em que a normalidade aproximada se mantém, a normalidade entra em ação apenas para amostras grandes.
A maioria dos dados do mundo real NÃO é normalmente distribuída. Um artigo de Micceri (1989) chamado " O unicórnio, a curva normal e outras criaturas improváveis " examinou 440 realizações em larga escala e medidas psicométricas. Ele encontrou muita variabilidade nas distribuições em seus momentos e não havia muita evidência da normalidade (mesmo que aproximada).
Em um artigo de 1977 de Steven Stigler chamado " Do Robust Estimators Work with Real Data ", ele usou 24 conjuntos de dados coletados de famosas tentativas do século 18 para medir a distância da Terra ao Sol e tentativas do século 19 para medir a velocidade da luz. Ele relatou distorção da amostra e curtose na Tabela 3. Os dados são de cauda pesada.
Nas estatísticas, assumimos a normalidade muitas vezes porque torna a probabilidade máxima (ou algum outro método) conveniente. O que os dois artigos citados acima mostram, no entanto, é que a suposição é freqüentemente tênue. É por isso que os estudos de robustez são úteis.
fonte
Há também uma justificativa teórica da informação para o uso da distribuição normal. Dada a média e a variância, a distribuição normal tem entropia máxima entre todas as distribuições de probabilidade com valor real. Existem muitas fontes discutindo essa propriedade. Um breve pode ser encontrado aqui . Uma discussão mais geral da motivação para o uso da distribuição gaussiana envolvendo a maioria dos argumentos mencionados até agora pode ser encontrada neste artigo da revista Signal Processing.
fonte
Na física, é o CLT, que é geralmente citado como uma razão para ter erros normalmente distribuídos em muitas medições.
As duas distribuições de erros mais comuns na física experimental são normais e Poisson. O último é geralmente encontrado em medições de contagem, como decaimento radioativo.
Outra característica interessante dessas duas distribuições é que uma soma de variáveis aleatórias de Gaussian e Poisson pertence a Gaussian e Poisson.
Existem vários livros sobre estatística em ciências experimentais como esta : Gerhard Bohm, Günter Zech, Introdução à estatística e análise de dados para físicos, ISBN 978-3-935702-41-6
fonte
O CLT é extremamente útil ao fazer inferências sobre coisas como a população, porque chegamos lá computando algum tipo de combinação linear de várias medições individuais. Entretanto, quando tentamos inferir sobre observações individuais, especialmente as futuras ( por exemplo , intervalos de previsão), os desvios da normalidade são muito mais importantes se estivermos interessados nas caudas da distribuição. Por exemplo, se tivermos 50 observações, faremos uma grande extrapolação (e salto de fé) quando dizemos algo sobre a probabilidade de uma observação futura ser pelo menos três desvios-padrão da média.
fonte