Existem assintóticos de terceira ordem?

14

A maioria dos resultados assintóticos nas estatísticas prova que, como um estimador (como o MLE) converge para uma distribuição normal com base em uma expansão taylor de segunda ordem da função de probabilidade. Acredito que exista um resultado semelhante na literatura bayesiana, o "Teorema Bayesiano do Limite Central", que mostra que o posterior converge assintoticamente para um normal comonn

Minha pergunta é - a distribuição converge para algo "antes" de se tornar normal, com base no terceiro termo da série Taylor? Ou isso não é possível em geral?

gabgoh
fonte
(+1) .. boa pergunta. O Teorema Bayesiano do Limite Central é chamado de Aproximação de Laplace, ou seja, o posterior se comporta "mais ou menos" como uma distribuição normal. (converge formalmente posteriores em distribuição para uma distribuição normal)
suncoolsu
Relacionados: stats.stackexchange.com/questions/191492/...
b Kjetil Halvorsen

Respostas:

5

Não é possível que uma sequência "converja" para uma coisa e depois para outra. Os termos de ordem superior em uma expansão assintótica serão zerados. O que eles dizem é como estão próximos de zero para qualquer valor dado de .n

Para o Teorema do Limite Central (como exemplo), a expansão apropriada é a do logaritmo da função característica: a função geradora cumulante (cgf). A padronização das distribuições corrige os zerotes, primeiro e segundo termos do cgf. Os termos restantes, cujos coeficientes são os cumulantes , dependem de maneira ordenada. A padronização que ocorre na CLT (dividindo a soma de n variáveis aleatórias por algo proporcional ao n 1 / 2 --without que a convergência não ocorrerá) faz com que o m th cumulant - que, afinal, depende m th momentos - a ser dividido por ( nnnn1/2mthmth , mas ao mesmo tempo, porque estamos a somantermos, o resultado líquido é que o m th termo ordem é proporcional aN / N m / 2 = N - ( m - 2 ) / 2 . Assim, o terceiro cumulante da soma normalizada é proporcional a1 / n 1 / 2 , o quarto cumulante é proporcional a1 / n(n1/2)m=nm/2nmthn/nm/2=n(m2)/21/n1/21/n, e assim por diante. Estes são os termos de ordem superior. (Para detalhes, consulte este artigo do Yuval Filmus, por exemplo.)

Em geral, uma alta potência negativa de é muito menor que uma baixa potência negativa. Sempre podemos ter certeza disso assumindo um valor suficientemente grande de n . Assim, para n realmente grande , podemos negligenciar todos os poderes negativos de n : eles convergem para zero. Ao longo do caminho de convergência, partidas do limite último são medidos com precisão cada vez maior por os termos adicionais: a 1 / n 1 / 2 prazo é uma "correcção" inicial ou de partida a partir do valor limite; o próximo 1 / nnnnn1/n1/21/ntermo é uma correção menor e mais rápida, adicionada a isso, e assim por diante. Em resumo, os termos adicionais fornecem uma imagem da rapidez com que a sequência converge para o seu limite.

Esses termos adicionais podem nos ajudar a fazer correções para valores finitos (geralmente pequenos) de . Mostram-se o tempo todo, a este respeito, tais como modificação do teste t de Chen , que explora a terceira ordem ( 1 / N 1 / 2 ) prazo.n1/n1/2

whuber
fonte
por alguma razão, não acho sua resposta inteiramente convincente. Concordo que a distribuição precisa ser "esticada" e que não é correto dizer que converge para o X antes de convergir para o normal. Isso seria um erro da minha parte. Ainda acho que deveria existir alguma maneira de escalar a distribuição de tal forma que apenas a quarta ordem e os "momentos" acima sejam zero. Eu preciso pensar um pouco mais sobre o que exatamente que a intensificação coisa fator seria semelhante, se tal coisa existisse
gabgoh
2
@gabgoh Gostaria de saber mais sobre quais aspectos da resposta são fracos. No que diz respeito à escala, você está empacado: já utilizou essa possibilidade na padronização dos elementos da sequência. Se (hipoteticamente) alguma forma de dimensionamento impediria que os terceiros momentos fossem zerados, você contradiz o CLT porque a distribuição limitadora não seria Normal. Há um problema relacionado com assintóticos de estimadores. Freqüentemente, você pode ajustar um estimador para eliminar momentos mais assintoticamente (por exemplo, com bootstrapping): mas isso ainda não pode ser feito escalando sozinho.
whuber
3

Aqui está uma tentativa de responder sua pergunta perspicaz. Vi a inclusão do terceiro termo da série Taylor para aumentar a velocidade de convergência da série para a verdadeira distribuição. No entanto, eu não vi (na minha experiência limitada) o uso de terceiros e momentos superiores.

n1/2n1/2n

Portanto, acho que a resposta para sua pergunta deve ser não . A distribuição assintótica converge para uma distância normal (por CLT, sob condições de regularidade da CLT de Lindberg). No entanto, o uso de termos de ordem superior pode aumentar a taxa de convergência para a distribuição assintótica.

suncoolsu
fonte