Existência de momento gerando função e variância

Uma distribuição com média finita e variação infinita pode ter uma função geradora de momentos? Que tal uma distribuição com média finita e variação finita, mas infinitos momentos mais altos?

Esta pergunta oferece uma boa oportunidade para coletar alguns fatos sobre funções geradoras de momento ( mgf ).

Na resposta abaixo, fazemos o seguinte:

1. Mostre que se o mgf é finito por pelo menos um valor (estritamente) positivo e um valor negativo, todos os momentos positivos de são finitos (incluindo momentos não íntegros).$X$
2. Prove que a condição no primeiro item acima é equivalente à distribuição de com caudas delimitadas exponencialmente . Em outras palavras, as caudas de caem pelo menos tão rápido quanto as de uma variável aleatória exponencial (até uma constante).$X$$X$$Z$
3. Forneça uma nota rápida sobre a caracterização da distribuição por seu mgf, desde que satisfaça a condição do item 1.
4. Explore alguns exemplos e contra-exemplos para ajudar nossa intuição e, principalmente, para mostrar que não devemos ler importância indevida na falta de finitude do mgf.

Esta resposta é bastante longa, pela qual peço desculpas antecipadamente. Se isso estiver melhor colocado, por exemplo, como um post de blog ou outro local, fique à vontade para fornecer esse feedback nos comentários.

O que o mgf diz sobre os momentos?

O mgf de uma variável aleatória é definido como . Observe que sempre existe, pois é parte integrante de uma função mensurável não negativa. No entanto, se não for finito . Se for finito (nos lugares certos), para todos (não necessariamente um número inteiro), os momentos absolutos (e, portanto, também são finito). Este é o tópico da próxima proposição.m ( t ) = E e t X m ( t ) p > 0 E | X | p < ∞ E X $X \sim F$$m(t) = \mathbb E e^{tX}$$m(t)$ $p > 0$$\mathbb E |X|^p < \infty$$\mathbb E X^p$

Proposição : Se existir e modo que e , então os momentos de todas as ordens de existem e são finitos.t p > 0 m ( t n ) < ∞ m ( t p ) < ∞ $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$$\tp > 0$$m(\tn) < \infty$$m(\tp) < \infty$$X$

Antes de mergulhar em uma prova, aqui estão dois lemas úteis.

Lema 1 : Suponha que tais e existam. Então, para qualquer , . Prova . Isto decorre da convexidade de e da monotonicidade da integral. Para qualquer , existe tal que . Mas, então Portanto, pela monotonicidade da integral, . t p t 0 ∈ [ t n , t p ] m ( t 0 ) < ∞ e x t 0 θ ∈ [ 0 , 1 ] T 0 = θ t n + ( 1 - θ ) t p e t 0 X = e θ t n X + ( 1 - $\tn$$\tp$$t_0 \in [\tn,\tp]$$m(t_0) < \infty$
$e^x$$t_0$$\theta \in [0,1]$$t_0 = \theta \tn + (1-\theta) \tp$E e t 0 X ≤ θ E e t n X + ( 1 - θ ) E e t p X <

$$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$$ $\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

Portanto, se o mgf é finito em dois pontos distintos, é finito para todos os valores no intervalo entre esses pontos.

Lema 2 ( Aninhamento de espaços$L_p$ 0≤q≤p E | X | p <∞ E | X | q <∞ ): Para , se , então . Prova : Duas abordagens são dadas nesta resposta e nos comentários associados .$0 \leq q \leq p$$\mathbb E |X|^p < \infty$$\mathbb E |X|^q < \infty$

Isso nos dá o suficiente para continuar com a prova da proposição.

Prova da proposição . Se e existem como declarado na proposição, assumindo , sabemos pelo primeiro lema que e . Mas, e o lado direito é composto por termos não negativos, portanto, em particular, para qualquer Agora, supondo . A monotonicidade da integral produz . Portanto, todost p > 0 t 0 = min ( - t n , t p ) > 0 m ( - t 0 ) < ∞ m ( t 0 ) < ∞ e - t 0 X + e t 0 X = 2 ∞ ∑ n = 0 t 2 n 0 X 2 $\tn < 0$$\tp > 0$$t_0 = \min(-\tn,\tp) > 0$$m(-t_0) < \infty$$m(t_0) < \infty$k e - t 0 X + e t 0 X ≥ 2 t 2 k 0 X 2 k / ( 2 k )

$$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$$ $k$ E e - t 0 X + E e t 0 X < ∞ E X 2 k < ∞ $$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$$ $\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$$\mathbb E X^{2k} < \infty$até momentos de são finitos. O lema 2 imediatamente nos permite "preencher as lacunas" e concluir que todos os momentos devem ser finitos.$X$

Resultado

O resultado da questão em questão é que, se algum dos momentos de é infinito ou não existe, podemos concluir imediatamente que o mgf não é finito em um intervalo aberto contendo a origem. (Esta é apenas a afirmação contrapositiva da proposição.)$X$

Assim, a proposição acima fornece a condição "correta" para dizer algo sobre os momentos de base em seu mgf.$X$

Caudas exponencialmente delimitadas e mgf

Proposição : O mgf é finito em um intervalo aberto contendo a origem se, e somente se, as caudas de estiverem exponencialmente delimitadas , ou seja, para alguns e .( t n , t p ) F P ( | X | > x ) ≤ C e - t 0 x C > 0 t 0 > $m(t)$$(\tn,\tp)$$F$$\mathbb P( |X| > x) \leq C e^{-t_0 x}$$C > 0$$t_0 > 0$

Prova . Lidaremos com a cauda direita separadamente. A cauda esquerda é manuseada de maneira completamente análoga.

m ( t 0 ) < ∞ t 0 > 0 F C > 0 b > 0 P ( X > x ) ≤ C e - b $(\Rightarrow)$ Suponha que para alguns . Então, a cauda direita de é exponencialmente delimitada ; em outras palavras, existe e tal que Para ver isso, observe que, para qualquer , pela desigualdade de Markov, Tome e para completar esta direcção da prova.$m(t_0) < \infty$$t_0 > 0$$F$$C > 0$$b > 0$t > 0 P ( X > x ) = P ( e t X > e t x ) ≤ e - t x E e t X = m ( t ) e - t

$$\mathbb P(X > x) \leq C e^{-b x} \>.$$ $t > 0$C = m ( t 0 ) b = t $$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$$ $C = m(t_0)$$b = t_0$

C > 0 T 0 > 0 P ( X > X ) ≤ C e - T 0 x t > 0 E de e t X = ∫ ∞ 0 P ( e t X > y $(\Leftarrow)$ Supondo que exista e tal que . Então, para , que a primeira igualdade segue de um fato padrão sobre a expectativa de variáveis ​​aleatórias não-negativas . Escolha qualquer tal que ; então, a integral do lado direito é finita.$C >0$$t_0 > 0$$\mathbb P(X > x) \leq C e^{-t_0 x}$$t > 0$t 0 < t < t

$$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$$ $t$$0 < t < t_0$

Isso completa a prova.

Uma observação sobre a exclusividade de uma distribuição, dada sua mgf

Se o mgf é finito em um intervalo aberto contendo zero, a distribuição associada é caracterizada por seus momentos , ou seja, é a única distribuição com os momentos . Uma prova padrão é curta quando se tem em mãos alguns fatos (relativamente diretos) sobre funções características . Detalhes podem ser encontrados na maioria dos textos de probabilidade modernos (por exemplo, Billingsley ou Durrett). Alguns assuntos relacionados são discutidos nesta resposta .$\mu_n = \mathbb E X^n$

Exemplos e contra-exemplos

( Um ) de distribuição lognormal : é lognormal se para alguma variável aleatória normal . Então com probabilidade um. Como para todos , isso nos diz imediatamente que para todos os . Portanto, o mgf é finito na meia-linha não-negativa . ( NB: Usamos apenas a não-negatividade de para estabelecer esse fato, portanto isso é verdade para todas as variáveis ​​aleatórias não-negativas).X $X$$X = e^Y$$Y$$X \geq 0$$e^{-x} \leq 1$$x \geq 0$$m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$$(-\infty,0]$$X$

No entanto, para todos os . Tomaremos o lognormal padrão como o caso canônico. Se , . Por alteração de variáveis, temos Para e suficientemente grande , temos pelos limites dados acima. Mas, para qualquer e, portanto, o mgf é infinito para todos os .$m(t) = \infty$ $t > 0$$x > 0$$e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

$$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$$ $t > 0$$u$$t e^u - u^2/2 \geq t+tu$ $$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$$ $K$$t > 0$

Por outro lado, todos os momentos da distribuição lognormal são finitos. Portanto, a existência do mgf em um intervalo próximo de zero não é necessária para a conclusão da proposição acima .

( b ) Lognormal simétrico : podemos obter um caso ainda mais extremo "simetrizando" a distribuição lognormal. Considere a densidade para tal que Não é difícil ver à luz do exemplo anterior que o mgf é finito apenas para . No entanto, os momentos pares são exatamente iguais aos do lognormal e os momentos ímpares são zero! Portanto, o mgf não existe em nenhum lugar (exceto na origem onde sempre existe) e, no entanto, podemos garantir momentos finitos de todas as ordens.$f(x)$$x \in \mathbb R$

$$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$$ $t = 0$

( c ) Distribuição Cauchy : Essa distribuição também possui um mgf que é infinito para todos os , mas não há momentos absolutos são finitos para . O resultado para o mgf segue para pois para e assim A prova para é análoga. (Talvez um pouco menos conhecido é que os momentos para faz existir para o Cauchy. Veja esta respostaE | X $t \neq 0$$\mathbb E|X|^p$$p \geq 1$$t > 0$$e^x \geq x^3 / 6$$x > 0$

$$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$$ $t < 0$$0 < p < 1$ .)

( d ) Distribuição Half-Cauchy : Se é Cauchy (padrão), chameuma variável aleatória meio Cauchy. Então, é fácil ver no exemplo anterior que para todos os ; ainda, é finito para . Y = | X | E Y p = ∞ p ≥ 1 E e t Y t ∈ ( - ∞ , 0 $X$$Y = |X|$$\mathbb E Y^p = \infty$$p \geq 1$$\mathbb E e^{tY}$$t \in (-\infty,0]$