Valor esperado de um logaritmo natural

22

Eu sei com constantes , então, dado , é fácil de resolver. Eu também sei que você não pode aplicar isso quando é uma função não linear, como neste caso , e para resolver isso, eu tenho que fazer uma aproximação com Taylor. Então, minha pergunta é como resolver ?? também me aproximo de Taylor?a , b E ( X ) E ( 1 / X ) 1 / E ( X ) E ( ln ( 1 + X ) )E(aX+b)=aE(X)+ba,bE(X)E(1/X)1/E(X)E(ln(1+X))

Matt
fonte
4
Sim, você pode aplicar o método delta neste caso.
Michael R. Chernick 29/09/12
5
Você também deve examinar a desigualdade de Jensen.
Kjetil b halvorsen

Respostas:

27

No papel

YW Teh, D. Newman e M. Welling (2006), um algoritmo de inferência bayesiana variacional em colapso para a alocação de Dirichlet latente , NIPS 2006 , 1353–1360.

uma expansão de Taylor de segunda ordem em torno de é usada para aproximar :E [ log ( x ) ]x0=E[x]E[log(x)]

E[log(x)]log(E[x])V[x]2E[x]2.

Essa aproximação parece funcionar muito bem para a aplicação deles.

Modificar isso levemente para atender à questão em questão gera, pela linearidade da expectativa,

E[log(1+x)]log(1+E[x])V[x]2(1+E[x])2.

No entanto, pode acontecer que o lado esquerdo ou o lado direito não exista enquanto o outro existe e, portanto, deve-se tomar cuidado ao empregar essa aproximação.

user1149913
fonte
3
Curiosamente, isso pode ser usado para obter uma aproximação à função digamma.
probabilityislogic
6

Além disso, se você não precisar de uma expressão exata para , muitas vezes o limite fornecido pela desigualdade de Jensen é bom o suficiente: log [ E ( X ) + 1 ] E [ log ( X + 1 ) ]E[log(X+1)]

log[E(X)+1]E[log(X+1)]
dsaxton
fonte
só queria acrescentar: se nenhum cálculo direto for possível e você observar uma única variável , a desigualdade de jensen é sua única opção para obter qualquer resultado útil. Embora a aproximação de Taylor sugerida possa realmente funcionar na práxis, não há justificativa teórica que possa ser usada para motivar a exclusão dos termos restantes. (o que foi dito: mantenha em mente que a série infinitamente taylor de ln (1 + x) converge somente em um raio | x | <1) de qualquer maneira).X
chRrr
Eu acho que deviam ser desde é baixo côncava. loglog
Deep North
5

Suponha que tenha densidade de probabilidade . Antes de começar a aproximar, lembre-se de que, para qualquer função mensurável , é possível provar que no sentido de que, se a primeira integral existe, o mesmo acontece com a segunda e eles têm o mesmo valor.f X g E [ g ( X ) ] = g ( X )XfXg

E[g(X)]=g(X)dP=g(x)fX(x)dx,
zen
fonte
1
Se a segunda integral existir. Não precisa. Tome a distribuição de Cauchy . g(x)=x2
precisa saber é o seguinte
Eu acrescentaria uma segunda camada de pediatria dizendo que você realmente precisa de para que a expectativa seja bem definida. E[|g(X)|]<
probabilityislogic
2
@mpiktas - Essa expectativa realmente existe, mas é infinita. Um exemplo melhor é para a distribuição de Cauchy. Essa expectativa depende de como os limites inferior e superior da integração tendem ao infinito. g(x)=x
probabilityislogic
2
@ pro: Não, você não precisa dessa condição em seu primeiro comentário, e mesmo em uma situação que pode ser muito relevante para essa pergunta! (+1 para o seu segundo comentário, porém, que era algo que eu tinha sido significado para comentar também.)
cardeal
2
@ pro: É suficiente , mas se você comparar seu primeiro comentário com o segundo, verá por que não é necessário ! :-)
cardeal
4

Existem duas abordagens comuns:

  1. Se você conhece a distribuição de , poderá encontrar a distribuição de e, a partir daí, encontrar sua expectativa; alternativamente, você poderá usar a lei do estatístico inconsciente diretamente (ou seja, integrar sobre o domínio de ).ln ( 1 + X ) ln ( 1 + x ) f X ( x ) xXln(1+X)ln(1+x)fX(x)x

  2. Como você sugere, se você conhece os primeiros momentos, pode calcular uma aproximação de Taylor.

Glen_b -Reinstate Monica
fonte