Qual é o valor esperado da distribuição Dirichlet modificada? (problema de integração)

É fácil produzir uma variável aleatória com distribuição Dirichlet usando variáveis Gamma com o mesmo parâmetro de escala. E se:

$X_i \sim \text{Gamma}(\alpha_i, \beta)$

Então:

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n)$

Problema O que acontece se os parâmetros da escala não forem iguais?

$X_i \sim \text{Gamma}(\alpha_i, \beta_i)$

Então, qual é a distribuição dessa variável?

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \; ?$

Para mim, seria suficiente saber o valor esperado dessa distribuição.
Preciso de uma fórmula algébrica fechada aproximada que possa ser avaliada muito rapidamente por um computador.
Digamos que a aproximação com precisão de 0,01 seja suficiente.
Você pode assumir que:

$\alpha_i, \beta_i \in \mathbb{N}$

Nota Em resumo, a tarefa é encontrar uma aproximação dessa integral:

$f(\vec{\alpha}, \vec{\beta}) = \int_{\mathbb{R}^n_+} \;\frac{x_1}{\sum_j x_j} \cdot \prod_j \frac{\beta_j^{\alpha_j}}{\Gamma(\alpha_j)} x_j^{\alpha_j - 1} e^{-\beta_j x_j} \;\; dx_1\ldots dx_n$

expected-value dirichlet-distribution gamma-distribution integral Łukasz Lew
fonte

@ Łukasz Você pode dizer mais alguma coisa sobre os parâmetros , e ? É possível obter expressões exatas para e, assim, aproximar as expectativas das proporções, mas, para certas combinações de parâmetros, é possível explorar aproximações Normal ou de ponto de sela com menos trabalho. Eu não acho que haverá um método de aproximação universal, razão pela qual restrições adicionais seriam bem-vindas.

n

$n$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

\sum_{j} X_{j}

$\sum_j{X_j}$

whuber

estão correlacionados, portanto temos que aproximar a própria integral.

é geralmente um número pequeno como 1 ou 2 e às vezes é tão grande quanto 10000. Da mesma forma, w

mas geralmente é 10 vezes maior que

X_{1}

$X_1$

\sum_{j} X_{j}

$\sum_j X_j$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

α_{i}

$\alpha_i$

Łukasz Lew

O problema é com pequenas

. Se todos os

forem grandes, a boa aproximação de toda a integral é:

α_{i}

$\alpha_i$

α_{i}

$\alpha_i$

\frac{α_{1} / β_{1}}{\sum_{j} α_{j} / β_{j}}

$\frac{\alpha_1/\beta_1}{\sum_j \alpha_j/\beta_j}$

Łukasz Lew

@ Asukasz Se você precisa avaliar a expressão da expectativa, por que precisa de uma fórmula algébrica? Estou pensando em aplicar algum truque numérica para obter a expectativa, mas eu preciso de algum feedback :)

deps_stats

Preciso avaliar isso muitas vezes no meu programa. Tem que ser muito rápido, ou seja, sem loops e, de preferência, sem muitas divisões.

Łukasz Lew

Respostas:

Apenas uma observação inicial, se você deseja velocidade computacional, geralmente precisa sacrificar a precisão. "Mais precisão" = "Mais tempo" em geral. De qualquer forma, aqui está uma aproximação de segunda ordem, que deve melhorar a aproximação "bruta" que você sugeriu no seu comentário acima:

E (\frac{X_{j}}{\sum_{i} X_{i}}) \approx \frac{E [X_{j}]}{E [\sum_{i} X_{i}]} - \frac{c o v [\sum_{i} X_{i}, X_{j}]}{E [\sum_{i} X_{i}]^{2}} + \frac{E [X_{j}]}{E [\sum_{i} X_{i}]^{3}} V a r [\sum_{i} X_{i}]

$E\Bigg(\frac{X_{j}}{\sum_{i}X_{i}}\Bigg)\approx \frac{E[X_{j}]}{E[\sum_{i}X_{i}]} -\frac{cov[\sum_{i}X_{i},X_{j}]}{E[\sum_{i}X_{i}]^2} +\frac{E[X_{j}]}{E[\sum_{i}X_{i}]^3} Var[\sum_{i}X_{i}]$

= \frac{α_{j}}{\sum_{i} \frac{β_{j}}{β_{i}} α_{i}} \times [1 - \frac{1}{(\sum_{i} \frac{β_{j}}{β_{i}} α_{i})} + \frac{1}{(\sum_{i} \frac{α_{i}}{β_{i}})^{2}} (\sum_{i} \frac{α_{i}}{β_{i}^{2}})]

$= \frac{\alpha_{j}}{\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}}\times\Bigg[1 - \frac{1}{\Bigg(\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}\Bigg)} + \frac{1}{\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}}\Bigg)^2}\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}^2}\Bigg)\Bigg]$

EDIT Foi solicitada uma explicação para a expansão acima. A resposta curta é a Wikipedia . A resposta longa é dada abaixo.

escreva . Agora precisamos de todos os derivados de "segunda ordem" de. Os derivativos de primeira ordem serão "cancelados" porque todos envolverão múltiploseque são zero quando se toma as expectativas. $f(x,y)=\frac{x}{y}$ $f$ $X-E(X)$ $Y-E(Y)$

\frac{\partial^{2} f}{\partial x^{2}} = 0

$\frac{\partial^2 f}{\partial x^2}=0$

\frac{\partial^{2} f}{\partial x \partial y} = - \frac{1}{y^{2}}

$\frac{\partial^2 f}{\partial x \partial y}=-\frac{1}{y^2}$

\frac{\partial^{2} f}{\partial y^{2}} = 2 \frac{x}{y^{3}}

$\frac{\partial^2 f}{\partial y^2}=2\frac{x}{y^3}$

E assim a série de taylor até a segunda ordem é dada por:

\frac{x}{y} \approx \frac{μ_{x}}{μ_{y}} + \frac{1}{2} (- \frac{1}{μ_{y}^{2}} 2 (x - μ_{x}) (y - μ_{y}) + 2 \frac{μ_{x}}{μ_{y}^{3}} (y - μ_{y})^{2})

$\frac{x}{y} \approx \frac{\mu_x}{\mu_y}+\frac{1}{2}\Bigg(-\frac{1}{\mu_y^2}2(x-\mu_x)(y-\mu_y) + 2\frac{\mu_x}{\mu_y^3}(y-\mu_y)^2 \Bigg)$

Atender às expectativas gera:

E [\frac{x}{y}] \approx \frac{μ_{x}}{μ_{y}} - \frac{1}{μ_{y}^{2}} E [(x - μ_{x}) (y - μ_{y})] + \frac{μ_{x}}{μ_{y}^{3}} E [(y - μ_{y})^{2}]

$E\Big[\frac{x}{y}\Big] \approx \frac{\mu_x}{\mu_y}-\frac{1}{\mu_y^2}E\Big[(x-\mu_x)(y-\mu_y)\Big] + \frac{\mu_x}{\mu_y^3}E\Big[(y-\mu_y)^2\Big]$

Qual é a resposta que eu dei. (embora eu tenha esquecido inicialmente o sinal de menos no segundo período)

probabilityislogic
fonte

Parece exatamente o que eu preciso. Você pode explicar como conseguiu essa expansão? Tentei em uma série de maneiras e foi incapaz de fazer isso ...

Łukasz Lew