Quando o MCMC é útil?

Estou com problemas para entender em que situação a abordagem do MCMC é realmente útil. Estou passando por um exemplo de brinquedo do livro de Kruschke "Fazendo análise de dados bayesiana: um tutorial com R e BUGS".

O que eu entendi até agora é que precisamos de uma distribuição de destino proporcional a para obter uma amostra de . No entanto, parece-me que, uma vez que temos , precisamos apenas normalizar a distribuição para obter a posterior, e o fator de normalização pode ser facilmente encontrado numericamente. Então, quais são os casos em que isso não é possível? $p(D|\theta)p(\theta)$ $P(\theta|D)$ $p(D|\theta)p(\theta)$

mcmc Vaaal
fonte

Suponha que não seja escalar, mas sim um vetor com 10000 dimensões.

θ

$\theta$

θ

$\boldsymbol\theta$

Jan Galkowski

Minha resposta foi um pouco concisa. Para obter a constante, é necessário calcular . Mesmo no caso escalar, suponha que seja realmente instável, portanto é difícil fazer a integração, mesmo numericamente. Então você pode querer usar o MCMC.

\int_{- \infty}^{\infty} p (D | θ) p (θ)

$\int_{-\infty}^{\infty} p(D|\theta)p(\theta)$

p (D | θ)

$p(D|\theta)$

Jan Galkowski

Uma palavra de cautela de Alan Sokal: "Monte Carlo é um método extremamente ruim; deve ser usado apenas quando todos os métodos alternativos são piores". Então ele inicia uma longa discussão sobre os métodos de MC. stat.unc.edu/faculty/cji/Sokal.pdf

Yair Daon

@Yair: Parece-me que Sokal está canalizando Churchill.

cardeal

Quando nada mais vai funcionar ...

b Kjetil Halvorsen

Respostas:

A integração de Monte Carlo é uma forma de integração numérica que pode ser muito mais eficiente do que, por exemplo, integração numérica, aproximando o integrando de polinômios. Isto é especialmente verdade em altas dimensões, onde técnicas simples de integração numérica requerem um grande número de avaliações de funções. Para calcular a constante de normalização $p(D)$ , poderíamos usar amostragem importante ,

p (D) = \int \frac{q (θ)}{q (θ)} p (θ) p (D ∣ θ) d θ \approx \frac{1}{N} \sum_{n} w_{n} p (θ_{n}) p (D ∣ θ_{n}),

$p(D) = \int \frac{q(\theta)}{q(\theta)} p(\theta)p(D \mid \theta) \, d\theta \approx \frac{1}{N} \sum_n w_n p(\theta_n)p(D \mid \theta_n),$

onde e são amostrados de . Observe que precisamos apenas avaliar a distribuição conjunta nos pontos amostrados. Para o certo , esse estimador pode ser muito eficiente no sentido de exigir muito poucas amostras. Na prática, escolher um apropriado $w_n = 1/q(\theta_n)$ $\theta_n$ $q$ $q$ $q$ pode ser difícil, mas é aqui que o MCMC pode ajudar! A amostragem de importância recozida (Neal, 1998) combina o MCMC com a amostragem de importância.

Outra razão pela qual o MCMC é útil é o seguinte: geralmente não estamos tão interessados na densidade posterior de , mas nas estatísticas e expectativas resumidas $\theta$ , por exemplo,

\int p (θ ∣ D) f (θ) d θ .

$\int p(\theta \mid D) f(\theta) \, d\theta.$

Saber $p(D)$ geralmente não significa que podemos resolver essa integral, mas as amostras são uma maneira muito conveniente de estimar.

Finalmente, poder avaliar é um requisito para alguns métodos de MCMC, mas não para todos eles (por exemplo, Murray et al., 2006 ). $p(D \mid \theta)p(\theta)$

Lucas
fonte

Desculpe, mas isso ainda não está claro para mim. Minha pergunta é: se multiplicarmos , obteremos um pdf não normalizado. Ao executar o MCMC, obtemos uma amostra para a qual podemos estimar o pdf não normalizado. Se quisermos, poderíamos normalizar os dois. Então, supondo que eu não esteja interessado em nenhuma estatística resumida, mas apenas nos posteriores, por que usamos o MCMC em primeiro lugar? Como você disse, alguns métodos do MCMC não requerem o cálculo de , portanto, não estou me referindo a eles. Até onde eu sei, a maioria deles exige o cálculo disso. Qual é a utilidade desses métodos?

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$

Vaaal

Ao executar o MCMC, você obtém uma amostra do pdf normalizado, portanto, evite calcular a constante de normalização. E isso é de graça.

Xi'an

@ Vaaal: Sua suposição de que "o fator de normalização pode ser facilmente encontrado numericamente" vale apenas para distribuições univariadas simples. Para alta dimensão , normalizar é geralmente extremamente difícil. Nesse caso, o MCMC ainda pode ser usado para estimar a constante de normalização (por exemplo, através de amostragem de importância recozida).

θ

$\theta$

p (D ∣ θ) p (θ)

$p(D \mid \theta) p(\theta)$

10243 Lucas

Quando você recebe um e uma probabilidade que não são computáveis na forma fechada ou que a distribuição posterior não é de um tipo padrão, não é possível simular diretamente desse alvo em direção a uma aproximação de Monte Carlo da distribuição posterior. Um exemplo típico é feito de modelos hierárquicos com anteriores não conjugados, como os encontrados no livro BUGS . $p(\theta)$ $f(x|\theta)$

p (θ | x) \propto p (θ) f (x | θ)

$p(\theta|x)\propto p(\theta)f(x|\theta)$

Os métodos de simulação indireta, como as técnicas de aceitação-rejeição, proporção de uniforme ou amostragem de importância, costumam ter dificuldades numéricas e de precisão quando a dimensão do parâmetro aumenta além de algumas unidades. $\theta$

Pelo contrário, os métodos de Monte Carlo da cadeia de Markov são mais adaptáveis a grandes dimensões, pois podem explorar a distribuição posterior localmente, ou seja, em uma vizinhança do valor atual e em um número menor de componentes, ou seja, em subespaços. Por exemplo, o amostrador Gibbs valida a noção de que simular a partir de um alvo unidimensional por vez, ou seja, as distribuições condicionais completas associadas a , é suficiente para obter a simulação do verdadeiro posterior a longo prazo. $p(\theta|x)$

Os métodos Monte Carlo da cadeia de Markov também têm um certo grau de universalidade, pois algoritmos como o algoritmo Metropolis-Hastings estão formalmente disponíveis para qualquer distribuição posterior que pode ser calculada até uma constante. $p(\theta|x)$

Nos casos em que não pode ser facilmente calculado, existem alternativas, completando essa distribuição em uma distribuição gerenciável em um espaço maior, como em ou através de métodos não-markovianos como ABC . $p(\theta)f(x|\theta)$

p (θ) f (x | θ) \propto \int g (z | θ, x) p (θ) f (x | θ) d z

$p(\theta)f(x|\theta)\propto \int g(z|\theta,x) p(\theta)f(x|\theta)\text{d}z$

Os métodos MCMC deram um alcance muito mais amplo aos métodos bayesianos, como ilustrado pelo aumento que se seguiu à popularização do método por Alan Gelfand e Adrian Smith em 1990.

Xi'an
fonte

O link para O LIVRO DE BUGS não está mais funcionando.

HelloWorld