Distribuição de propostas - Metropolis Hastings MCMC

Na cadeia de Monte Carlo, Metropolis-Hastings Markov, a distribuição da proposta pode ser qualquer coisa, incluindo o gaussiano (de acordo com a Wikipedia).

P: Qual é a motivação para usar algo diferente de gaussiano? O trabalho gaussiano, é fácil de avaliar, é rápido e todo mundo entende. Por que eu consideraria mais alguma coisa?

P: Como a distribuição da proposta pode ser qualquer coisa, posso usar uma distribuição uniforme?

A1: De fato, a distribuição gaussiana é provavelmente a distribuição de proposta mais usada, principalmente devido à facilidade de uso. No entanto, pode-se querer usar outras distribuições de proposta pelo seguinte motivo

1. Caudas Pesadas : A distribuição Gaussiana tem caudas leves. Isso significa que possivelmente sugere apenas valores entre . Mas uma distribuição tem caudas mais pesadas e, portanto, pode propor valores mais distantes. Isso garante que a cadeia de Markov resultante explore o espaço de estados mais livremente e possivelmente reduz a autocorrelação. O gráfico abaixo mostra o comparado ao t 1 . Você vê como o t provavelmente proporá mais valores a partir de 0.( x t - 1 - 3 σ , x t - 1 + 3 σ ) t N ( 0 , 1 $N(x_{t-1}, \sigma^2)$$(x_{t-1} - 3\sigma, x_{t-1} + 3\sigma)$$t$$N(0,1)$$t_1$$t$

2. $(0,1)$$(0,1)$
3. Múltiplos modos : quando a distribuição de destino é multimodal, uma proposta gaussiana provavelmente levará a cadeia de Markov a ficar presa perto de um modo. Isto é em parte devido às caudas leves do gaussiano. Portanto, as pessoas usam propostas baseadas em gradiente ou uma mistura de gaussianos como proposta.

Você pode encontrar mais discussões aqui e aqui .

$\infty$$(x_{t-1} - c, x_{t-1} + c)$