Algoritmos de Metropolis-Hastings usados ​​na prática

20

Eu estava lendo o Blog de Christian Robert hoje e gostei bastante do novo algoritmo de Metropolis-Hastings que ele estava discutindo. Parecia simples e fácil de implementar.

Sempre que codifico o MCMC, costumo seguir algoritmos MH muito básicos, como movimentos independentes ou passeios aleatórios na escala de log.

Quais algoritmos de MH as pessoas usam rotineiramente? Em particular:

  • Por que você os usa?
  • Em certo sentido, você deve pensar que eles são ótimos - afinal você os usa rotineiramente! Então, como você julga a otimização: facilidade de codificação, convergência, ...

Estou particularmente interessado no que é usado na prática, ou seja, quando você codifica seus próprios esquemas.

mcmc metropolis-hastings csgillespie
fonte
Talvez, CW? A questão parece ser uma pesquisa do que as pessoas usam. Como você definiria a melhor resposta? Eu admito que estou um pouco confuso quando aplicar o CW. Portanto, sinta-se à vontade para ignorar esse comentário, se achar que não.
1
Eu não me importaria de deixar isso como não-CW, especialmente se Colin puder reformular um pouco para permitir a possibilidade de uma melhor resposta. Dito isto, eu não posso imaginar como fazer isso ...
Shane
Eu tentei mudar a pergunta para torná-lo menos CW - não tenho certeza se eu ter conseguido :( @Shane @Srikant se você ainda acha que ele deve ser um CW, sinta-se livre para alterá-lo.
csgillespie
Parece que seria um bom trabalho de pesquisa!
7773 Sean

Respostas:

2

O híbrido Monte Carlo é o algoritmo padrão usado para redes neurais. Amostragem de Gibbs para classificação de processo Gaussiana (quando não se usa uma aproximação determinística).

Dikran Marsupial
fonte
2

A amostragem MH é usada quando é difícil coletar amostras da distribuição alvo (por exemplo, quando o anterior não é conjugado com a probabilidade). Portanto, você usa uma distribuição de proposta para gerar amostras e aceitá-las / rejeitá-las com base na probabilidade de aceitação. O algoritmo de amostragem Gibbs é uma instância específica do MH, onde as propostas são sempre aceitas. A amostragem de Gibbs é um dos algoritmos mais comumente usados ​​devido à sua simplicidade, mas nem sempre é possível aplicar; nesse caso, recorre-se ao MH com base em propostas de aceitação / rejeição.

ebony1
fonte
1

Em física, física estatística em particular, algoritmos do tipo Metropolis são usados ​​extensivamente. Na verdade, existem inúmeras variantes e as novas estão sendo ativamente desenvolvidas. É um tópico muito amplo para oferecer qualquer tipo de expansão aqui, por isso, se você estiver interessado, pode começar, por exemplo, a partir dessas notas de aula ou da página da biblioteca da ALPS (http://alps.comp-phys.org/mediawiki).

ev-br
fonte
Percebo que existem inúmeras variantes desse algoritmo. O que eu estava interessado era em quais as pessoas usam rotineiramente.
Csgillespie 6/09/10
1

Eu uso um amostrador de fatias - originalmente proposto por Neal (2003), que ajusto através da otimização heurística.

M. Tibbits
fonte