Eu tenho tentado aprender métodos do MCMC e me deparei com amostragens de Metropolis Hastings, Gibbs, Importance e Rejection. Embora algumas dessas diferenças sejam óbvias, ou seja, como Gibbs é um caso especial de Metropolis Hastings quando temos todos os condicionais, outras são menos óbvias, como quando queremos usar MH em um amostrador de Gibbs, etc. Alguém tem um maneira simples de ver a maior parte das diferenças entre cada uma delas? Obrigado!
mcmc
monte-carlo
gibbs
metropolis-hastings
importance-sampling
user1398057
fonte
fonte
Respostas:
Conforme detalhado em nosso livro com os métodos estatísticos de George Casella, Monte Carlo , esses métodos são usados para produzir amostras de uma determinada distribuição, com densidade , por exemplo, para ter uma idéia sobre essa distribuição ou para resolver um problema de integração ou otimização relacionado a . Por exemplo, para encontrar o valor de ou o modo da distribuição de quando X ∼ f ( x ) ou um quantil dessa distribuição.f f
Para comparar os métodos de Monte Carlo da cadeia de Monte Carlo e Markov mencionados em critérios relevantes, é necessário definir o plano de fundo do problema e os objetivos do experimento de simulação, uma vez que os prós e contras de cada um variarão de caso para caso.
Aqui estão algumas observações genéricas que certamente não cobrem a complexidade do problema :
fonte
h(x)
significa isso concretamenteh(x)f(x)dx
, em um cenário de análise bayesiano. Estamos tentando obter o posterior, dados o anterior e os dados. No entanto, parece que com todos esses métodos de amostragem estamos tentando aproximarf(x)
. Então, pode-se dizer quef(x)
já é o posterior que estamos procurando, eh(x)
é apenas uma função arbitrária que também podemos colocar junto com o posteriorf(x)
? Ou não entendi direito. Obrigado.