Um tipo especial de algoritmo Markov Chain Monte Carlo (MCMC) usado para simular distribuições de probabilidade complexas. É validado pela teoria da cadeia de Markov e oferece uma ampla gama de implementações possíveis.
Eu tenho tentado aprender métodos do MCMC e me deparei com amostragens de Metropolis Hastings, Gibbs, Importance e Rejection. Embora algumas dessas diferenças sejam óbvias, ou seja, como Gibbs é um caso especial de Metropolis Hastings quando temos todos os condicionais, outras são menos óbvias,...
Quando estou codificando uma simulação de Monte Carlo para algum problema, e o modelo é bastante simples, utilizo uma amostra básica de Gibbs do livro didático. Quando não é possível usar a amostra de Gibbs, codifico o livro Metropolis-Hastings que aprendi anos atrás. O único pensamento que dou é...
Existem diferentes tipos de algoritmos MCMC: Metropolis-Hastings Gibbs Amostragem de importância / rejeição (relacionada). Por que alguém usaria a amostragem de Gibbs em vez de Metropolis-Hastings? Suspeito que há casos em que a inferência é mais tratável com a amostragem de Gibbs do que com...
Estou lendo sobre o MCMC adaptável (veja, por exemplo, o Capítulo 4 do Manual da Cadeia de Markov Monte Carlo , ed. Brooks et al., 2011; e também Andrieu & Thoms, 2008 ). O principal resultado de Roberts e Rosenthal (2007) é que, se o esquema de adaptação satisfizer a condição de...
Eu estava lendo o Blog de Christian Robert hoje e gostei bastante do novo algoritmo de Metropolis-Hastings que ele estava discutindo. Parecia simples e fácil de implementar. Sempre que codifico o MCMC, costumo seguir algoritmos MH muito básicos, como movimentos independentes ou passeios aleatórios...
Acabei de ler sobre a amostragem de Gibbs e o algoritmo Metropolis Hastings e tenho algumas perguntas. Pelo que entendi, no caso da amostragem de Gibbs, se tivermos um grande problema multivariado, coletamos amostras da distribuição condicional, ou seja, amostramos uma variável enquanto mantemos...
Eu estava revisando a documentação do Stan, que pode ser baixada aqui . Eu estava particularmente interessado na implementação do diagnóstico Gelman-Rubin. O artigo original Gelman & Rubin (1992) define o potencial fator de redução de escala (PSRF) da seguinte maneira: Deixe que...
Suponha que eu tenho uma função g(x)g(x)g(x) que desejo integrar ∫∞−∞g(x)dx.∫−∞∞g(x)dx. \int_{-\infty}^\infty g(x) dx. Obviamente, assumindo que g(x)g(x)g(x) chega a zero nos pontos finais, sem explosões, boa função. Uma maneira com a qual estou brincando é usar o algoritmo Metropolis-Hastings...
Nas últimas semanas, tenho tentado entender o MCMC e o (s) algoritmo (s) Metropolis-Hastings. Toda vez que acho que entendo, percebo que estou errado. A maioria dos exemplos de código que eu acho on-line implementa algo que não é consistente com a descrição. ie: Eles dizem que implementam...
Passeio aleatório Metropolis-Hasitings com proposta simétrica tem a propriedade de que a probabilidade de aceitaçãoq( x | y) = g( | y- x |)q(x|y)=g(|y-x|)q(x|y)= g(|y-x|) P( Um c c e p t y ) = min { 1 , f( y) / f( x ) }P(umaccept y)=min{1,f(y)/f(x)}P(accept\ y) = \min\{1, f(y)/f(x)\} não...
Nos últimos dias, tenho tentado entender como o Markov Chain Monte Carlo (MCMC) funciona. Em particular, tenho tentado entender e implementar o algoritmo Metropolis-Hastings. Até agora, acho que tenho uma compreensão geral do algoritmo, mas há algumas coisas que ainda não estão claras para mim. Eu...
Eu tenho tentado entender o algoritmo Metropolis-Hastings para escrever um código para estimar os parâmetros de um modelo (ou seja, ). Segundo a bibliografia, o algoritmo Metropolis-Hastings possui as seguintes etapas:f( x ) = a ∗ xf(x)=uma∗xf(x)=a*x Gere Yt∼ q( y| xt)Yt∼q(y|xt)Y_t \sim...
Eu preciso fazer uma simulação para avaliar uma integral de uma função de 3 parâmetros, dizemos , que tem uma fórmula muito complicada. É solicitado o uso do método MCMC para computá-lo e implementar o algoritmo Metropolis-Hastings para gerar os valores distribuídos como , e foi sugerido o uso de 3...
O mgcvpacote para Rpossui duas funções para ajustar as interações do produto tensorial: te()e ti(). Entendo a divisão básica do trabalho entre os dois (ajustando uma interação não linear versus decompondo essa interação em efeitos principais e uma interação). O que não entendo é o porquê te(x1,...
Encontrei este artigo em que diz que na amostra de Gibbs todas as amostras são aceitas. Eu estou um pouco confuso. Como é que, se toda amostra que ela aceita, converge para uma distribuição estacionária? Em geral, o algoritmo de metrópole é aceito como min (1, p (x *) / p (x)) onde x * é o ponto...
Me deparei com o seguinte problema de simulação: dado um conjunto de números reais conhecidos, uma distribuição em é definida por onde indica a parte positiva de . Embora eu possa pensar em um amostrador Metropolis-Hastings visando essa distribuição, pergunto-me se existe um amostrador direto...
No algoritmo Metropolis – Hastings para amostragem de uma distribuição de destino, deixe: πEuπEu\pi_{i} seja a densidade alvo no estadoEuEui , πjπj\pi_j é a densidade alvo no estado propostojjj , heu jhEujh_{ij} é a densidade proposta para a transição para o estadojjj dado o estado atualEuEui...
Tentei simular a partir de uma densidade bivariada usando algoritmos Metropolis em R e não tive sorte. A densidade pode ser expressa como p ( y | x ) p ( x ) , onde p ( x ) é a distribuição de Singh-Maddalap ( x , y)p(x,y)p(x,y)p ( y| x)p(x)p(y|x)p(x)p(y|x)p(x)p ( x )p(x)p(x) p ( x ) = a qxa -...
Na cadeia de Monte Carlo, Metropolis-Hastings Markov, a distribuição da proposta pode ser qualquer coisa, incluindo o gaussiano (de acordo com a Wikipedia). P: Qual é a motivação para usar algo diferente de gaussiano? O trabalho gaussiano, é fácil de avaliar, é rápido e todo mundo entende. Por que...
Em uma implementação do MCMC de modelos hierárquicos, com efeitos aleatórios normais e um Wishart anterior para sua matriz de covariância, a amostragem de Gibbs é normalmente usada. No entanto, se alterarmos a distribuição dos efeitos aleatórios (por exemplo, para Student-t ou outro), a conjugação...