No algoritmo Metropolis – Hastings para amostragem de uma distribuição de destino, deixe: πEuπEu\pi_{i} seja a densidade alvo no estadoEuEui , πjπj\pi_j é a densidade alvo no estado propostojjj , heu jhEujh_{ij} é a densidade proposta para a transição para o estadojjj dado o estado atualEuEui...
Eu estava navegando no repositório do Github para o Pymc e encontrei este notebook: Inferência Variacional: Redes Neurais Bayesianas O autor exalta as virtudes da programação bayesiana / probabilística, mas continua dizendo: Infelizmente, quando se trata de problemas tradicionais de ML, como...
Eu tenho uma probabilidade bastante plana de levar o amostrador Metropolis-Hastings a se mover pelo espaço de parâmetros de maneira muito irregular, ou seja, nenhuma convergência pode ser alcançada, independentemente dos parâmetros de distribuição da proposta (no meu caso, é gaussiano). Não há alta...
Eu estou tentando provar de uma parte posterior com muitos modos particularmente distantes um do outro usando o MCMC. Parece que, na maioria dos casos, apenas um desses modos contém os 95% hpd que estou procurando. Tentei implementar soluções baseadas em simulação temperada, mas isso não fornece...
Encontrei este artigo em que diz que na amostra de Gibbs todas as amostras são aceitas. Eu estou um pouco confuso. Como é que, se toda amostra que ela aceita, converge para uma distribuição estacionária? Em geral, o algoritmo de metrópole é aceito como min (1, p (x *) / p (x)) onde x * é o ponto...
Pelo que li Monte Carlo Hamiltoniano, é o MCMCmétodo "ir" quando o seu problema é de alta dimensão. Na prática, quantas dimensões 10, 100, 1.000, 10.000, 100.000, são demais? O custo computacional, sem dúvida, se tornará um problema e suponho que o modelo usado seja importante a considerar, mas...
Estou tentando entender o trabalho interno do Hamiltoniano Monte Carlo (HMC), mas não consigo entender completamente a parte quando substituímos a integração determinística do tempo por uma proposta de Metropolis-Hasting. Estou lendo o impressionante artigo introdutório Uma Introdução Conceitual ao...
Atualmente, estou lendo o livro " Programação Probabilística e Métodos Bayesianos para Hackers ". Eu li alguns capítulos e estava pensando no primeiro capítulo, em que o primeiro exemplo com pymc consiste em detectar um ponto de bruxa em mensagens de texto. Nesse exemplo, a variável aleatória para...
Cadeia de Markov Monte Carlo é um método baseado em cadeias de Markov que nos permite obter amostras (em um cenário de Monte Carlo) de distribuições não padronizadas das quais não podemos extrair amostras diretamente. Minha pergunta é por que a cadeia de Markov é "avançada" na amostragem de Monte...
Atualmente, estou aprendendo modelos bayesianos hierárquicos usando JAGS de R e também pymc usando Python ( "Métodos Bayesianos para Hackers" ). Posso obter alguma intuição neste post : "você terminará com uma pilha de números que parece" como se "você tivesse conseguido, de alguma maneira, colher...
Digamos que alguém tenha executado cadeias MCMC paralelas em que cada cadeia sofreu queimadura. Deixe as cadeias resultantes serem indicadas por que é o comprimento de cada cadeia após queimar.x ( i ) 1 , … , x ( i ) NmmmNx( I )1, … , X( I )N para i = 1 , … , m ,x1(i),…,xN(i) for i=1,…,m,...
Eu tenho a seguinte distribuição discreta, onde são constantes conhecidas:α,βα,β\alpha,\beta p(x;α,β)=Beta(α+1,β+x)Beta(α,β)for x=0,1,2,…p(x;α,β)=Beta(α+1,β+x)Beta(α,β)for x=0,1,2,… p(x;\alpha,\beta) = \frac{\text{Beta}(\alpha+1, \beta+x)}{\text{Beta}(\alpha,\beta)} \;\;\;\;\text{for } x =...
Atualmente, estou estimando um modelo de volatilidade estocástica com os métodos Monte Carlo da Cadeia de Markov. Assim, estou implementando os métodos de amostragem de Gibbs e Metropolis. Supondo que eu considere a média da distribuição posterior, e não uma amostra aleatória, é isso que é...
Fechadas. Esta questão está fora de tópico . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela esteja no tópico de Validação cruzada. Fechado há 7 meses . Atualmente, estou no processo de...
No MCMC, como é escolhido o tempo de gravação? Em outras palavras, quanto tempo você precisa esperar antes de pensar que a cadeia de Markov atingiu sua distribuição limitadora?
Por que hierárquico? : Tentei pesquisar esse problema e, pelo que entendi, esse é um problema "hierárquico", porque você está fazendo observações sobre observações de uma população, em vez de fazer observações diretas dessa população. Referência:
A natureza discreta do DP o torna inadequado para aplicações gerais em não paramétricos bayesianos, mas é adequado para o problema de colocar anteriores nos componentes da mistura na modelagem de mistura. Esta citação é de Hierarchical Dirichlet Processes (Teh, et al, (2006) [ 1]. ) e eu estava...
Na cadeia de Monte Carlo, Metropolis-Hastings Markov, a distribuição da proposta pode ser qualquer coisa, incluindo o gaussiano (de acordo com a Wikipedia). P: Qual é a motivação para usar algo diferente de gaussiano? O trabalho gaussiano, é fácil de avaliar, é rápido e todo mundo entende. Por que...
Atualmente, estou estimando parâmetros de um modelo definido por várias equações diferenciais ordinárias (ODEs). Eu tento isso com uma abordagem bayesiana aproximando a distribuição posterior dos parâmetros dados alguns dados usando a cadeia de Markov Monte Carlo (MCMC). Um amostrador MCMC gera...
Eu tenho tentado entender os diferentes problemas em ambientes frequentistas onde o MCMC é usado. Eu sei que o MCMC (ou Monte Carlo) é usado para ajustar GLMMs e talvez em algoritmos Monte Carlo EM. Existem problemas mais freqüentes em que o MCMC é