Se o anterior e a probabilidade são muito diferentes um do outro, às vezes ocorre uma situação em que o posterior é semelhante a nenhum deles. Veja, por exemplo, esta imagem, que usa distribuições normais. Embora isso seja matematicamente correto, não parece estar de acordo com minha intuição -...
Eu tenho usado distribuições normais de log como distribuições anteriores para parâmetros de escala (para distribuições normais, t distribuições etc.) quando tenho uma idéia aproximada sobre qual deve ser a escala, mas quero errar ao dizer que não sei muito sobre isso. Eu o uso porque esse uso faz...
Alguém pode explicar qual é a interpretação natural para os hiperparâmetros LDA? ALPHAe BETAsão parâmetros de distribuições Dirichlet para distribuições de tópicos (por documento) e (por tópico) palavras, respectivamente. No entanto, alguém pode explicar o que significa escolher valores maiores...
Algumas distribuições têm anteriores conjugados e outras não. Essa distinção é apenas um acidente? Ou seja, você faz as contas e funciona de uma maneira ou de outra, mas na verdade não diz nada de importante sobre a distribuição, exceto o fato em si? Ou a presença ou ausência de um conjugado...
fundo Um dos pontos fracos mais comumente usados antes da variância é a gama inversa com os parâmetros (Gelman 2006) .α = 0,001 , β= 0,001α=0.001,β=0.001\alpha =0.001, \beta=0.001 No entanto, essa distribuição possui um IC de 90% de aproximadamente .[ 3 × 1019, ∞...
Eu ouvi a noção de que Jaynes afirma que os freqüentadores operam com um "prévio implícito". O que são ou são esses antecedentes implícitos? Isso significa que os modelos freqüentadores são todos casos especiais de modelos bayesianos à espera de serem
Às vezes, na literatura, esbarro na observação de que a escolha de anteriores que dependem dos dados em si (por exemplo, Zellners g-prior) pode ser criticada do ponto de vista teórico. Onde exatamente está o problema se o prior não for escolhido independentemente dos
Costuma-se argumentar que a estrutura bayesiana tem uma grande vantagem na interpretação (sobre frequentista), porque calcula a probabilidade de um parâmetro dado os dados - vez de como no exemplo quadro freqüentista. Por enquanto, tudo bem.p ( x | θ )p ( θ | x )p(θ|x)p(\theta|x)p ( x | θ...
Eu estava lendo sobre o Jeffreys prior na wikipedia: Jeffreys Prior e vi que, após cada exemplo, ele descreve como uma transformação estabilizadora de variância transforma o Jeffreys anterior em um uniforme uniforme. Como exemplo, para o caso Bernoulli, ele afirma que, para uma moeda com cabeça...
Estou repostando uma "resposta" a uma pergunta que eu havia feito há duas semanas atrás: Por que o Jeffreys é útil antes? Era realmente uma pergunta (e eu também não tinha o direito de postar comentários), então espero que esteja tudo bem fazer isso: No link acima, é discutido que a característica...
É sabido que a regressão linear com uma penalidade de é equivalente a encontrar a estimativa de MAP dada uma Gaussiana antes dos coeficientes. Da mesma forma, usar uma penalidade de é equivalente a usar uma distribuição de Laplace como a anterior.eu2eu2l^2eu1eu1l^1 Não é incomum usar alguma...
Se tivermos um tamanho pequeno de amostra, a distribuição anterior influenciará muito a distribuição
Robby McKilliam diz em um comentário a este post: Deve-se ressaltar que, do ponto de vista dos freqüentadores, não há razão para que você não possa incorporar o conhecimento prévio ao modelo. Nesse sentido, a visão frequentista é mais simples, você só tem um modelo e alguns dados. Não há...
Como calcular o posterior com um N ~ (a, b) anterior após observar n pontos de dados? Suponho que tenhamos que calcular a média e a variação da amostra dos pontos de dados e fazer algum tipo de cálculo que combine o posterior com o anterior, mas não tenho muita certeza de como é a fórmula da...
Em seu artigo amplamente citado, distribuições anteriores para parâmetros de variância em modelos hierárquicos (916 citação até agora no Google Scholar) Gelman propõe que boas distribuições prévias não informativas para a variação em um modelo bayesiano hierárquico são a distribuição uniforme e a...
Eu conheço três métodos para fazer estimativa de parâmetros, ML, MAP e Bayes. E para a abordagem MAP e Bayes, precisamos escolher os anteriores para os parâmetros, certo? Digamos que eu tenho esse modelo , no qual são parâmetros, para fazer a estimativa usando MAP ou Bayes, li no livro que é...
Estou procurando informações preliminares não informativas para a distribuição beta para trabalhar com um processo binomial (acerto / acerto). No começo, pensei em usar α=1,β=1α=1,β=1\alpha=1, \beta=1 que gera um PDF uniforme ou Jeffrey antes de α=0.5,β=0.5α=0.5,β=0.5\alpha=0.5, \beta=0.5 . Mas, na...
Essa questão foi inspirada em duas interações recentes que eu tive, uma aqui no CV , a outra na economics.se. Lá, eu havia postado uma resposta no conhecido "Paradoxo do Envelope" (lembre-se, não como a "resposta correta", mas como a resposta decorrente de suposições específicas sobre a estrutura...
Assim, na modelagem de texto (não supervisionada), a Alocação de Dirichlet Latente (LDA) é uma versão bayesiana da Análise Semântica Latente Probabilística (PLSA). Essencialmente, LDA = PLSA + Dirichlet anteriormente sobre seus parâmetros. Meu entendimento é que o LDA agora é o algoritmo de...
Ouvi dizer que a regressão de cordilheira pode ser derivada como a média de uma distribuição posterior, se o prior for adequadamente escolhido. A intuição de que as restrições definidas nos coeficientes de regressão pelas anteriores (por exemplo, distribuições normais padrão em torno de 0) são...