Estou prototipando meu próprio modelo de saco de palavras Naive Bayes e tive uma pergunta sobre o cálculo das probabilidades de recurso. Digamos que eu tenho duas classes, vou usar spam e não spam, já que é isso que todo mundo usa. E vamos tomar a palavra "viagra" como exemplo. Tenho 10 e-mails no...
Estou lendo sobre a inferência bayesiana e me deparei com a frase "a integração numérica da probabilidade marginal é muito cara" Eu não tenho formação em matemática e queria saber o que exatamente significa caro aqui? É apenas em termos de poder computacional ou há algo mais....
Esta é mais uma questão de história da ciência, mas espero que esteja no tópico aqui. Li que Thomas Bayes só conseguiu descobrir o teorema de Bayes para o caso especial de um uniforme anterior, e mesmo assim ele lutou com ele, aparentemente. Considerando o quão trivial é o teorema geral de Bayes...
Estou trabalhando com dados desequilibrados, onde existem cerca de 40 casos de classe = 0 para cada classe = 1. Eu posso discriminar razoavelmente entre as classes usando recursos individuais, e treinar um classificador ingênuo de Bayes e SVM em 6 recursos e dados balanceados gerou uma melhor...
Estou lendo este artigo sobre Generalized Wishart Processes (GWP). O artigo calcula as covariâncias entre diferentes variáveis aleatórias (seguindo o Processo Gaussiano ) usando a função de covariância exponencial ao quadrado, ou seja, . Diz então que essa matriz de covariância segue o...
Eu tenho lido Wagenmakers (2007) Uma solução prática para o problema generalizado dos valores de p . Estou intrigado com a conversão dos valores BIC em fatores e probabilidades de Bayes. No entanto, até agora não tenho uma boa compreensão do que exatamente é uma informação de unidade anterior ....
É considerado o caso ideal em que a estrutura de probabilidade subjacente às categorias é conhecida perfeitamente. Por que com o classificador Bayes alcançamos o melhor desempenho possível? Qual é a prova formal / explicação para isso? Como sempre usamos o classificador Bayes como referência para...
Sou iniciante em estatística (fiz apenas um curso universitário), mas tenho experiência em programação. Comecei a brincar com uma biblioteca classificadora bayesiana para Ruby e estou procurando idéias para analisar as coisas. No momento, estou brincando com a categorização do Tweet, mas você...
Estou tentando entender o resultado do teorema de Bayes, aplicado ao exemplo clássico da mamografia, com o toque perfeito da mamografia. Isso é, Incidência de câncer: .01.01.01 Probabilidade de uma mamografia positiva, dado o paciente ter câncer: 1 111 Probabilidade de uma mamografia positiva,...
Configuração do problema Um dos primeiros problemas de brinquedo nos quais eu queria aplicar o PyMC é o cluster não paramétrico: com alguns dados, modele-os como uma mistura gaussiana e aprenda o número de clusters e a média e covariância de cada cluster. A maior parte do que sei sobre esse método...
Estou lendo Bayes variacionais e, pelo que entendi, tudo se resume à ideia de que você aproxima (onde são as variáveis latentes do seu modelo os dados observados) com uma função , assumindo que é como onde é um subconjunto das variáveis latentes. Pode-se então mostrar que o fator ótimo é: z x q...
Qual é a diferença entre Bayes variacionais de codificação automática e retropropagação estocástica para modelos geradores profundos ? A inferência nos dois métodos leva aos mesmos resultados? Não conheço nenhuma comparação explícita entre os dois métodos, apesar de ambos os grupos de autores se...
Trabalho com lógica difusa (FL) há anos e sei que existem diferenças entre FL e probabilidade, especialmente no que diz respeito à maneira como FL lida com a incerteza. No entanto, gostaria de perguntar que diferenças existem mais entre FL e probabilidade? Em outras palavras, se eu lidar com...
O processo de Dirichlet e o processo gaussiano são frequentemente referidos como "distribuições sobre funções" ou "distribuições sobre distribuições". Nesse caso, posso falar significativamente sobre a densidade de uma função em um GP? Ou seja, o Processo Gaussiano ou o Dirichlet têm alguma noção...
Estou implementando um VAE e notei duas implementações diferentes on-line da divergência simplificada univariada de KL gaussiana. A divergência original conforme aqui é Se assumirmos que nosso prior é uma unidade gaussiana, ou seja, e , isso simplifica para E aqui é onde está minha confusão....
Do ponto de vista matemático, o Teorema de Bayes faz todo sentido para mim (isto é, derivar e provar), mas o que não sei é se existe ou não um bom argumento geométrico ou gráfico que pode ser mostrado para explicar o Teorema de Bayes. Tentei pesquisar no Google para obter uma resposta e,...
Estou trabalhando no Think Bayes (gratuito aqui: http://www.greenteapress.com/thinkbayes/ ) e estou no exercício 3.1. Aqui está um resumo do problema: "Uma ferrovia numera suas locomotivas na ordem 1..N. Um dia você vê uma locomotiva com o número 60. Estime quantas locomotivas a ferrovia...
Li os classificadores algébricos: uma abordagem genérica para validação cruzada rápida, treinamento on-line e paralelo e fiquei impressionado com o desempenho dos algoritmos derivados. No entanto, parece que além de Naive Bayes (e GBMs) não existem muitos algoritmos adaptados à estrutura. Existem...
Atualmente, estou vendo um artigo do modelo de efeitos aleatórios do processo Dirichlet e a especificação do modelo é a seguinte: que é o parâmetro de escala e é a medida base. Posteriormente, sugere que integremos uma função sobre a medida base , como A medida base no processo Dirichlet é um cdf...
Portanto, tenho 16 ensaios em que estou tentando autenticar uma pessoa de uma característica biométrica usando a Distância de Hamming. Meu limite está definido como 3,5. Meus dados estão abaixo e apenas o teste 1 é um verdadeiro positivo: Trial Hamming Distance 1 0.34 2 0.37 3 0.34 4 0.29 5 0.55 6...