Perguntas com a marcação «naive-bayes»

78

Um exemplo: regressão do LASSO usando glmnet para resultado binário

Estou começando a se envolver com o uso de glmnetcom LASSO Regressão onde meu desfecho de interesse é dicotômica. Criei um pequeno quadro de dados simulado abaixo: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, 0.45, 0.99, 0.84, 0.85, 0.67,...

r self-study lasso regression interpretation anova statistical-significance survey conditional-probability independence naive-bayes graphical-model r time-series forecasting arima r forecasting exponential-smoothing bootstrap outliers r regression poisson-distribution zero-inflation genetic-algorithms machine-learning feature-selection cart categorical-data interpretation descriptive-statistics variance multivariate-analysis covariance-matrix r data-visualization generalized-linear-model binomial proportion pca matlab svd time-series correlation spss arima chi-squared curve-fitting text-mining zipf probability categorical-data distance group-differences bhattacharyya regression variance mean data-visualization variance clustering r standard-error association-measure somers-d normal-distribution integral numerical-integration bayesian clustering python pymc nonparametric-bayes machine-learning svm kernel-trick hyperparameter poisson-distribution mean continuous-data univariate missing-data dag python likelihood dirichlet-distribution r anova hypothesis-testing statistical-significance p-value rating data-imputation censoring threshold

47

Entendendo Naive Bayes

De StatSoft, Inc. (2013), Electronic Statistics Textbook , "Naive Bayes Classifier" : Para demonstrar o conceito de Classificação Naïve Bayes, considere o exemplo exibido na ilustração acima. Conforme indicado, os objetos podem ser classificados como VERDE ou VERMELHO. Minha tarefa é...

machine-learning naive-bayes

38

Por que os classificadores bayesianos ingênuos têm um desempenho tão bom?

Os classificadores Naive Bayes são uma escolha popular para problemas de classificação. Existem muitas razões para isso, incluindo: "Zeitgeist" - amplo conhecimento após o sucesso dos filtros de spam, cerca de dez anos atrás Fácil de escrever O modelo do classificador é rápido de construir O...

classification naive-bayes

31

Como o Naive Bayes é um classificador linear?

Eu já vi o outro tópico aqui, mas não acho que a resposta tenha satisfeito a pergunta real. O que eu tenho lido continuamente é que Naive Bayes é um classificador linear (por exemplo: aqui ) (de modo que traça um limite de decisão linear) usando a demonstração de log odds. No entanto, simulei duas...

classification naive-bayes

29

Diferença entre Bayes ingênuo e Bayes ingênuo multinomial

Já lidei com o classificador Naive Bayes . Ultimamente tenho lido sobre Multinomial Naive Bayes . Também Probabilidade Posterior = (Prioridade * Probabilidade) / (Evidência) . A única diferença principal (ao programar esses classificadores) que encontrei entre Naive Bayes e Multinomial Naive...

bayesian classification text-mining naive-bayes

27

Em Naive Bayes, por que se preocupar com a suavização de Laplace quando temos palavras desconhecidas no conjunto de testes?

Eu estava lendo a Classificação Naive Bayes hoje. Eu li, sob o título Estimativa de parâmetros, com 1 suavização : Vamos referem-se a uma classe (como positiva ou negativa), e deixe referem-se a um símbolo ou palavra.cccwww O estimador de probabilidade máxima para

machine-learning classification text-mining naive-bayes laplace-smoothing

20

Machine Learning para prever probabilidades de classe

Estou procurando classificadores que produzam probabilidades que exemplos pertencem a uma das duas classes. Conheço regressão logística e Bayes ingênuo, mas você pode me falar de outras pessoas que trabalham de maneira semelhante? Ou seja, classificadores que prevêem não as classes às quais os...

machine-learning probability logistic classification naive-bayes

17

Quais algoritmos precisam de redimensionamento de recursos, além do SVM?

Estou trabalhando com muitos algoritmos: RandomForest, DecisionTrees, NaiveBayes, SVM (kernel = linear e rbf), KNN, LDA e XGBoost. Todos eles foram bem rápidos, exceto o SVM. Foi quando soube que ele precisa de redimensionamento de recursos para funcionar mais rapidamente. Então comecei a me...

machine-learning svm random-forest naive-bayes xgboost

17

Quando o Naive Bayes tem um desempenho melhor que o SVM?

Em um pequeno problema de classificação de texto que eu estava olhando, o Naive Bayes exibia um desempenho semelhante ou superior a um SVM e fiquei muito confuso. Eu queria saber quais fatores decidem o triunfo de um algoritmo sobre o outro. Existem situações em que não faz sentido usar o Naive...

machine-learning classification svm naive-bayes

15

O aumento do número de recursos resulta em queda de precisão, mas aumento de prec / recall

Eu sou novo no Machine Learning. No momento, estou usando um classificador Naive Bayes (NB) para classificar textos pequenos em 3 classes como positivos, negativos ou neutros, usando NLTK e python. Depois de realizar alguns testes, com um conjunto de dados composto de 300.000 instâncias (16.924...

machine-learning classification naive-bayes precision-recall

15

Por que ninguém usa o classificador multinomial bayesiano Naive Bayes?

Assim, na modelagem de texto (não supervisionada), a Alocação de Dirichlet Latente (LDA) é uma versão bayesiana da Análise Semântica Latente Probabilística (PLSA). Essencialmente, LDA = PLSA + Dirichlet anteriormente sobre seus parâmetros. Meu entendimento é que o LDA agora é o algoritmo de...

bayesian multinomial prior naive-bayes dirichlet-distribution

15

Na suavização Kneser-Ney, como são tratadas as palavras invisíveis?

Pelo que vi, a fórmula de suavização Kneser-Ney (de segunda ordem) é, de uma maneira ou de outra, dada como P2KN(wn|wn−1)=max{C(wn−1,wn)−D,0}∑w′C(wn−1,w′)+λ(wn−1)×Pcont(wn)PKN2(wn|wn−1)=max{C(wn−1,wn)−D,0}∑w′C(wn−1,w′)+λ(wn−1)×Pcont(wn) \begin{align} P^2_{KN}(w_n|w_{n-1}) &= \frac{\max \left\{...

machine-learning natural-language naive-bayes smoothing language-models

14

Como o Naive Bayes trabalha com variáveis contínuas?

Para meu entendimento (muito básico), Naive Bayes estima probabilidades com base nas frequências de classe de cada recurso nos dados de treinamento. Mas como calcula a frequência de variáveis contínuas? E ao fazer previsões, como classifica uma nova observação que pode não ter os mesmos valores...

machine-learning classification bayesian naive-bayes

14

Exemplo de como o truque log-soma-exp funciona em Naive Bayes

Eu li sobre o truque log-soma-exp em muitos lugares (por exemplo , aqui e aqui ), mas nunca vi um exemplo de como ele é aplicado especificamente ao classificador Naive Bayes (por exemplo, com recursos discretos e duas classes) Como exatamente alguém evitaria o problema de subfluxo numérico usando...

naive-bayes underflow

14

Como fazer a classificação de texto de uma classe?

Eu tenho que lidar com um problema de classificação de texto. Um rastreador da Web rastreia páginas de um determinado domínio e, para cada página da Web, quero descobrir se ele pertence a apenas uma classe específica ou não. Ou seja, se eu chamar essa classe de Positivo , cada página da Web...

classification text-mining naive-bayes binary-data

13

Por que o classificador ingênuo de bayes é ideal para perda de 0-1?

O classificador Naive Bayes é o classificador que atribui itens a uma classe base na maximização do posterior para associação à classe e assume que os recursos dos itens são independentes.CxxxCCCP(C|x)P(C|x)P(C|x) A perda de 0-1 é a perda que atribui a qualquer classificação incorreta uma perda de...

machine-learning bayesian optimization naive-bayes loss-functions

12

Naive Bayes apresentam probabilidades: devo contar duas palavras?

Estou prototipando meu próprio modelo de saco de palavras Naive Bayes e tive uma pergunta sobre o cálculo das probabilidades de recurso. Digamos que eu tenho duas classes, vou usar spam e não spam, já que é isso que todo mundo usa. E vamos tomar a palavra "viagra" como exemplo. Tenho 10 e-mails no...

classification conditional-probability naive-bayes

12

A probabilidade prevista da regressão logística pode ser interpretada como a confiança na classificação

Podemos interpretar a probabilidade posterior obtida de um classificador que gera um valor de classe previsto e uma probabilidade (por exemplo, regressão logística ou Naive Bayes) como algum tipo de pontuação de confiança atribuída a esse valor de classe

probability logistic naive-bayes

12

Classificador Akinator.com e Naive Bayes

Contexto: Sou um programador com alguma experiência (meio esquecida) em estatística de cursos da uni. Recentemente me deparei com http://akinator.com e passei algum tempo tentando fazê-lo falhar. E quem não era? :) Eu decidi descobrir como isso poderia funcionar. Depois de pesquisar no Google e...

machine-learning naive-bayes

11

O classificador "Bom" destruiu minha curva Precision-Recall. O que aconteceu?

Estou trabalhando com dados desequilibrados, onde existem cerca de 40 casos de classe = 0 para cada classe = 1. Eu posso discriminar razoavelmente entre as classes usando recursos individuais, e treinar um classificador ingênuo de Bayes e SVM em 6 recursos e dados balanceados gerou uma melhor...

classification svm roc naive-bayes precision-recall