Atualmente, estou me ensinando a fazer a classificação e, especificamente, estou analisando três métodos: máquinas de vetores de suporte, redes neurais e regressão logística. O que estou tentando entender é por que a regressão logística teria um desempenho melhor do que os outros dois. Do meu...
Qual é a melhor função de custo para uma árvore de floresta aleatória: índice de Gini ou entropia? Estou tentando implementar uma floresta aleatória no
A pergunta de ontem Determinar a precisão do modelo que estima a probabilidade de evento me deixou curioso sobre a pontuação de probabilidade. A pontuação Brier é uma medida de erro médio quadrático. O análogo significa a medida do desempenho do erro absoluto11N∑i = 1N( p r e di c t i o nEu- r e...
Suponha que eu esteja construindo um modelo preditivo no qual estou tentando prever vários eventos (por exemplo, o lançamento de um dado e o lançamento de uma moeda). A maioria dos algoritmos com os quais estou familiarizado trabalha apenas com um destino, por isso estou me perguntando se existe...
No curso de aprendizado de máquina de Stanford, Andrew Ng mencionou a aplicação de ML em TI. Algum tempo depois, quando obtive DDoS de tamanho moderado (cerca de 20k bots) em nosso site, decidi lutar contra ele usando um classificador simples da Rede Neural. Eu escrevi esse script python em cerca...
Estou tentando resolver uma tarefa chamada detecção de pedestres e treino clasifer binário em duas categorias positivas - pessoas, negativos - antecedentes. Eu tenho um conjunto de dados: número de positivos = 3752 número de negativo = 3800 Eu uso train \ test split 80 \ 20% e...
Qual é a relação entre a análise discriminante linear e a regra de Bayes? Entendo que o LDA é usado na classificação, tentando minimizar a taxa de variação dentro do grupo e entre a variação no grupo, mas não sei como a regra de Bayes é usada
Para uma competição recente do Kaggle, eu (manualmente) defini 10 recursos adicionais para o meu conjunto de treinamento, que seriam usados para treinar um classificador de florestas aleatórias. Decidi executar o PCA no conjunto de dados com os novos recursos, para ver como eles se comparavam. Eu...
Executei um SVM em um determinado conjunto de dados e fiz a seguinte observação: Se eu alterar o número de recursos para a construção do classificador, o número de vetores de suporte resultantes também será alterado. Eu gostaria de saber como explicar esse tipo de
Então, eu tenho uma matriz de cerca de 60 x 1000. Estou vendo como 60 objetos com 1000 recursos; os 60 objetos são agrupados em 3 classes (a, b, c). 20 objetos em cada classe, e sabemos a verdadeira classificação. Gostaria de fazer um aprendizado supervisionado neste conjunto de 60 exemplos de...
Quais fatores devem ser considerados ao determinar se é necessário usar vários classificadores binários ou um único classificador multiclasse? Por exemplo, estou construindo um modelo que classifica os gestos com as mãos. Um caso simples possui 4 saídas: [Nenhum, polegar_up, punho cerrado,...
Estou tentando obter uma intuição de por que aumentar o número de recursos pode reduzir o desempenho. Atualmente, estou usando um classificador LDA que apresenta melhor desempenho bivariado entre certos recursos, mas pior ao analisar mais recursos. Minha precisão de classificação é realizada usando...
Estive usando o ajuste de modelo caret, mas depois executei novamente o modelo usando o gbmpacote. Entendo que o caretpacote usa gbme a saída deve ser a mesma. No entanto, apenas um teste rápido usando data(iris)mostra uma discrepância no modelo de cerca de 5% usando RMSE e R ^ 2 como métrica de...
Estou prototipando meu próprio modelo de saco de palavras Naive Bayes e tive uma pergunta sobre o cálculo das probabilidades de recurso. Digamos que eu tenho duas classes, vou usar spam e não spam, já que é isso que todo mundo usa. E vamos tomar a palavra "viagra" como exemplo. Tenho 10 e-mails no...
Estou estudando reconhecimento de padrões e aprendizado de máquina e me deparei com a seguinte pergunta. Considere um problema de classificação de duas classes com igual probabilidade de classe anterior P(D1)=P(D2)=12P(D1)=P(D2)=12P(D_1)=P(D_2)= \frac{1}{2} e a distribuição de instâncias em...
Vamos supor que temos um problema de classificação e, inicialmente, queremos obter algumas informações dos dados e fazemos o t-SNE. O resultado do t-SNE separa muito bem as classes. Isso implica que é possível criar um modelo de classificação que também irá separar muito bem as classes (se t-SNE...
Em duas bibliotecas populares de identificação de idiomas, o Compact Language Detector 2 para C ++ e o detector de idiomas para java, ambos usavam n-gramas (baseados em caracteres) para extrair recursos de texto. Por que um pacote de palavras (única palavra / dicionário) não é usado e qual é a...
Não consigo encontrar a definição geral do que é um classificador? Entendo como isso funciona, mas não consigo chegar a uma
Preciso obter um valor o mais preciso possível para o brilho de uma fonte de luz principalmente estável, dados os doze valores de luminosidade da amostra. O sensor é imperfeito, e a luz pode ocasionalmente "piscar" mais brilhante ou mais escura, o que pode ser ignorado, daí a minha necessidade de...
Estou executando uma tarefa de classificação binária em que a probabilidade de resultado é baixa (cerca de 3%). Estou tentando decidir se deve otimizar por AUC ou perda de log. Tanto quanto eu entendi, a AUC maximiza a capacidade do modelo de discriminar entre classes, enquanto o logloss penaliza a...