Eu construí um classificador de regressão logística que é muito preciso nos meus dados. Agora eu quero entender melhor por que está funcionando tão bem. Especificamente, eu gostaria de classificar quais recursos estão dando a maior contribuição (quais recursos são mais importantes) e, idealmente,...
Em primeiro lugar, desculpas por postar uma pergunta que já foi discutida extensivamente aqui , aqui , aqui , aqui , aquie para reaquecer um tópico antigo. Eu sei que o @DikranMarsupial já escreveu sobre esse tópico em posts e artigos de periódicos, mas ainda estou confuso e, a julgar pelo número...
Estou trabalhando com muitos algoritmos: RandomForest, DecisionTrees, NaiveBayes, SVM (kernel = linear e rbf), KNN, LDA e XGBoost. Todos eles foram bem rápidos, exceto o SVM. Foi quando soube que ele precisa de redimensionamento de recursos para funcionar mais rapidamente. Então comecei a me...
Acabei de ler esta discussão. Eles argumentam que a AUC do PR é melhor que a AUC do ROC no conjunto de dados desequilibrados. Por exemplo, temos 10 amostras no conjunto de dados de teste. 9 amostras são positivas e 1 é negativa. Temos um modelo terrível que prevê tudo de positivo. Assim, teremos...
Dado são os 6 limites de decisão abaixo. Os limites da decisão são linhas violetas. Pontos e cruzamentos são dois conjuntos de dados diferentes. Temos que decidir qual deles é: SVM linear SVM kernelizado (kernel polinomial da ordem 2) Perceptron Regressão logística Rede Neural (1 camada oculta...
Treinei um modelo de regressão linear, usando um conjunto de variáveis / recursos. E o modelo tem um bom desempenho. No entanto, percebi que não há variável com uma boa correlação com a variável prevista. Como isso é
Estou explorando diferentes métodos de classificação para um projeto em que estou trabalhando e estou interessado em experimentar as Florestas Aleatórias. Estou tentando me educar ao longo do curso e gostaria de receber qualquer ajuda fornecida pela comunidade do CV. Dividi meus dados em conjuntos...
Mais uma pergunta geral. Estou executando um SVM rbf para modelagem preditiva. Acho que meu programa atual definitivamente precisa de um pouco de velocidade. Eu uso o scikit learn com uma pesquisa de grade grossa a fina + validação cruzada. Cada execução do SVM leva cerca de um minuto, mas com...
Estou treinando um classificador LDA de várias classes com 8 classes de dados. Durante a execução do treinamento, recebo um aviso de: "As variáveis são colineares " Estou recebendo uma precisão de treinamento de mais de 90% . Estou usando a biblioteca scikits-learn no Python para treinar e...
Estou lidando com um problema de classificação binária supervisionada. Eu gostaria de usar o pacote GBM para classificar os indivíduos como não infectados / infectados. Eu tenho 15 vezes mais não infectado do que indivíduos infectados. Eu queria saber se os modelos GBM sofrem no caso de tamanhos...
Eu tenho um conjunto de dados de 120 amostras em uma configuração de validação cruzada de 10 vezes. Atualmente, eu escolho os dados de treinamento do primeiro holdout e faço uma validação cruzada 5 vezes para escolher os valores de gama e C pela pesquisa em grade. Estou usando o SVM com o kernel...
Eu tenho um conjunto de dados de teste altamente desequilibrado. O conjunto positivo consiste em 100 casos, enquanto o conjunto negativo consiste em 1500 casos. No lado do treinamento, eu tenho um pool de candidatos maior: o conjunto de treinamento positivo tem 1200 casos e o conjunto de...
Entendo que os SVMs de uma classe (OSVMs) foram propostos com a ausência de dados negativos em mente e que eles procuram encontrar limites de decisão que separem um conjunto positivo e algum ponto de ancoragem negativo, dizem a origem. Um trabalho em 2011 propõe SVMs exemplares (ESVMs) que treinam...
A máquina de aumento de gradiente de Friedman pode obter melhor desempenho do que a Random Forest de Breiman ? Em caso afirmativo, em quais condições ou que tipo de conjunto de dados pode melhorar o
Atualmente, leio o artigo Efficient Online e Batch Learning usando a divisão forward-backward de John Duchi e Yoram Singer. Estou muito confuso sobre o uso dos termos 'Online' e 'Lote'. Pensei 'Online' significa que atualizamos os parâmetros de peso após o processamento de uma unidade dos dados de...
Tenho algumas dúvidas sobre qual medida de desempenho usar, área sob a curva ROC (TPR como uma função da FPR) ou área sob a curva de precisão de recall (precisão como uma função de recall). Meus dados estão desequilibrados, ou seja, o número de instâncias negativas é muito maior que as instâncias...
Qual é a diferença entre um classificador, modelo e estimador? Pelo que posso dizer: um estimador é um preditor encontrado no algoritmo de regressão um classificador é um preditor encontrado em um algoritmo de classificação um modelo pode ser um estimador ou um classificador Mas, ao olhar...
Estamos estudando o aprendizado de máquina via Machine Learning: uma perspectiva probabilística (Kevin Murphy). Embora o texto explique a fundamentação teórica de cada algoritmo, ele raramente diz em qual caso o algoritmo é melhor e, quando o faz, não diz como saber em qual caso estou. Por...
Ao aprender a rede neural convolucional, tenho perguntas sobre a figura a seguir. 1) C1 na camada 1 possui 6 mapas de características, isso significa que existem seis núcleos convolucionais? Cada kernel convolucional é usado para gerar um mapa de recursos com base na entrada. 2) S1 na camada 2...
Vamos considerar o problema de classificar o conjunto de dados MNIST. De acordo com a página MNIST da Yann LeCun , 'Ciresan et al.' obteve uma taxa de erro de 0,23% no conjunto de testes MNIST usando a Rede Neural Convolucional. Vamos denotar o treinamento MNIST definido como , o teste MNIST...