Objetivo Confirme se o entendimento da KKT está correto ou não. Procure mais explicações e confirmações na KKT. fundo Tentando entender as condições KKT, especialmente a complementar, que sempre aparece do nada nos artigos SVM. Não preciso de uma lista de fórmulas abstratas, mas de uma...
Parece haver muitos algoritmos de aprendizado de máquina que dependem das funções do kernel. SVMs e NNs, para citar apenas dois. Então, qual é a definição de uma função do kernel e quais são os requisitos para que ela seja
Eu tenho um conjunto de dados com duas classes sobrepostas, sete pontos em cada classe, os pontos estão no espaço bidimensional. Em R, e estou executando svmo e1071pacote para criar um hiperplano de separação para essas classes. Estou usando o seguinte comando: svm(x, y, scale = FALSE, type =...
Com o conhecimento limitado que tenho sobre SVM, é bom para uma matriz de dados curta e gorda (muitos recursos e poucas instâncias), mas não para big data.XXX Entendo que um dos motivos é a Matriz do Kernel é uma matriz que é o número de instâncias nos dados. Se tivermos dito, 100K dados, a matriz...
Recentemente, aprendi sobre o uso do truque Kernel, que mapeia dados em espaços dimensionais mais altos, na tentativa de linearizar os dados nessas dimensões. Existem casos em que devo evitar o uso dessa técnica? É apenas uma questão de encontrar a função correta do kernel? Para dados lineares, é...
SVMs para classificação fazem sentido intuitivamente para mim: eu entendo como minimizar ||θ||2||θ||2||\theta||^2 produz a margem máxima. No entanto, não entendo esse objetivo no contexto de regressão. Vários textos ( aqui e aqui ) descrevem isso como maximização da "planicidade". Por que queremos...
Eu tenho 12 conjuntos de treinamento positivo (células cancerígenas tratadas com drogas com cada um dos 12 mecanismos de ação diferentes). Para cada um desses conjuntos de treinamento positivo, gostaria de treinar uma máquina de vetores de suporte para distingui-la de um conjunto negativo de...
Estou tentando criar um SVM a partir de dados de treinamento em que um grupo é representado mais que o outro. No entanto, os grupos serão igualmente representados nos eventuais dados do teste. Portanto, eu gostaria de usar o class.weightsparâmetro da e1071interface do pacote R libsvmpara equilibrar...
Eu tenho 2 questões gerais / mais teóricas. 1) Estou curioso para saber como os SVMs lidam com interações variáveis ao criar modelos preditivos. Por exemplo, se eu tenho dois recursos f1 e f2 e o destino depende de f1, f2 e digamos f1 * f2 (ou alguma função h (f1, f2)), o SVM se encaixa (não...
Estou tentando classificar mensagens em diferentes categorias usando um SVM. Eu compilei uma lista de palavras / símbolos desejáveis do conjunto de treinamento. Para cada vetor, que representa uma mensagem, defino a linha correspondente como 1se a palavra estiver presente: "corpus" é: [mary,...
Executei um SVM em um determinado conjunto de dados e fiz a seguinte observação: Se eu alterar o número de recursos para a construção do classificador, o número de vetores de suporte resultantes também será alterado. Eu gostaria de saber como explicar esse tipo de
Criei essa curva de aprendizado e quero saber se meu modelo SVM sofre de viés ou variação? Como posso concluir isso a partir deste
Estou tentando entender o processo de treinamento de uma máquina de vetores de suporte linear . Percebo que as propriedades dos SMVs permitem que elas sejam otimizadas muito mais rapidamente do que usando um solucionador de programação quadrática, mas, para fins de aprendizado, gostaria de ver como...
No aprendizado de máquina (para problemas de regressão), geralmente vejo o erro médio quadrático (MSE) ou o erro médio absoluto (MAE) sendo usado como a função de erro para minimizar (mais o termo de regularização). Gostaria de saber se há situações em que o uso do coeficiente de correlação seria...
Nesta pergunta - Existe um método para construir árvores de decisão que leve em consideração preditores estruturados / hierárquicos / multiníveis? - eles mencionam um método de dados em painel para árvores. Existem métodos de dados de painel específicos para dar suporte a máquinas vetoriais e...
Encontrei muitos artigos que afirmam que os métodos de aumento são sensíveis a valores discrepantes, mas nenhum artigo explica o porquê. Na minha experiência, os valores extremos são ruins para qualquer algoritmo de aprendizado de máquina, mas por que os métodos de aumento são particularmente...
Queria entender melhor o teste exato de Fisher, então inventei o seguinte exemplo de brinquedo, em que f e m correspondem a homens e mulheres e n e y correspondem a "consumo de refrigerante" como este: > soda_gender f m n 0 5 y 5 0 Obviamente, isso é uma simplificação drástica, mas eu não...
O hiperplano ideal no SVM é definido como: w ⋅ x + b = 0 ,w⋅x+b=0,\mathbf w \cdot \mathbf x+b=0, onde representa o limite. Se tivermos algum mapeamento que mapeia o espaço de entrada para algum espaço , podemos definir SVM no espaço , onde o hiperplano ideal será:ϕ Z Zbbbϕϕ\mathbf \phiZZZZZZ w ⋅...
Gostaria de treinar um SVM para classificar casos (TRUE / FALSE) com base em 20 atributos. Eu sei que alguns desses atributos são altamente correlacionados. Portanto, minha pergunta é: o SVM é sensível à correlação ou redundância entre os recursos? Alguma
Estou interessado em resultados teóricos para a capacidade de generalização de máquinas de vetores de suporte, por exemplo, limites na probabilidade de erro de classificação e na dimensão Vapnik-Chervonenkis (VC) dessas máquinas. No entanto, lendo a literatura, tive a impressão de que alguns...