Seleção prévia de pesos da classe SVM

Lembro-me de ver / ler em algum lugar que, para SVMs de várias classes com dados desequilibrados, havia uma maneira de determinar os pesos das classes a partir dos dados de treinamento (em vez da validação X). Alguém sabe qual é o método ou qual é o papel?

obrigado

machine-learning svm unbalanced-classes tomas
fonte

Você encontrou uma boa solução para svm multiclass?

Vam

Respostas:

Para SVM que minimiza a função objetivo você pode escolher as constantes e inversamente proporcionais aos tamanhos das classes. Ou seja, se você tiver amostras de treinamento nas classes 1 e - na classe 2, faça e forma que = . Pode ser necessário ajustá-los um pouco mais tarde nas experiências, mas essa é uma boa regra geral.

\frac{1}{2} | | w | |^{2} + C_{1} \sum_{ξ_{i} : y_{i} = - 1}^{l} ξ_{i} + C_{2} \sum_{ξ_{i} : y_{i} = 1}^{l} ξ_{i}

$\frac{1}{2}||w||^2 + C_1 \sum_{\xi_i: y_i=-1}^{l}\xi_i + C_2 \sum_{\xi_i: y_i=1}^{l}\xi_i$

C_{1}

$C_1$

C_{2}

$C_2$

l_{1}

$l_1$

l_{2}

$l_2$

C_{1}

$C_1$

C_{2}

$C_2$

C_{1} / C_{2}

$C_1/C_2$

l_{2} / l_{1}

$l_2/l_1$

Se você estiver usando o pacote LIBSVM, poderá especificar e usando os sinalizadores '' -w-1 '' e "-w1". $C_1$ $C_2$

PS Acabei de notar que você perguntou sobre o problema multiclass. Bem, talvez você ainda ache esta resposta útil.

Leo
fonte