Quais algoritmos de aprendizado de máquina (além dos SVM) usam o princípio de minimização de risco estrutural ?
reference-request
machine-learning
Classifire
fonte
fonte
Respostas:
O princípio de minimização de risco estrutural é um princípio que é pelo menos parcialmente 'usado' em todos os métodos de aprendizado de máquina, uma vez que o sobreajuste deve ser levado em consideração: reduzir a complexidade do modelo é (supostamente e na prática) uma boa maneira de limitar sobreajuste.
Os SVMs possuem explicitamente um parâmetro para a complexidade (a dimensão do espaço de recurso ou até a função do kernel) e é necessário porque aumentar a complexidade faz parte do algoritmo de aprendizado.
As redes neuronais também têm um indicador fácil de sua complexidade (número de 'células') e fazem parte do algoritmo de aprendizado associado.
Sem esse princípio, a inferência gramatical seria estúpida e a gramática perfeita é a lista de todas as palavras possíveis; portanto, todo algoritmo não trivial ao menos reconhece esse princípio.
As árvores de decisão têm sua própria noção de entropia .
Os clusters podem ser simplesmente contados ou usar o princípio intrinsecamente ou ter um número fixo de clusters e, nesse caso, você aplica o princípio em um nível superior.
Para ser perfeitamente honesto, eu realmente não sei o que acontece na programação genética, mas eles não têm uma noção intrínseca de complexidade.
Não conheço bem a programação lógica indutiva, mas não parece muito bem dimensionada para esse princípio.
fonte