Qual é a dimensão VC de uma árvore de decisão com k divide em duas dimensões? Digamos que o modelo é CART e as únicas divisões permitidas são paralelas aos eixos. Portanto, para uma divisão, podemos ordenar 3 pontos em um triângulo e, para qualquer identificação dos pontos, podemos obter uma...
Eu me deparei com algumas maneiras básicas de medir a complexidade das redes neurais: Ingênuo e informal: conte o número de neurônios, neurônios ocultos, camadas ou camadas ocultas Dimensão VC (Eduardo D. Sontag [1998] "Dimensão VC de redes neurais" [ pdf ].) Um curso de complexidade...
No aprendizado de máquina básico, aprendemos as seguintes "regras práticas": a) o tamanho dos seus dados deve ser pelo menos 10 vezes o tamanho da dimensão VC do seu conjunto de hipóteses. b) uma rede neural com conexões N tem uma dimensão VC de aproximadamente N. Então, quando uma rede neural...
Na série de palestras Learning from Data , o professor menciona que a dimensão VC mede a complexidade do modelo em quantos pontos um determinado modelo pode quebrar. Portanto, isso funciona perfeitamente bem para modelos de classificação nos quais poderíamos dizer com N pontos se o classificador...
Se eu tiver alguma topologia fixa não recorrente (DAG) (conjunto fixo de nós e arestas, mas o algoritmo de aprendizado puder variar o peso nas arestas) de neurônios sigmóides com neurônios de entrada que só podem receber cadeias em como entrada e conduz a uma saída (que gera um valor real que...
A Wikipedia diz que: A dimensão VC é a cardinalidade do maior conjunto de pontos que um algoritmo pode quebrar. Por exemplo, um classificador linear tem uma cardinalidade n + 1. Minha pergunta é por que nos importamos? A maioria dos conjuntos de dados nos quais você classifica linearmente...
Estou interessado em resultados teóricos para a capacidade de generalização de máquinas de vetores de suporte, por exemplo, limites na probabilidade de erro de classificação e na dimensão Vapnik-Chervonenkis (VC) dessas máquinas. No entanto, lendo a literatura, tive a impressão de que alguns...
Qual é a dimensão VC do algoritmo k-vizinho mais próximo se k for igual ao número de pontos de treinamento usados? Contexto: Essa pergunta foi feita em um curso que eu faço e a resposta dada foi 0. Eu, no entanto, não entendo por que esse é o caso. Minha intuição é que a VC-Dimension seja 1,...
O livro "Introdução ao aprendizado de máquina" de Ethem Alpaydın afirma que a dimensão VC de um retângulo alinhado ao eixo é 4. Mas como um retângulo pode quebrar um conjunto de quatro pontos colineares com pontos positivos e negativos alternativos? Alguém pode explicar e provar a dimensão VC de...