Perguntas com a marcação «cart»

Depois de executar a análise de componentes principais (PCA), quero projetar um novo vetor no espaço do PCA (ou seja, encontrar suas coordenadas no sistema de coordenadas do PCA). Eu calculei o PCA na linguagem R usando prcomp. Agora eu devo poder multiplicar meu vetor pela matriz de rotação PCA....

Quais são os métodos que os algoritmos de aprendizado da árvore de decisão usam para lidar com os valores ausentes. Eles simplesmente preenchem o espaço usando um valor chamado

Não sou especialista em floresta aleatória, mas entendo claramente que o principal problema da floresta aleatória é a geração (aleatória) de árvores. Você pode me explicar como as árvores são geradas? (ou seja, qual é a distribuição usada para geração de árvores?) Desde já, obrigado !...

Eu tenho um conjunto de dados composto por 5 recursos: A, B, C, D, E. Eles são todos valores numéricos. Em vez de fazer um cluster baseado em densidade, o que eu quero fazer é agrupar os dados de maneira semelhante a uma árvore de decisão. A abordagem que quero dizer é algo como isto: O algoritmo...

O stump de decisão é uma árvore de decisão com apenas uma divisão. Também pode ser escrito como uma função por partes. Por exemplo, suponha que é um vetor e é o primeiro componente de , na configuração de regressão, algum coto de decisão pode serx 1

Qual é a definição de "espaço de recurso"? Por exemplo, ao ler sobre SVMs, li sobre "mapeamento para destacar o espaço". Ao ler sobre o CART, li sobre "particionamento para destacar o espaço". Entendo o que está acontecendo, especialmente para a CART, mas acho que há alguma definição que eu...

Florestas aleatórias são usadas para regressão. No entanto, pelo que entendi, eles atribuem um valor-alvo médio a cada folha. Como há apenas folhas limitadas em cada árvore, existem apenas valores específicos que a meta pode atingir em nosso modelo de regressão. Portanto, não é apenas uma regressão...

Estou procurando artigos ou textos que comparem e discutam (empiricamente ou teoricamente): Algoritmos de árvores de Boosting e Decision , como Random Forests ou AdaBoost , e GentleBoost, aplicados a árvores de decisão. com Métodos de aprendizado profundo, como Máquinas Boltzmann Restritas ,...

Existem muitas postagens de blog, vídeos do YouTube etc. sobre as idéias de empacotar ou aumentar árvores. Meu entendimento geral é que o pseudo-código para cada um é: Ensacamento: Coletar N amostras aleatórias de x% das amostras e% de recursos Ajuste seu modelo (por exemplo, árvore de decisão)...

Qual é a dimensão VC de uma árvore de decisão com k divide em duas dimensões? Digamos que o modelo é CART e as únicas divisões permitidas são paralelas aos eixos. Portanto, para uma divisão, podemos ordenar 3 pontos em um triângulo e, para qualquer identificação dos pontos, podemos obter uma...

As florestas aleatórias (RF) são um método competitivo de modelagem / mineração de dados. Um modelo de RF possui uma saída - a variável de saída / previsão. A abordagem ingênua para modelar várias saídas com RFs seria construir uma RF para cada variável de saída. Portanto, temos N modelos...

Na rotina rpart () para criar modelos CART, você especifica o parâmetro de complexidade para o qual deseja remover sua árvore. Eu vi duas recomendações diferentes para escolher o parâmetro de complexidade: Escolha o parâmetro de complexidade associado ao erro mínimo possível de validação cruzada....

Já faz um tempo desde que eu olhei para particionar árvores. A última vez que fiz esse tipo de coisa, eu gosto de festa no R (criada por Hothorn). A idéia de inferência condicional via amostragem faz sentido para mim. Mas a rpart também teve apelo. No aplicativo atual (não posso fornecer detalhes,...

Estou trabalhando na medida de importância do recurso Gini para florestas aleatórias. Portanto, preciso calcular a diminuição de Gini na impureza do nó. Aqui está a maneira como faço isso, o que leva a um conflito com a definição, sugerindo que devo estar errado em algum lugar ... :) Para uma...

Na verdade, estou escrevendo uma implementação do Random Forests, mas acredito que a pergunta é específica para as árvores de decisão (independentes dos RFs). Portanto, o contexto é que estou criando um nó em uma árvore de decisão e as variáveis ​​de previsão e de destino são contínuas. O nó...

Questões Depende se a árvore é rasa ou profunda? Ou podemos dizer isso independentemente da profundidade / níveis da árvore? Por que o viés é baixo e a variância é alta? Por favor, explique intuitivamente e

Suponhamos que temos duas árvores de regressão (árvore A e B) que árvore mapa de entrada a saída y ∈ R . Vamos y = f A ( x ) para a árvore A e F B ( x ) para a árvore B. Cada árvore utiliza separações binárias, com hiperplanos como as funções de separação.x ∈ Rdx∈Rdx \in \mathbb{R}^dy^∈...

Alguém pode ajudar a explicar algumas das matemáticas por trás da classificação no CART? Estou procurando entender como duas etapas principais acontecem. Por exemplo, eu treinei um classificador CART em um conjunto de dados e usei um conjunto de dados de teste para marcar seu desempenho preditivo,...

Um colega do meu escritório me disse hoje: "Os modelos de árvores não são bons porque são pegos por observações extremas". Uma pesquisa aqui resultou neste segmento que basicamente suporta a reivindicação. O que me leva à pergunta - em que situação um modelo CART pode ser robusto e como isso é...

Como o algoritmo da árvore de decisão se divide em um atributo a cada etapa, a profundidade máxima de uma árvore de decisão é igual ao número de atributos dos dados. Isso está