Estou tentando testar a capacidade da floresta aleatória de classificar amostras entre 2 grupos; Existem 54 amostras e números variáveis de variáveis usadas para classificação. Fiquei me perguntando por que as estimativas out-of-bag (OOB) podem variar até 5% umas das outras, mesmo quando estou...
Eu tenho um conjunto de dados com cerca de 70 variáveis que eu gostaria de reduzir. O que estou procurando fazer é usar o CV para encontrar as variáveis mais úteis da seguinte maneira. 1) Selecione aleatoriamente digamos 20 variáveis. 2) Use stepwise/ LASSO/ lars/ etc para escolher as...
Este é apenas um exemplo que encontrei várias vezes, portanto não tenho dados de amostra. Executando um modelo de regressão linear em R: a.lm = lm(Y ~ x1 + x2) x1é uma variável contínua. x2é categórico e possui três valores, por exemplo, "Baixo", "Médio" e "Alto". No entanto, a saída fornecida...
Não obtenho a diferença entre the rfobject$importancee importance(rfobject)na coluna MeanDecreaseAccuracy. Exemplo: > data("iris") > fit <- randomForest(Species~., data=iris, importance=TRUE) > fit$importance setosa versicolor virginica MeanDecreaseAccuracy
Métodos de conjuntos baseados em árvores, como Floresta Aleatória e derivadas subsequentes (por exemplo, floresta condicional), todos pretendem ser úteis nos chamados problemas "pequenos n , grandes p ", para identificar importância relativa variável. De fato, esse parece ser o caso, mas minha...
Estou me perguntando se é uma boa idéia remover essas variáveis com um valor de importância variável negativo ("% IncMSE") em um contexto de regressão. E se me der uma previsão melhor? O que você
Estou trabalhando em um conjunto de dados. Depois de usar algumas técnicas de identificação de modelos, criei um modelo ARIMA (0,2,1). Usei a detectIOfunção no pacote TSAem R para detectar um outlier inovador (IO) na 48ª observação do meu conjunto de dados original. Como faço para incorporar esse...
Estou tentando utilizar a regressão de RF para fazer previsões sobre o desempenho de uma fábrica de papel. Eu tenho dados minuto a minuto para as entradas (taxa e quantidade de polpa de madeira entrando etc ...), bem como para o desempenho da máquina (papel produzido, energia consumida pela...
Estou tendo problemas para entender como a varImpfunção funciona para um modelo randomForest com o caretpacote. No exemplo abaixo, o recurso var3 recebe zero importância usando a varImpfunção de cursor , mas o modelo final randomForest subjacente tem importância diferente de zero para o recurso...
Toda a literatura de Modelagem de Distribuição de Espécies sugere que, ao prever a presença / ausência de uma espécie usando um modelo que gera probabilidades (por exemplo, RandomForests), é importante escolher a probabilidade de limiar pela qual classificar uma espécie como presença ou ausência é...
Eu li alguma literatura que florestas aleatórias não podem se superestimar. Embora isso pareça ótimo, parece bom demais para ser verdade. É possível que os rfs se ajustem
O aprendizado do Scikit parece usar predição probabilística, em vez de voto majoritário, para a técnica de agregação de modelos, sem uma explicação do porquê (1.9.2.1. Florestas aleatórias). Existe uma explicação clara para o porquê? Além disso, existe um bom artigo em papel ou de revisão para as...
Na seção 7 do artigo Random Forests (Breiman, 1999), o autor afirma a seguinte conjectura: "Adaboost é uma floresta aleatória". Alguém já provou ou refutou isso? O que foi feito para provar ou refutar este post de
Tanto quanto eu vi, as opiniões tendem a diferir sobre isso. As melhores práticas certamente ditariam a validação cruzada (especialmente se comparar RFs com outros algoritmos no mesmo conjunto de dados). Por outro lado, a fonte original afirma que o fato de o erro OOB ser calculado durante o...
Imagine o seguinte problema. Tenho instantâneos semanais de dados de preços de itens K, bem como de vários recursos / preditores. Quero prever quanto o preço mudará daqui a dois anos. Eu montei meu conjunto de dados da seguinte forma: cada linha consiste em recursos para cada item de cada semana e...
Eu tenho uma regressão aleatória da floresta criada usando skl e observo que produzo resultados diferentes com base na definição da semente aleatória com valores diferentes. Se eu usar o LOOCV para estabelecer qual semente funciona melhor, esse é um método válido?
O Support Vector Machines com kernel de função de base radial é um classificador supervisionado de uso geral. Embora conheça os fundamentos teóricos desses SVMs e seus pontos fortes, não conheço os casos em que eles são o método preferido. Então, existe uma classe de problemas para os quais os...
Tudo está no título, faz sentido usar a seleção de recursos antes de usar a floresta
Uma pergunta recente sobre alternativas à regressão logística em R produziu uma variedade de respostas, incluindo randomForest, gbm, rpart, bayesglm e modelos aditivos generalizados. Quais são as diferenças práticas e de interpretação entre esses métodos e a regressão logística? Que suposições elas...
Estou usando o pacote randomForest no R (versão 2.13.1, versão 4.6-2 randomForest) para regressão e notei um viés significativo nos meus resultados: o erro de previsão depende do valor da variável de resposta. Valores altos são sub-previstos e valores baixos são super-previstos. Inicialmente,...