O parâmetro de taxa de aprendizado ( ) no Gradient Boosting reduz a contribuição de cada novo modelo de base - tipicamente uma árvore rasa - que é adicionada na série. Foi demonstrado que aumenta drasticamente a precisão do conjunto de testes, o que é compreensível, pois em etapas menores, o mínimo...
Para modelagem preditiva, precisamos nos preocupar com conceitos estatísticos, como efeitos aleatórios e não independência de observações (medidas repetidas)? Por exemplo.... Eu tenho dados de 5 campanhas de mala direta (ocorridas ao longo de um ano) com vários atributos e um sinalizador para...
Contexto: De uma pergunta no Mathematics Stack Exchange (Posso criar um programa) , alguém possui um conjunto de pontos e deseja ajustar uma curva linear, exponencial ou logarítmica. O método usual é começar escolhendo um destes (que especifica o modelo) e, em seguida, faça os cálculos...
Vamos dar o seguinte exemplo: set.seed(342) x1 <- runif(100) x2 <- runif(100) y <- x1+x2 + 2*x1*x2 + rnorm(100) fit <- lm(y~x1*x2) Isso cria um modelo de y com base em x1 e x2, usando uma regressão OLS. Se quisermos prever y para um dado x_vec, podemos simplesmente usar a fórmula que...
Eu tenho dois grupos de sujeitos, A e B, cada um com um tamanho de aproximadamente 400 e cerca de 300 preditores. Meu objetivo é construir um modelo de previsão para uma variável de resposta binária. Meu cliente deseja ver o resultado da aplicação do modelo criado de A em B. (Em seu livro...
Eu li inúmeras publicações neste site que são incrivelmente contra o uso de seleção gradual de variáveis usando qualquer tipo de critério, seja com base em valores-p, AIC, BIC, etc. Entendo por que esses procedimentos são, em geral, muito ruins para a seleção de variáveis. o post provavelmente...
Depois de ajustar um coxmodel, é possível fazer previsões e recuperar o risco relativo de novos dados. O que não entendo é como o risco relativo é calculado para um indivíduo e o que é relativo (ou seja, a média da população)? Alguma recomendação de recursos para ajudar a entender (eu não sou muito...
Estou procurando criar um modelo preditivo para prever a rotatividade e pretendo usar um modelo de sobrevivência de tempo discreto ajustado a um conjunto de dados de treinamento por período de pessoa (uma linha para cada cliente e período discreto em que eles estavam em risco, com um indicador de...
Mais uma pergunta geral. Estou executando um SVM rbf para modelagem preditiva. Acho que meu programa atual definitivamente precisa de um pouco de velocidade. Eu uso o scikit learn com uma pesquisa de grade grossa a fina + validação cruzada. Cada execução do SVM leva cerca de um minuto, mas com...
Quais são os prós e os contras dos dois
(Essa pergunta pode parecer mais adequada para o Philosophy SE. Espero que os estatísticos possam esclarecer meus equívocos sobre as declarações de Box e Shmueli, por isso estou publicando aqui). George Box (da fama do ARIMA) disse: "Todos os modelos estão errados, mas alguns são úteis." Galit...
Eu tenho um modelo de previsão testado com quatro métodos, como você pode ver na figura do boxplot abaixo. O atributo que o modelo prevê está no intervalo de 0 a 8. Você pode perceber que há um limite superior externo e três limites inferiores indicados por todos os métodos. Gostaria de saber se é...
Estou tentando aprender a usar redes neurais. Eu estava lendo este tutorial . Depois de ajustar uma rede neural em uma série temporal usando o valor em para prever o valor em t + 1, o autor obtém o seguinte gráfico, onde a linha azul é a série temporal, o verde é a previsão nos dados do trem, o...
Esta pergunta faz referência ao artigo de Galit Shmueli, "Explicar ou prever" . Especificamente, na seção 1.5, "Explicar e prever são diferentes", o professor Shmueli escreve: Na modelagem explicativa, o foco é minimizar o viés para obter a representação mais precisa da teoria...
Suponha que eu tenha construído um modelo de previsão para a ocorrência de uma doença específica em um conjunto de dados (o conjunto de dados de construção do modelo) e agora quero verificar o quão bem o modelo funciona em um novo conjunto de dados (o conjunto de dados de validação). Para um modelo...
Eu me deparei com um boato de que algum estudo mostrou que o desempenho de modelos preditivos depende mais da experiência do analista de dados com o método escolhido do que da escolha do método. Em outras palavras, a alegação é que é mais importante que o analista de dados esteja familiarizado com...
Estou usando regressão quantílica (por exemplo, via gbmou quantregem R) - não focando na mediana, mas em um quantil superior (por exemplo, 75º). Vindo de um histórico de modelagem preditiva, quero medir o quão bem o modelo se encaixa em um conjunto de testes e poder descrevê-lo para um usuário...
As florestas aleatórias funcionam criando um conjunto de árvores de decisão em que cada árvore é criada usando uma amostra de autoinicialização dos dados de treinamento originais (amostra de variáveis de entrada e observações). Um processo semelhante pode ser aplicado para regressão linear? Crie...
Fechado . Esta questão precisa ser mais focada . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela se concentre apenas em um problema editando esta postagem . Fechado há 2 anos . Atualmente, estou...
Parece haver muita confusão na comparação entre usar glmnetdentro caretpara procurar uma lambda ideal e usar cv.glmnetpara fazer a mesma tarefa. Muitas perguntas foram feitas, por exemplo: Modelo de classificação train.glmnet vs. cv.glmnet? Qual é a maneira correta de usar glmnet com...