Ao usar a validação cruzada para fazer a seleção do modelo (como por exemplo, ajuste de hiperparâmetro) e avaliar o desempenho do melhor modelo, deve-se usar a validação cruzada aninhada . O loop externo é para avaliar o desempenho do modelo, e o loop interno é para selecionar o melhor modelo; o...
Quero usar a regressão Lasso ou cume para um modelo com mais de 50.000 variáveis. Quero fazê-lo usando o pacote de software em R. Como posso estimar o parâmetro de encolhimento ( )?λλ\lambda Edições: Aqui está o ponto que eu cheguei: set.seed (123) Y <- runif (1000) Xv <- sample(c(1,0),...
Estou tentando descobrir qual método de validação cruzada é melhor para minha situação. Os dados a seguir são apenas um exemplo para solucionar o problema (em R), mas meus Xdados reais ( xmat) são correlacionados entre si e em graus diferentes com a yvariável ( ymat). Forneci o código R, mas...
Estou tentando entender a diferença estatística entre análise discriminante linear e regressão logística . Estou certo de que, para um problema de classificação de duas classes , o LDA prevê duas funções de densidade normal (uma para cada classe) que cria um limite linear onde elas se cruzam,...
Estou lendo um livro sobre regressão linear e tenho alguns problemas para entender a matriz de variância-covariância de bb\mathbf{b} : Os itens diagonais são fáceis, mas os fora da diagonal são um pouco mais difíceis, o que me intriga é que
Eu vejo uma regressão restrita semelhante aqui: Regressão linear restrita através de um ponto especificado mas minha exigência é um pouco diferente. Preciso que os coeficientes totalizem até 1. Especificamente, estou regredindo os retornos de 1 série de câmbio contra 3 outras séries de câmbio,...
Estou tentando criar um ajuste polinomial de segunda ordem para alguns dados que tenho. Digamos que eu plotei este ajuste com ggplot(): ggplot(data, aes(foo, bar)) + geom_point() + geom_smooth(method="lm", formula=y~poly(x, 2)) Eu recebo: Portanto, um ajuste de segunda ordem funciona muito...
Eu só estava me perguntando por que os problemas de regressão são chamados de "regressão". Qual é a história por trás do nome? Uma definição para regressão: "Recaída para um estado menos perfeito ou
Estou curioso para por que geralmente há apenas regularização de normas e . Existem provas de por que estas são melhores?L
Estou tentando ajustar um modelo de regressão linear multivariada com aproximadamente 60 variáveis preditivas e 30 observações, por isso estou usando o pacote glmnet para regressão regularizada porque p> n. Passei por documentação e outras perguntas, mas ainda não consigo interpretar os...
Eu tenho um modelo GLM logístico com 8 variáveis. Fiz um teste do qui-quadrado em R anova(glm.model,test='Chisq')e 2 das variáveis se mostraram preditivas quando ordenadas no início do teste e não tanto quando ordenadas na parte inferior. O summary(glm.model)sugere que os seus coeficientes são...
Enquanto aprendia sobre o Gradient Boosting, não ouvi nenhuma restrição sobre as propriedades de um "classificador fraco" que o método usa para criar e agrupar modelos. No entanto, eu não conseguia imaginar uma aplicação de um GB que usa regressão linear e, de fato, quando realizei alguns testes -...
Além de literalmente testar cada combinação possível de variáveis em um modelo ( x1:x2ou x1*x2 ... xn-1 * xn). Como você identifica se uma interação DEVE ou PODE existir entre suas variáveis independentes (espero)? Quais são as melhores práticas na tentativa de identificar interações? Existe...
Eu nem sei se essa pergunta faz sentido, mas qual é a diferença entre regressão múltipla e correlação parcial (além das diferenças óbvias entre correlação e regressão, que não é o que eu pretendo)? Quero descobrir o seguinte: Eu tenho duas variáveis independentes ( x1x1x_1 , x2x2x_2 ) e uma...
Estou ajustando um modelo de regressão linear múltipla entre 4 variáveis categóricas (com 4 níveis cada) e uma saída numérica. Meu conjunto de dados tem 43 observações. A regressão fornece os seguintes valores de do teste para cada coeficiente de inclinação: . Assim, o coeficiente do 4º preditor...
Qual é a fórmula exata usada em R lm() para o quadrado R ajustado? Como eu posso interpretar isso? Fórmulas quadradas de r ajustadas Parece haver várias fórmulas para calcular o quadrado R ajustado. Wherry fórmula de: 1−(1−R2)(n−1)(n−v)1−(1−R2)(n−1)(n−v)1-(1-R^2)\frac{(n-1)}{(n-v)} Fórmula de...
Ao executar um modelo de regressão múltipla em R, uma das saídas é um erro padrão residual de 0,0589 em 95.161 graus de liberdade. Eu sei que os 95.161 graus de liberdade são dados pela diferença entre o número de observações na minha amostra e o número de variáveis no meu modelo. Qual é o erro...
A summary.rqfunção da vinheta quantreg fornece diversas opções para estimativas de erro padrão dos coeficientes de regressão quantílica. Quais são os cenários especiais em que cada um deles se torna ideal / desejável? "rank", que produz intervalos de confiança para os parâmetros estimados,...
Atualmente, estou trabalhando para construir um modelo usando uma regressão linear múltipla. Depois de mexer no meu modelo, não tenho certeza de como determinar melhor quais variáveis manter e quais remover. Meu modelo começou com 10 preditores para o DV. Ao usar todos os 10 preditores, quatro...
Qual é o objetivo da função de link como um componente do modelo linear generalizado? Por que precisamos disso? A Wikipedia afirma: Pode ser conveniente corresponder o domínio da função de link ao intervalo da média da função de distribuição Qual é a vantagem de fazer...