Para explorar como a LASSOregressão funciona, escrevi um pequeno pedaço de código que deve otimizar a LASSOregressão escolhendo o melhor parâmetro alfa. Não consigo descobrir por que a LASSOregressão está me dando resultados tão instáveis para o parâmetro alfa após a validação cruzada. Aqui...
Estou executando um modelo de oliv multivariado em que minha variável dependente é a Pontuação de consumo de alimentos , um índice criado pela soma ponderada das ocorrências de consumo de algumas categorias de alimentos. Embora eu tenha tentado especificações diferentes do modelo, escalado e / ou...
Quais são as alternativas de última geração aos Processos Gaussianos (GP) para regressão não-linear não paramétrica com incerteza de previsão, quando o tamanho do conjunto de treinamento começa a se tornar proibitivo para os GPs de baunilha, mas ainda não é muito grande? Os detalhes do meu...
Tenho dados sobre diferentes equipes, jogadores etc. Estou tentando descobrir a melhor maneira de modelar o resultado de uma partida, que pode terminar em uma vitória para o time da casa, uma perda para o time da casa ou um empate. Estou tendo problemas para modelar isso. Por exemplo, posso usar...
Estou executando um modelo de regressão múltipla e procurando usar o AIC e o BIC para selecionar modelos. No entanto, percebo que ambas as medidas não consideram o número de variáveis que podemos escolher, mas consideram apenas o número de variáveis escolhidas. Se eu tenho muitas variáveis...
Minha pergunta está relacionada à regularização em regressão linear e regressão logística. Atualmente, estou fazendo a terceira semana do curso Machine Learning de Andrew Ng sobre Coursera. Entendo como o ajuste excessivo pode ser um problema comum e tenho alguma intuição de como a regularização...
Estou realizando uma regressão logística. Criei os seguintes dados de teste (os dois preditores e o critério são variáveis binárias): UV1 UV2 AV 1 1 1 1 2 1 1 1 3 1 1 1 4 1 1 1 5 1 1 1 6 1 1 1 7 1 1 1 8 0 0 1 9 0 0 1 10 0 0 1 11 1 1 0 12 1 1 0 13 1 0 0 14 1 0 0 15 1 0 0 16 1 0 0 17 1 0 0 18 0 0...
Quando um algoritmo de aprendizagem (por exemplo, classificação, regressão, clustering ou redução de dimensão) usa apenas o produto escalar entre pontos de dados , podemos usar implicitamente um mapeamento dimensional mais alto através do truque do kernel, troca de todos os casos em que o produto...
Por que a hipótese de regressão logística é vista como uma função de probabilidade? Entendo que o usamos para prever 0 ou 1, mas ainda assim, por que uma função (a hipótese) que gera números entre 0 e 1 pode ser considerada uma função de probabilidade? Isso é
Um modelo de regressão linear regular é , onde são coeficientes desconhecidos e \ varepsilon é ruído gaussiano com média zero e variação constante. Estou construindo um modelo em que o termo de erro \ varepsilon tem duas complicações:y=c′x+εy=c′x+εy = c'x +
A estimativa de regressão tradicional da crista é β^ridge=(XTX+λI)−1XTYβ^ridge=(XTX+λI)−1XTY \hat{\beta}_{ridge} = (X^TX+\lambda I)^{-1} X^T Y que vem da adição do termo de penalidade λ||β||22λ||β||22\lambda ||\beta||^2_2. Tenho lutado para encontrar literatura sobre a regularização em direção...
Este é um post cruzado do Math SE . Eu tenho alguns dados (tempo de execução de um algoritmo) e acho que segue uma lei de energia yr e g= k xumayreg=kxumay_\mathrm{reg} = k x^a Eu quero determinar e . O que fiz até agora é fazer uma regressão linear (mínimos quadrados) através de e determinar e...
Isso não está diretamente relacionado à minha outra pergunta , embora o tópico seja o mesmo. Também é provavelmente uma pergunta muito trivial, mas tenha paciência :) Eu estava discutindo com um colega sobre o uso da regressão de processo gaussiana, e ele fez duas afirmações com as quais não...
Nos Modelos Lineares Generalizados, a distribuição condicional da variável de resposta deve pertencer à família exponencial. Por que essa restrição é importante? Que propriedade um modelo de regressão perderia se escolhêssemos uma distribuição fora da família
Eu sou um novato de verdade quando se trata de estatística, por favor, não me julgue e minha pergunta;) Estou fazendo uma análise de regressão linear com o SPSS e, como meus dados não são normalmente distribuídos nem mostram homoscedasticidade, decidi usar o bootstrap. Agora, estou realmente...
Eu estou querendo saber se dados inteiros do preditor devem ser tratados como categóricos (portanto, exigindo codificação) ou contínuos. Por exemplo, se o intervalo de um determinado preditor Xfor todo o número entre 1 e 230, posso tratá-lo como uma variável contínua ou devo codificá-lo para obter...
Eu tenho um modelo de regressão logística binária derivada passo a passo. Eu usei a calibrate(, bw=200, bw=TRUE)função no rmspacote em R para estimar sua calibração futura. A saída é fornecida abaixo e mostra a estimativa da curva de calibração corrigida por overfitting de autoinicialização para o...
Gostaria de saber qual é a expressão de desvio na regressão de Poisson usando a xgboostferramenta (aumento extremo do gradiente). De acordo com o código fonte, a função de avaliação é: struct EvalPoissonNegLogLik : public EvalEWiseBase { const char *Name() const override { return...
Ao passar da normalização para na regressão linear, devo esperar ver mais viés ou mais variação? Observe que o viés é um sinal de falta de ajuste e a variação é um sinal de falta de ajuste. Assuma a constante λ.eu2L2L^2eu1 1L1L^1 Estou procurando uma regra geral aqui. Se não houver, e a resposta...
A inferência é baseada em um modelo completo e, em caso afirmativo, em que circunstâncias? Suponha que você esteja interessado no relacionamento potencial entre uma variável de resposta e várias variáveis preditoras de candidatos e use alguma forma de regressão (por exemplo, modelo linear...