As análises de regressão moderada são frequentemente usadas nas ciências sociais para avaliar a interação entre dois ou mais preditores / covariáveis. Normalmente, com duas variáveis preditoras, o seguinte modelo é aplicado: Y=β0+β1∗X+β2∗M+β3∗XM+eY=β0+β1∗X+β2∗M+β3∗XM+eY = β_0 + β_1*X + β_2*M +...
Atualmente, estou trabalhando na construção de um modelo preditivo para um resultado binário em um conjunto de dados com ~ 300 variáveis e 800 observações. Eu li muito neste site sobre os problemas associados à regressão gradual e por que não usá-la. Eu estive lendo a regressão do LASSO e sua...
No aprendizado de máquina (para problemas de regressão), geralmente vejo o erro médio quadrático (MSE) ou o erro médio absoluto (MAE) sendo usado como a função de erro para minimizar (mais o termo de regularização). Gostaria de saber se há situações em que o uso do coeficiente de correlação seria...
Estive usando o ajuste de modelo caret, mas depois executei novamente o modelo usando o gbmpacote. Entendo que o caretpacote usa gbme a saída deve ser a mesma. No entanto, apenas um teste rápido usando data(iris)mostra uma discrepância no modelo de cerca de 5% usando RMSE e R ^ 2 como métrica de...
Fundo: Estou tentando seguir a revisão de Princeton sobre a estimativa de MLE para GLM . I compreender os conceitos básicos de estimativa MLE: likelihood, score, observado e esperado Fisher informationea Fisher scoringtécnica. E eu sei como justificar a regressão linear simples com a estimativa...
Depois de um ano na pós-graduação, meu entendimento de "mínimos quadrados ponderados" é o seguinte: seja , seja algumas \ n p vezes matriz de design \ boldsymbol \ beta \ in \ mathbb {R} ^ p seja um vetor de parâmetro, \ boldsymbol \ epsilon \ in \ mathbb {R} ^ n seja um vetor de erro tal que \...
Eu tenho um conjunto de dados composto de proporções que medem o "nível de atividade" de girinos individuais, tornando os valores vinculados entre 0 e 1. Esses dados foram coletados contando o número de vezes que o indivíduo se moveu dentro de um determinado intervalo de tempo (1 para movimento, 0...
Polinômios ortogonais em um conjunto univariado de pontos são polinômios que produzem valores nesses pontos de maneira que seu produto escalar e a correlação pareada sejam zero. R pode produzir polinômios ortogonais com a função poli . A mesma função possui um polímero variante que produz...
Quero saber a diferença entre regressão linear em uma análise regular de aprendizado de máquina e regressão linear no cenário de "aprendizado profundo". Quais algoritmos são usados para regressão linear em um ambiente de aprendizado
Aqui está um pequeno exemplo: MyDf<-data.frame(x=c(1,2,3,4), y=c(1.2, .7, -.5, -3)) Agora com o base::lm: > lm(y~x, data=MyDf) %>% summary Call: lm(formula = y ~ x, data = MyDf) Residuals: 1 2 3 4 -0.47 0.41 0.59 -0.53 Coefficients: Estimate Std. Error t value Pr(>|t|)...
Qual é a diferença entre mínimos quadrados e regressão linear? É a mesma
Aqui está o problema de desvio menos absoluto em questão:. Eu sei que pode ser reorganizado como problema de LP da seguinte maneira:argminwL(w)=∑ni=1|yi−wTx|argminwL(w)=∑i=1n|yi−wTx| \underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}| min∑ni=1uimin∑i=1nui\min...
Estudei regressão linear e tentei no conjunto abaixo {(x, y)}, em que x especificou a área da casa em metros quadrados e y especificou o preço em dólares. Este é o primeiro exemplo no Andrew Ng Notes . 2104.400 1600.330 2400.369 1416.232 3000.540 Eu desenvolvi um código de exemplo, mas quando o...
Existem várias postagens sobre como selecionar recursos. Um dos métodos descreve a importância do recurso com base nas estatísticas t. Em R varImp(model)aplicado no modelo linear com características padronizadas , o valor absoluto da estatística t para cada parâmetro do modelo é usado. Então,...
Estou lendo Multivariable Model Building: Uma Abordagem Pragmática à Análise de Regressão Baseada em Polinômios Fracionários para Modelagem de Variáveis Contínuas de Patrick Royston e Willie Sauerbrei. Até agora, estou impressionado e é uma abordagem interessante que não havia considerado...
Como a estimativa de parâmetros / treinamento de regressão logística realmente funciona? Vou tentar colocar o que tenho até agora. A saída é y a saída da função logística em forma de probabilidade, dependendo do valor de x:
Fechado . Esta questão é baseada em opiniões . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela possa ser respondida com fatos e citações editando esta postagem . Fechado há 2 anos . Atualmente,...
Meu colega deseja analisar alguns dados após transformar a variável de resposta, elevando-a ao poder de (isto é,Y0,125).1818\frac18y0.125y0.125y^{0.125} Estou desconfortável com isso, mas estou tentando entender o porquê. Não consigo pensar em nenhuma lógica mecanicista para essa transformação....
Imagine que um pesquisador esteja explorando um conjunto de dados e execute 1000 regressões diferentes e encontre uma relação interessante entre eles. Agora imagine outro pesquisador com os mesmos dados executando apenas 1 regressão, e é o mesmo que o outro pesquisador fez 1000 regressões para...
Estou procurando literatura sobre regressão negativa da crista . Em suma, isto é uma generalização de regressão linear utilizando cume negativo λλ\lambda na fórmula β^=(X⊤X+λI)−1X⊤y.β^=(X⊤X+λI)−1X⊤y.\hat\beta = ( X^\top X + \lambda I)^{-1} X^\top y.O caso positivo tem uma teoria legal: como uma...