Aprendi na aula de modelos lineares que, se dois preditores estiverem correlacionados e ambos forem incluídos em um modelo, um será insignificante. Por exemplo, suponha que o tamanho de uma casa e o número de quartos estejam correlacionados. Ao prever o custo de uma casa usando esses dois...
Todos conhecemos estudos observacionais que tentam estabelecer um nexo de causalidade entre um preditor não aleatório X e um resultado, incluindo todos os possíveis fatores de confusão imagináveis em um modelo de regressão múltipla. Ao “controlar” todos os fatores de confusão, diz o argumento,...
Nas estatísticas tradicionais, durante a construção de um modelo, verificamos a multicolinearidade usando métodos como estimativas do fator de inflação de variância (VIF), mas no aprendizado de máquina, usamos a regularização para a seleção de recursos e não parecemos verificar se os recursos estão...
A diferença nas diferenças há muito é popular como uma ferramenta não experimental, especialmente em economia. Alguém pode fornecer uma resposta clara e não técnica para as seguintes perguntas sobre diferença de diferença. O que é um estimador de diferença de diferença? Por que um estimador de...
Alguém pode explicar como as propriedades dos logs o fazem para que você possa fazer regressões lineares de log em que os coeficientes são interpretados como alterações
Existem vários tópicos neste site que discutem como determinar se os resíduos do OLS são normalmente distribuídos normalmente assintoticamente . Outra maneira de avaliar a normalidade dos resíduos com o código R é fornecida nesta excelente resposta . Esta é outra discussão sobre a diferença prática...
Atualmente, estou escrevendo um artigo com várias análises de regressão múltipla. Embora visualizar a regressão linear univariada seja fácil por meio de gráficos de dispersão, fiquei pensando se existe alguma maneira de visualizar várias regressões lineares? Atualmente, estou apenas plotando...
Eu sou uma espécie de floresta aleatória, então ainda estou lutando com alguns conceitos básicos. Na regressão linear, assumimos observações independentes, variação constante… Quais são as suposições / hipóteses básicas que fazemos quando usamos floresta aleatória? Quais são as principais...
Entendo que a definição básica de endogeneidade é que não está satisfeito, mas o que isso significa no sentido do mundo real? Eu li o artigo da Wikipedia, com o exemplo de oferta e demanda, tentando entender o sentido, mas não ajudou muito. Ouvi a outra descrição de endógena e exógena como...
A regularização usando métodos como Ridge, Lasso, ElasticNet é bastante comum para regressão linear. Eu queria saber o seguinte: Esses métodos são aplicáveis à regressão logística? Em caso afirmativo, existem diferenças na maneira como elas precisam ser usadas para a regressão logística? Se esses...
Eu costumo ouvir sobre "mínimos quadrados comuns". Esse é o algoritmo mais usado para regressão linear? Existem motivos para usar um
Estou pensando em construir um modelo de previsão de uma relação , onde e e . Portanto, a proporção estaria entre e .a ≤ b a > 0 b > 0 0 1a/ba/ba/ba≤ba≤ba \le ba>0a>0a > 0b>0b>0b > 0000111 Eu poderia usar regressão linear, embora isso não se limite naturalmente a 0..1. Não tenho...
Qual é a principal diferença entre a estimativa de máxima verossimilhança (MLE) e a estimativa de mínimos quadrados (LSE)? Por que não podemos usar o MLE para prever valores de em regressão linear e vice-versa?yyy Qualquer ajuda sobre este tópico será muito
Eu tenho uma pergunta sobre qual é a melhor maneira de especificar uma interação em um modelo de regressão. Considere os seguintes dados: d <- structure(list(r = structure(c(1L, 1L, 1L, 1L, 1L, 1L, 1L, 1L, 1L, 1L, 2L, 2L, 2L, 2L, 2L, 2L, 2L, 2L, 2L, 2L), .Label = c("r1","r2"), class =...
Atualmente, estou lendo um artigo sobre o local e a preferência de voto nas eleições de 2000 e 2004. Nele, há um gráfico que exibe os coeficientes de regressão logística. De cursos anos atrás e um pouco de leitura, Entendo a regressão logística como uma maneira de descrever a relação entre várias...
Ao transformar variáveis, você precisa usar a mesma transformação? Por exemplo, posso escolher variáveis transformadas de maneira diferente, como em: Seja idade, duração do emprego, duração da residência e renda.x1, x2, x3x1,x2,x3x_1,x_2,x_3 Y = B1*sqrt(x1) + B2*-1/(x2) + B3*log(x3) Ou você...
Admito que sou relativamente novo em escores de propensão e análise causal. Uma coisa que não é óbvia para mim como iniciante é como o "equilíbrio" usando escores de propensão é matematicamente diferente do que acontece quando adicionamos covariáveis em uma regressão? O que há de diferente na...
Gostaria de encontrar preditores para uma variável dependente contínua de um conjunto de 30 variáveis independentes. Estou usando a regressão Lasso conforme implementada no pacote glmnet em R. Aqui está um código fictício: # generate a dummy dataset with 30 predictors (10 useful & 20...
Alguém sabe como descobrir se os pontos 7, 16 e 29 são pontos influentes ou não? Li em algum lugar que, como a distância de Cook é menor que 1, eles não são. Estou certo?
Estou tendo alguns problemas com a derivação da solução para regressão de crista. Conheço a solução de regressão sem o termo de regularização: β=(XTX)−1XTy.β=(XTX)−1XTy.\beta = (X^TX)^{-1}X^Ty. Porém, após adicionar o termo L2 à função cost, como é que a solução se...