Perguntas com a marcação «least-squares»

Se nas regressões OLS padrão, duas suposições são violadas (distribuição normal de erros, homocedasticidade), o bootstrapping de erros padrão e intervalos de confiança é uma alternativa apropriada para obter resultados significativos com relação à significância dos coeficientes do regressor? Os...

A pergunta é direta: é apropriado usar a regressão linear quando Y é limitado e discreto (por exemplo, a pontuação do teste 1 ~ 100, algum ranking predefinido 1 ~ 17)? Nesse caso, "não é bom" usar regressão linear ou é totalmente errado

Quando é preferível usar a estimativa de máxima verossimilhança em vez dos mínimos quadrados comuns? Quais são os pontos fortes e as limitações de cada um? Estou tentando reunir conhecimentos práticos sobre onde usar cada um em situações

Estou tentando encontrar informações sobre os pressupostos da regressão PLS (único ). Estou especialmente interessado em uma comparação dos pressupostos do PLS com relação aos da regressão do OLS. yyy Eu li / vasculhei uma grande quantidade de literatura sobre o tópico do PLS; artigos de Wold...

Aqui está o meu contexto para esta pergunta: Pelo que sei, não podemos executar uma regressão ordinária de mínimos quadrados em R ao usar dados ponderados e o surveypacote. Aqui, temos que usar svyglm(), que em vez disso executa um modelo linear generalizado (que pode ser a mesma coisa? Estou...

Eu sei como executar uma regressão linear em um conjunto de pontos. Ou seja, eu sei como ajustar um polinômio de minha escolha a um determinado conjunto de dados (no sentido LSE). No entanto, o que não sei é como forçar minha solução a passar por alguns pontos específicos de minha escolha. Já vi...

Existe uma regra prática ou mesmo alguma maneira de dizer qual o tamanho de uma amostra para estimar um modelo com um determinado número de parâmetros? Então, por exemplo, se eu quiser estimar uma regressão de mínimos quadrados com 5 parâmetros, qual deve ser o tamanho da amostra? Importa qual...

Eu quero criar um modelo de regressão que seja uma média de vários modelos OLS, cada um com base em um subconjunto dos dados completos. A idéia por trás disso é baseada neste artigo . Crio k folds e construo k modelos OLS, cada um com dados sem uma das dobras. Em seguida, faço a média dos...

Estou tentando calcular a probabilidade de log para uma regressão de mínimos quadrados não linear generalizada para a função f(x)=β1(1+xβ2)β3f(x)=β1(1+xβ2)β3f(x)=\frac{\beta_1}{(1+\frac x\beta_2)^{\beta_3}}otimizado pelagnlsfunção no pacote Rnlme, usando a matriz de covariância de variância gerada...

Alguém pode me apontar na direção de um algoritmo online (recursivo) para a regularização de Tikhonov (mínimos quadrados regularizados)? Em uma configuração offline, eu calcularia β^=(XTX+λI)−1XTYβ^=(XTX+λI)−1XTY\hat\beta=(X^TX+λI)^{−1}X^TY usando meu conjunto de dados original, onde λλλ é...

Estudei regressão linear e tentei no conjunto abaixo {(x, y)}, em que x especificou a área da casa em metros quadrados e y especificou o preço em dólares. Este é o primeiro exemplo no Andrew Ng Notes . 2104.400 1600.330 2400.369 1416.232 3000.540 Eu desenvolvi um código de exemplo, mas quando o...

A pergunta acima diz tudo. Basicamente, minha pergunta é para uma função de ajuste genérico (poderia ser arbitrariamente complicada) que não será linear nos parâmetros que estou tentando estimar, como escolher os valores iniciais para inicializar o ajuste? Estou tentando fazer mínimos quadrados não...

Eu tenho um conjunto de dados que representa decaimento exponencial. Eu gostaria de ajustar uma função exponencial a esses dados. Eu tentei log transformando a variável de resposta e, em seguida, usando menos quadrados para ajustar uma linha; usando um modelo linear generalizado com uma função de...

Eu estou tentando interpretar a saída de nls (). Eu li este post, mas ainda não entendo como escolher o melhor ajuste. Dos meus ajustes, tenho duas saídas: > summary(m) Formula: y ~ I(a * x^b) Parameters: Estimate Std. Error t value Pr(>|t|) a 479.92903 62.96371 7.622 0.000618 *** b...

Qual é a diferença entre mínimos quadrados e regressão linear? É a mesma

Eu sou muito novo em mínimos quadrados parciais (PLS) e tento entender a saída da função R plsr()no plspacote. Vamos simular dados e executar o PLS: library(pls) n <- 50 x1 <- rnorm(n); xx1 <- scale(x1) x2 <- rnorm(n); xx2 <- scale(x2) y <- x1 + x2 + rnorm(n,0,0.1); yy <-...

Se eu tiver um modelo de regressão: onde e ,Y= Xβ+ εY=Xβ+ε Y = X\beta + \varepsilon V [ε]=Id∈ Rn × nV[ε]=Id∈Rn×n\mathbb{V}[\varepsilon] = Id \in \mathcal{R} ^{n \times n}E [ε]=(0,…,0)E[ε]=(0,…,0)\mathbb{E}[\varepsilon]=(0, \ldots , 0) quando o uso de , o estimador ordinário de mínimos quadrados...

Eu estou querendo saber a diferença entre eles. Basicamente, eles fazem o mesmo trabalho no final, encontrando coeficientes de parâmetros, mas parecem diferentes da maneira como encontramos os coeficientes. Para mim, o método dos mínimos quadrados parece usar diferenciação e forma de matriz para...

Quero detectar se a colinearidade é um problema na minha regressão OLS. Entendo que os fatores de inflação de variação e o índice de condição são duas medidas comumente usadas, mas estou tendo dificuldade em encontrar algo definitivo sobre os méritos de cada abordagem ou quais devem ser as...

Comecei a estudar estimadores de mínimos quadrados ordinários (OLS) e ainda estou no início. Já comprei alguns livros sobre econometria, mas não encontrei nada online. Então, eu queria saber se existe um site, página inicial ou outros recursos on-line que expliquem os estimadores de mínimos...