Em Introdução à aprendizagem estatística (James et al.), Na seção 3.7, exercício 5, afirma que a fórmula para assumindo regressão linear sem interceptação é que e são as estimativas usuais no OLS para regressão linear simples ( ). β 1= n Σ i = 1 x i y ip0=ˉy-β1ˉxβ1=Sxy
Sxy= n ∑ i=1(xi- ˉ x )(yi- ˉ y )
Este não é o exercício real ; Estou apenas querendo saber como derivar a equação. Sem usar álgebra matricial , como derivá-lo?
Minha tentativa: com , temos . β 1= ˉ y
Após alguma álgebra, pode-se mostrar que e . A partir daqui, eu estou preso. S x x = n ∑ i = 1 x 2 i - n ˉ x 2
self-study
least-squares
Clarinetist
fonte
fonte
Respostas:
Isso é direto na definição de Mínimos Quadrados Ordinários. Se não houver interceptação, alguém está minimizando . Como é suave como uma função de , todos os mínimos (ou máximos) ocorrem quando a derivada é zero. Diferenciando em relação a , obtemos . Resolver para fornece a fórmula. β β - ∑ i = n i = 1 2 ( y i - β x i ) x i βR(β)=∑i=ni=1(yi−βxi)2 β β −∑i=ni=12(yi−βxi)xi β
fonte