Atualmente aprendendo regressão de cordilheira e fiquei um pouco confuso sobre a penalização de modelos mais complexos (ou a definição de um modelo mais complexo).
Pelo que entendi, a complexidade do modelo não se correlaciona necessariamente com a ordem polinomial. Portanto:
E eu sei que o ponto de regularização é manter a complexidade do modelo baixa, por exemplo, temos um polinômio de 5ª ordem
Quanto mais parâmetros forem 0, melhor.
Mas o que não entendo é que, se fosse o mesmo polinômio de ordem, por que valores mais baixos de parâmetros são menos penalizados? Então, por que:
Obrigado!
fonte