Qual é o intervalo típico de valores possíveis para o parâmetro de contração na regressão penalizada?

Na regressão de laço ou cordão, é necessário especificar um parâmetro de retração, geralmente chamado por $\lambda$ ou $\alpha$ . Esse valor geralmente é escolhido por meio da validação cruzada, verificando-se vários valores diferentes nos dados de treinamento e ver qual produz melhor, por exemplo, nos dados de teste. Qual é o intervalo de valores que se deve verificar? É ? $R^2$ $(0,1)$

regression lasso regularization ridge-regression penalized rhombidodecahedron
fonte

Possível duplicado de escolher a densidade de gama e grelha para parâmetro de regularização em LASSO

Alex

Respostas:

Você realmente não precisa se preocupar. Na maioria dos pacotes (como glmnet), se você não especificar , o pacote de software gera sua própria sequência (o que geralmente é recomendado). A razão pela qual enfatizo esta resposta é que, durante a execução do LASSO, o solucionador gera uma sequência de , portanto, embora seja contra-intuitivo fornecer um único valor de pode realmente diminuir consideravelmente o solucionador (quando você fornece um parâmetro exato, o solucionador recorre a resolver um programa semi-definido que pode ser lento para casos razoavelmente "simples".) $\lambda$ $\lambda$ $\lambda$

$\lambda$ $[0,\infty[$ $\lambda$

Sid
fonte

Olá Sid, o OP parece ciente do fato que você mencionou em sua postagem. Também não parece responder à pergunta. :-)

cardeal