Perguntas com a marcação «sigmoid-curve»

No curso de redes neurais e aprendizado profundo de Andrew Ng, sobre o Coursera, ele diz que usar é quase sempre preferível ao .tanhtanhtanhsigmoidsigmoidsigmoid A razão que ele dá é que as saídas usando centralizam em torno de 0 em vez de 0,5 da , e isso "torna o aprendizado para a próxima camada...

Eu estava jogando com uma rede neural simples, com apenas uma camada oculta, da Tensorflow, e tentei diferentes ativações para a camada oculta: Relu Sigmoid Softmax (bem, normalmente o softmax é usado na última camada ..) Relu oferece a melhor precisão de trem e precisão de validação. Não sei...

A função logística possui uma faixa de saída de 0 a 1 e a inclinação assintótica é zero em ambos os lados. O que é uma alternativa a uma função logística que não fica completamente achatada em seus fins? Quais declives assintóticos estão se aproximando de zero, mas não de zero, e o alcance é...