Da classe de aprendizado profundo do Udacity , o softmax de y_i é simplesmente o exponencial dividido pela soma do exponencial de todo o vetor Y: Onde S(y_i)está a função softmax de y_ie eé o exponencial e jé o não. de colunas no vetor de entrada Y. Eu tentei o seguinte: import numpy as...
Na camada de saída de uma rede neural, é típico usar a função softmax para aproximar uma distribuição de probabilidade: Isso é caro para calcular por causa dos expoentes. Por que não simplesmente executar uma transformação Z para que todas as saídas sejam positivas e normalizar apenas dividindo...
Recentemente, encontrei tf.nn.sparse_softmax_cross_entropy_with_logits e não consigo descobrir qual é a diferença em comparação com tf.nn.softmax_cross_entropy_with_logits . É a única diferença que os vetores de treinamento yprecisam ser codificados em um ponto ao usar