Recentemente, encontrei tf.nn.sparse_softmax_cross_entropy_with_logits e não consigo descobrir qual é a diferença em comparação com tf.nn.softmax_cross_entropy_with_logits . É a única diferença que os vetores de treinamento yprecisam ser codificados em um ponto ao usar
Fechadas. Esta pergunta não atende às diretrizes do Stack Overflow . Atualmente não está aceitando respostas. Quer melhorar esta questão? Atualize a pergunta para que esteja no tópico do Stack Overflow. Fechado há 6 anos . Melhore esta questão...
Tento entender os LSTMs e como construí-los com Keras. Eu descobri que existem principalmente os 4 modos de executar um RNN (os 4 certos na foto) Fonte da imagem: Andrej Karpathy Agora eu me pergunto como um trecho de código minimalista para cada um deles ficaria em Keras. Então algo como model...
Estou tentando entender o papel da Flattenfunção em Keras. Abaixo está meu código, que é uma rede simples de duas camadas. Ele recebe dados bidimensionais de forma (3, 2) e produz dados unidimensionais de forma (1, 4): model = Sequential() model.add(Dense(16, input_shape=(3,...
Como inicializar os pesos e vieses (por exemplo, com inicialização de He ou Xavier) em uma rede em PyTorch?
Fechadas. Esta pergunta não atende às diretrizes do Stack Overflow . Atualmente não está aceitando respostas. Quer melhorar esta questão? Atualize a pergunta para que esteja no tópico do Stack Overflow. Fechado há 3 dias . Melhore esta questão...
Se tivermos 10 autovetores, então podemos ter 10 nós neurais na camada de entrada. Se tivermos 5 classes de saída, então podemos ter 5 nós na camada de saída. Mas qual é o critério para escolher o número de camadas ocultas em um MLP e quantas nós em 1 camada
Eu estava tentando replicar como usar o empacotamento para entradas de sequência de comprimento variável para rnn, mas acho que primeiro preciso entender por que precisamos "empacotar" a sequência. Eu entendo por que precisamos "preenchê-los", mas por que "empacotar" (através...
Estou treinando uma rede neural para meu projeto usando Keras. Keras forneceu uma função de parada precoce. Posso saber quais parâmetros devem ser observados para evitar que minha rede neural se ajuste excessivamente usando a parada
Eu queria saber se seria possível salvar um modelo Keras parcialmente treinado e continuar o treinamento após carregar o modelo novamente. A razão para isso é que terei mais dados de treinamento no futuro e não quero treinar todo o modelo novamente. As funções que estou usando são: #Partly train...
Descobri em muitos códigos de rede neural disponíveis implementados usando o TensorFlow que os termos de regularização são frequentemente implementados adicionando manualmente um termo adicional ao valor de perda. Minhas perguntas são: Existe uma maneira mais elegante ou recomendada de...
Eu estava examinando este exemplo de um modelo de linguagem LSTM no github (link) . O que ele faz em geral é bastante claro para mim. Mas ainda estou lutando para entender o que a chamada contiguous()faz, o que ocorre várias vezes no código. Por exemplo, na linha 74/75 da entrada de código e as...
Tenho um exemplo de rede neural com duas camadas. A primeira camada leva dois argumentos e tem uma saída. O segundo deve receber um argumento como resultado da primeira camada e um argumento adicional. Deve ser assim: x1 x2 x3 \ / / y1 / \ / y2 Então, criei um modelo com duas camadas e...
Percebi que uma ocorrência frequente durante o treinamento está NANsendo introduzida. Freqüentemente, parece ser introduzido por pesos em camadas de produto interno / totalmente conectadas ou de convolução explodindo. Isso está ocorrendo porque o cálculo do gradiente está explodindo? Ou é por...
Essa recompensa terminou . As respostas a esta pergunta são elegíveis para uma recompensa de reputação de +150 . O período de carência da recompensa termina em 21 horas . sirjay está procurando uma resposta de uma fonte respeitável . Criei uma rede neural LSTM (RNN)...
Eu tenho redes adversárias generativas, onde o discriminador é minimizado com o MSE e o gerador deve ser maximizado. Porque ambos são oponentes que buscam o objetivo oposto. generator = Sequential() generator.add(Dense(units=50, activation='sigmoid',
Resumo e pergunta do problema Eu estou tentando olhar para alguns dos dados dentro de um objeto que pode ser enumerado, mas não indexado. Ainda sou novato em python, mas não entendo como isso é possível. Se você pode enumerá-lo, por que não pode acessar o índice da mesma maneira que enumera? E se...
Estou tentando atualizar / alterar os parâmetros de um modelo de rede neural e, em seguida, fazer com que a passagem direta da rede neural atualizada esteja no gráfico de computação (não importa quantas alterações / atualizações fazemos). Tentei essa idéia, mas sempre que faço isso, o pytorch...
Estou aprendendo a usar o módulo cerebral de Gekko para aplicativos de aprendizado profundo. Eu tenho criado uma rede neural para aprender a função numpy.cos () e depois produzir resultados semelhantes. Fico bem quando os limites do meu treinamento são: x = np.linspace(0,2*np.pi,100) Mas o...
Estou com um erro em relação a (Keras que não oferece suporte ao TensorFlow 2.0. Recomendamos o uso tf.kerasou, alternativamente, o downgrade para o TensorFlow 1.14.) Quaisquer recomendações. obrigado import keras #For building the Neural Network layer by layer from keras.models import...