Perguntas com a marcação «rnn»

Uma rede neural recorrente (RNN) é uma classe de rede neural artificial em que as conexões entre as unidades formam um ciclo direcionado.

43
Número de parâmetros em um modelo LSTM

Quantos parâmetros possui um único LSTM empilhado? O número de parâmetros impõe um limite inferior ao número de exemplos de treinamento necessários e também influencia o tempo de treinamento. Portanto, conhecer o número de parâmetros é útil para treinar modelos usando

30
Artigo: Qual é a diferença entre Normalização de Camada, Normalização de Lote Recorrente (2016) e RNN Normalizada de Lote (2015)?

Então, recentemente, há um artigo sobre Normalização de Camadas . Há também uma implementação no Keras. Mas lembro-me de que existem artigos intitulados Normalização de Lote Recorrente (Cooijmans, 2016) e Redes Neurais Recorrentes Normalizadas em Lote (Laurent, 2015). Qual é a diferença entre...

16
aumentar o mapa de calor marítimo

Crio um corr()df a partir de um df original. O corr()df saiu 70 X 70 e é impossível de visualizar o mapa de calor ... sns.heatmap(df). Se eu tentar exibir corr = df.corr(), a tabela não se encaixa na tela e posso ver todas as correlações. É uma maneira de imprimir o todo, dfindependentemente do seu...

14
RNN usando várias séries temporais

Estou tentando criar uma rede neural usando séries temporais como entrada, para treiná-la com base no tipo de cada série. Eu li que usando RNNs você pode dividir a entrada em lotes e usar todos os pontos da série temporal em neurônios individuais e, eventualmente, treinar a rede. O que estou...

13
Esqueça a camada em uma rede neural recorrente (RNN) -

Estou tentando descobrir as dimensões de cada variável em uma RNN na camada de esquecimento, no entanto, não tenho certeza se estou no caminho certo. A próxima figura e equação é da postagem de Colah no blog "Entendendo as redes LSTM" : Onde: xtxtx_t é de entrada de tamanhom ∗ 1m∗1m*1 vetor ht...

12
Quantas células LSTM devo usar?

Existem regras práticas (ou regras reais) referentes à quantidade mínima, máxima e "razoável" de células LSTM que devo usar? Especificamente, estou relacionado ao BasicLSTMCell da TensorFlow e à num_unitspropriedade. Suponha que eu tenha um problema de classificação definido por: t - number of...

11
Abandono em quais camadas do LSTM?

Usando uma camada múltipla LSTMcom desistência, é recomendável colocar desistência em todas as camadas ocultas e nas camadas densas de saída? No artigo de Hinton (que propôs o Dropout), ele apenas colocou o Dropout nas camadas densas, mas isso ocorreu porque as camadas internas ocultas eram...

11
Existem bons modelos de linguagem prontos para uso em python?

Estou prototipando um aplicativo e preciso de um modelo de linguagem para calcular a perplexidade em algumas frases geradas. Existe algum modelo de linguagem treinado em python que eu possa usar facilmente? Algo simples como model = LanguageModel('en') p1 = model.perplexity('This is a well...

11
O que é LSTM, BiLSTM e quando usá-los?

Eu sou muito novo no aprendizado profundo e estou particularmente interessado em saber o que são LSTM e BiLSTM e quando usá-los (principais áreas de aplicação). Por que o LSTM e o BILSTM são mais populares que o RNN? Podemos usar essas arquiteturas de aprendizado profundo em problemas não...

10
LSTM ou outro pacote RNN para R

Eu vi alguns resultados impressionantes dos modelos LSTM produzindo textos como Shakespeare. Eu queria saber se existe um pacote LSTM para R. Eu pesquisei por ele, mas só encontrei pacotes para Python e Julia. (talvez haja algum problema de desempenho que explique por que esses programas são mais...

10
Keras LSTM com séries temporais 1D

Estou aprendendo a usar o Keras e tive um sucesso razoável com meu conjunto de dados rotulado usando os exemplos do Deep Learning for Python da Chollet . O conjunto de dados é de ~ 1000 séries temporais com comprimento 3125 e 3 classes potenciais. Gostaria de ir além das camadas básicas densas,...