LSTM significa Long Short-Term Memory. Quando usamos esse termo na maioria das vezes, nos referimos a uma rede neural recorrente ou a um bloco (parte) de uma rede maior.
Neste link sobre estacionariedade e diferenciação , foi mencionado que modelos como o ARIMA requerem uma série temporal estacionária para previsão, pois suas propriedades estatísticas como média, variação, autocorrelação etc. são constantes ao longo do tempo. Como as RNNs têm uma capacidade melhor...
Se eu gosto de escrever uma LSTMrede e alimentá-la com diferentes tamanhos de matriz de entrada, como isso é possível? Por exemplo, quero receber mensagens de voz ou de texto em um idioma diferente e traduzi-las. Portanto, a primeira entrada talvez seja "olá", mas a segunda é "como você está?"...
Superajustei meu LSTM se eu treiná-lo através da janela deslizante? Por que as pessoas parecem não usá-lo para LSTMs? Para um exemplo simplificado, suponha que tenhamos de prever a sequência de caracteres: A B C D E F G H I J K L M N O P Q R S T U V W X Y Z É ruim (ou melhor?) Se eu continuar...
Gostaria de saber em que situações é vantajoso empilhar
Criei um modelo LSTM para prever perguntas duplicadas no conjunto de dados oficial do Quora. Os rótulos de teste são 0 ou 1. 1 indica que o par de perguntas está duplicado. Depois de criar o modelo usando model.fit, eu testo o modelo usando model.predictos dados de teste. A saída é uma matriz de...
Existe um método para calcular o intervalo de previsão (distribuição de probabilidade) em torno de uma série temporal prevista a partir de uma rede neural LSTM (ou outra rede recorrente)? Digamos, por exemplo, que estou prevendo 10 amostras no futuro (t + 1 a t + 10), com base nas últimas 10...
Eu luto para interpretar a diferença de codificação de Keras para a etiquetagem de sequências um para muitos (por exemplo, classificação de imagens únicas) e muitos para muitos (por exemplo, classificação de sequências de imagens). Frequentemente vejo dois tipos diferentes de códigos: O tipo 1 é...
Estou expandindo meu conhecimento do pacote Keras e tenho trabalhado com alguns dos modelos disponíveis. Eu tenho um problema de classificação binária da PNL que estou tentando resolver e tenho aplicado modelos diferentes. Depois de trabalhar com alguns resultados e ler mais e mais sobre LSTM,...
Eu tenho tentado entender como representar e modelar dados para fazer uma previsão de séries temporais multidimensionais e multivariadas usando Keras (ou TensorFlow), mas ainda não sou muito claro depois de ler muitas postagens / tutoriais / documentação de blog sobre como apresentar os dados no...
Eu sou muito novo no aprendizado profundo e estou particularmente interessado em saber o que são LSTM e BiLSTM e quando usá-los (principais áreas de aplicação). Por que o LSTM e o BILSTM são mais populares que o RNN? Podemos usar essas arquiteturas de aprendizado profundo em problemas não...
Usando uma camada múltipla LSTMcom desistência, é recomendável colocar desistência em todas as camadas ocultas e nas camadas densas de saída? No artigo de Hinton (que propôs o Dropout), ele apenas colocou o Dropout nas camadas densas, mas isso ocorreu porque as camadas internas ocultas eram...
Estou prototipando um aplicativo e preciso de um modelo de linguagem para calcular a perplexidade em algumas frases geradas. Existe algum modelo de linguagem treinado em python que eu possa usar facilmente? Algo simples como model = LanguageModel('en') p1 = model.perplexity('This is a well...
Estou aprendendo a usar o Keras e tive um sucesso razoável com meu conjunto de dados rotulado usando os exemplos do Deep Learning for Python da Chollet . O conjunto de dados é de ~ 1000 séries temporais com comprimento 3125 e 3 classes potenciais. Gostaria de ir além das camadas básicas densas,...
Estou tentando criar um sistema de reconhecimento de gestos para classificar gestos ASL (American Sign Language) , então minha entrada deve ser uma sequência de quadros de uma câmera ou de um arquivo de vídeo, em seguida, ele detecta a sequência e a mapeia para a correspondência aula (dormir,...
Estou tentando aprender como as LSTMredes funcionam e, mesmo que eu entenda o básico, os detalhes da estrutura interna não estão claros para mim. Neste link do blog , encontrei esse esquema de LSTMarquitetura Onde aparentemente, todo círculo deve corresponder a uma LSTMunidade individual como...
Quero fazer previsões um passo à frente para séries temporais com LSTM. Para entender o algoritmo, criei um exemplo de brinquedo: um processo autocorrelacionado simples. def my_process(n, p, drift=0, displacement=0): x = np.zeros(n) for i in range(1, n): x[i] = drift * i + p * x[i-1] + (1-p) *...
Estou tentando classificar os dados brutos do acelerômetro x, y, z em seu rótulo correspondente. Qual é a melhor arquitetura para obter melhores resultados? Ou alguém tem alguma sugestão sobre arquiteturas LSTM construídas em keras com nós de entrada e
Eu tenho uma Xmatriz, uma yvariável e outra variável ORTHO_VAR. Preciso prever a yvariável usando X, no entanto, as previsões desse modelo precisam ser ortogonais e, ao ORTHO_VARmesmo tempo, estar o mais correlacionadas ypossível. Eu preferiria que as previsões fossem geradas com um método não...
As CNNs podem ter centenas de camadas ocultas e, uma vez que são frequentemente usadas com dados de imagem, ter muitas camadas captura mais complexidade. No entanto, tanto quanto eu vi, os RNNs geralmente têm poucas camadas, por exemplo, 2-4. Por exemplo, para a classificação de eletrocardiograma...
Eu sou novo no aprendizado profundo e LSTM (com keras). Estou tentando resolver uma previsão de séries temporais com vários passos à frente. Eu tenho três séries temporais: A, B e C e quero prever os valores de C. Estou treinando um LSTM alimentando 3 passos para trás nos pontos de dados para...