Estou passando pelo seguinte blog na rede neural LSTM: http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/ O autor reformula o vetor de entrada X como [amostras, etapas de tempo, recursos] para diferentes configurações de LSTMs. O autor...
Eu tenho algumas perguntas que estão me confundindo em relação à CNN. 1) Os recursos extraídos usando a CNN são invariáveis em escala e rotação? 2) Os Kernels que usamos para convolução com nossos dados já estão definidos na literatura? que tipo desses núcleos são? é diferente para cada...
Se você tiver meia página para explicar o abandono , como você procederia? Qual é a lógica por trás dessa
Preciso de alguns recursos para começar a usar redes neurais para previsão de séries temporais. Tenho receio de implementar algum artigo e depois descobrir que eles exageraram bastante o potencial de seus métodos. Portanto, se você tiver experiência com os métodos sugeridos, será ainda mais...
Eu me deparei com algumas maneiras básicas de medir a complexidade das redes neurais: Ingênuo e informal: conte o número de neurônios, neurônios ocultos, camadas ou camadas ocultas Dimensão VC (Eduardo D. Sontag [1998] "Dimensão VC de redes neurais" [ pdf ].) Um curso de complexidade...
Estou tentando entender o contexto do famoso livro de Minsky e Papert "Perceptrons", de 1969, tão crítico para as redes neurais. Até onde eu sei, ainda não havia outros algoritmos genéricos de aprendizado supervisionado, exceto o perceptron: as árvores de decisão começaram a se tornar realmente...
Estou estudando redes neurais convolucionais (CNNs) devido a suas aplicações em visão computacional. Já conheço as redes neurais padrão de feed-forward, por isso espero que algumas pessoas aqui possam me ajudar a dar um passo extra na compreensão das CNNs. Aqui está o que penso sobre as CNNs: Nas...
Ao aprender a rede neural convolucional, tenho perguntas sobre a figura a seguir. 1) C1 na camada 1 possui 6 mapas de características, isso significa que existem seis núcleos convolucionais? Cada kernel convolucional é usado para gerar um mapa de recursos com base na entrada. 2) S1 na camada 2...
Na literatura de redes neurais, frequentemente encontramos a palavra "tensor". É diferente de um vetor? E de uma matriz? Você tem algum exemplo específico que esclareça sua definição? Estou um pouco confuso sobre sua definição. A Wikipedia não ajuda e às vezes tenho a impressão de que sua...
Peço desculpas antecipadamente pelo fato de ainda estar me adiantando. Estou tentando entender os prós e os contras do uso de tanh (mapa -1 a 1) vs. sigmoide (mapa 0 a 1) para a minha função de ativação de neurônios. Da minha leitura, parecia uma coisa menor, com diferenças marginais. Na prática,...
Esta é uma questão de terminologia. Às vezes, vejo as pessoas se referirem às redes neurais profundas como "perceptrons de várias camadas", por que isso? Um perceptron, fui ensinado, é um classificador de camada única (ou regressor) com uma saída de limiar binário usando uma maneira específica de...
Estou treinando uma rede neural usando i) SGD e ii) Adam Optimizer. Ao usar o SGD normal, recebo uma curva suave de perda de treinamento versus iteração , como visto abaixo (o vermelho). No entanto, quando usei o Adam Optimizer, a curva de perda de treinamento tem alguns picos. Qual é a explicação...
Eu estava lendo sobre o otimizador de Adam para o Deep Learning e me deparei com a seguinte frase no novo livro Deep Learning de Begnio, Goodfellow e Courtville: Adam inclui correções de viés nas estimativas dos momentos de primeira ordem (o termo momentum) e dos momentos de segunda ordem (sem...
Estou experimentando o algoritmo da máquina de aumento de gradiente através do caretpacote em R. Usando um pequeno conjunto de dados de admissões de faculdade, executei o seguinte código: library(caret) ### Load admissions dataset. ### mydata <-
Qual é a derivada da função de ativação ReLU definida como: ReLU(x)=max(0,x)ReLU(x)=max(0,x) \mathrm{ReLU}(x) = \mathrm{max}(0, x) E o caso especial em que há uma descontinuidade na função em
Estou tentando entender a função de perda do Yolo
Os lugares que eu tenho lido sobre a maldição da dimensionalidade explicam isso em conjunto com o kNN principalmente, e com os modelos lineares em geral. Eu vejo regularmente os principais executivos do Kaggle usando milhares de recursos no conjunto de dados que dificilmente tem 100 mil pontos de...
Não encontrei uma resposta satisfatória para isso no google . Obviamente, se os dados que tenho são da ordem de milhões, então o aprendizado profundo é o caminho. E li que, quando não tenho big data, talvez seja melhor usar outros métodos no aprendizado de máquina. A razão apresentada é...
Durante o treinamento de um classificador binário de rede neural simples, recebo um alto valor de perda usando entropia cruzada. Apesar disso, o valor da precisão no conjunto de validação é bastante bom. Isso tem algum significado? Não existe uma correlação estrita entre perda e precisão? Tenho no...
Em que ponto começamos a classificar as redes neurais multicamadas como redes neurais profundas ou, de outra forma, 'Qual é o número mínimo de camadas em uma rede neural