Fiquei um pouco confuso sobre o algoritmo de retropropagação usado no perceptron multicamada (MLP). O erro é ajustado pela função de custo. Na retropropagação, estamos tentando ajustar o peso das camadas ocultas. O erro de saída que posso entender, isto é, e = d - y[Sem os subscritos]. As...
Entendo as camadas convolucionais e de pool, mas não vejo o motivo de uma camada totalmente conectada nas CNNs. Por que a camada anterior não está diretamente conectada à camada de
Costumo ouvir pessoas falando sobre redes neurais como algo como uma caixa preta que você não entende o que ela faz ou o que elas significam. Na verdade, eu não consigo entender o que eles querem dizer com isso! Se você entende como a propagação traseira funciona, como é uma caixa preta? Eles...
O RNN pode ser usado para previsão ou mapeamento de sequência para sequência. Mas como a RNN pode ser usada para classificação? Quero dizer, damos a uma sequência inteira um
Para usar o SVM ou a Rede Neural, ele precisa transformar (codificar) variáveis categóricas em variáveis numéricas, o método normal nesse caso é usar 0-1 valores binários com o k-ésimo valor categórico transformado em (0,0, .. ., 1,0, ... 0) (1 está na posição k-ésima). Existem outros métodos...
Estou curioso para saber o quão importante é o nó de viés para a eficácia das redes neurais modernas. Eu posso entender facilmente que isso pode ser importante em uma rede superficial com apenas algumas variáveis de entrada. No entanto, as redes neurais modernas, como no aprendizado profundo,...
Eu tenho um problema muito simples, mas não consigo encontrar a ferramenta certa para resolvê-lo. Eu tenho uma sequência de vetores do mesmo comprimento. Agora eu gostaria de treinar o LSTM RNN na amostra de trem dessas seqüências e, em seguida, prever a nova sequência de vetores de comprimento...
Definimos uma época como tendo passado por todas as amostras de treinamento disponíveis, e o tamanho do minilote como o número de amostras sobre as quais calculamos a média para encontrar as atualizações de pesos / desvios necessários para descer o gradiente. Minha pergunta é se devemos extrair...
Eu estava examinando os documentos de convolução do keras e encontrei dois tipos de convulsão Conv1D e Conv2D. Eu fiz algumas pesquisas na web e é isso que eu entendo sobre Conv1D e Conv2D; Conv1D é usado para seqüências e Conv2D usa para imagens. Eu sempre pensei que as redes neruais de...
Muitos tutoriais online falam sobre descida de gradiente e quase todos usam um tamanho de etapa fixo (taxa de aprendizado ). Por que não há uso de pesquisa de linha (como pesquisa de linha de retorno ou pesquisa de linha
Trabalhando no problema de regressão, comecei a pensar na representação do recurso "dia da semana". Gostaria de saber qual abordagem teria melhor desempenho: uma característica; valor 1/7 para segunda-feira; 2/7 para terça-feira ... 7 recursos: (1, 0, 0, 0, 0, 0, 0) para segunda-feira; (0, 1, 0,...
Estou tentando entender o significado matemático dos modelos de classificação não linear: Acabei de ler um artigo falando sobre redes neurais sendo um modelo de classificação não linear. Mas eu apenas percebo que: A primeira camada: h1= x1∗ wx 1 h 1+ x2∗ wx 1 h
Meus professores de física na pós-graduação, assim como o Nobel Feynman, sempre apresentavam o que chamavam de modelos de brinquedos para ilustrar conceitos e métodos básicos em física, como o oscilador harmônico, o pêndulo, o pião e a caixa preta. Quais modelos de brinquedos são usados para...
Eu já vi conclusões semelhantes em muitas discussões, de que à medida que o tamanho de minibatch aumenta, a convergência do SGD fica realmente mais difícil / pior, por exemplo, este artigo e esta resposta . Também ouvi falar de pessoas que usam truques como pequenas taxas de aprendizado ou tamanhos...
Eu tenho algumas perguntas que estão me confundindo em relação à CNN. 1) Os recursos extraídos usando a CNN são invariáveis em escala e rotação? 2) Os Kernels que usamos para convolução com nossos dados já estão definidos na literatura? que tipo desses núcleos são? é diferente para cada...
Mergulhei no campo das redes neurais e fiquei encantado com elas. Finalmente desenvolvi uma estrutura de aplicativos para testar sistemas de negociação em bolsas de valores e agora vou implementar minha primeira rede neural nela. Muito simples e primitivo, não destinado a negociação real, apenas...
No livro de Bishop, "Classificação de padrões e aprendizado de máquina", descreve uma técnica para regularização no contexto de redes neurais. No entanto, não entendo um parágrafo descrevendo que, durante o processo de treinamento, o número de graus de liberdade aumente junto com a complexidade do...
Se você tiver meia página para explicar o abandono , como você procederia? Qual é a lógica por trás dessa
Dado são os 6 limites de decisão abaixo. Os limites da decisão são linhas violetas. Pontos e cruzamentos são dois conjuntos de dados diferentes. Temos que decidir qual deles é: SVM linear SVM kernelizado (kernel polinomial da ordem 2) Perceptron Regressão logística Rede Neural (1 camada oculta...
Eu sou novo em Redes Neurais Recorrentes (RNN) e ainda estou aprendendo os conceitos. Eu entendo em um nível abstrato que uma Echo State Network (ESN) é capaz de (re) produzir uma sequência de entradas, ou seja, um sinal, mesmo após a remoção da entrada. No entanto, achei o artigo da Scholarpedia...