diferença entre rede neural e aprendizagem profunda

10

Em termos da diferença entre rede neural e aprendizado profundo, podemos listar vários itens, como mais camadas incluídas, conjunto de dados massivo, hardware de computador poderoso para tornar possível o modelo complicado de treinamento.

Além dessas, existem explicações mais detalhadas sobre a diferença entre NN e DL?

user3269
fonte
3
Até onde eu sei, apenas ter várias camadas ocultas é suficiente para tornar a rede "profunda"; mais dados e computadores maiores são mais um sintoma da crescente disponibilidade de ambos para tarefas de aprendizado de máquina.
Sycorax diz Restabelecer Monica
Talvez essa questão deva ser migrada para a nova troca de pilha de inteligência artificial ?
WilliamKF 12/09
2
@WilliamKF Isso é diretamente sobre o assunto aqui.
Sycorax diz Restabelecer Monica

Respostas:

4

Frank Dernoncourt tem uma resposta melhor para fins gerais, mas acho que vale a pena mencionar que, quando as pessoas usam o termo amplo "Aprendizado Profundo", geralmente estão implicando o uso de técnicas recentes, como convolução, que você não encontraria nos antigos / tradicionais redes neurais (totalmente conectadas). Para problemas de reconhecimento de imagem, a convolução pode permitir redes neurais mais profundas, porque neurônios / filtros complicados reduzem o risco de sobreajuste, compartilhando pesos.

Ryan Zotti
fonte
1

Redes neurais com muitas camadas são arquiteturas profundas.

No entanto, o algoritmo de aprendizado de retropropagação usado em redes neurais não funciona bem quando a rede é muito profunda. As arquiteturas de aprendizado em arquiteturas profundas ("aprendizado profundo") precisam resolver isso. Por exemplo, as máquinas Boltzmann usam um algoritmo de aprendizado contrastivo.

É fácil criar uma arquitetura profunda. É difícil criar um algoritmo de aprendizado que funcione bem para uma arquitetura profunda.

Neil G
fonte
Mas parece que o algoritmo de retropropagação ainda é usado para treinar rede de convecção e rede recorrente, apesar de alavancarem algumas técnicas de otimização numérica recém-desenvolvidas, como a normalização de lotes.
User3269
@ user3269 normalização e desistência de lotes são exemplos de modificações no algoritmo de aprendizado para tentar fazê-los funcionar bem em arquiteturas profundas.
21416 Neil G
0

O aprendizado profundo exige uma rede neural com várias camadas - cada camada fazendo transformações matemáticas e alimentando a próxima camada. A saída da última camada é a decisão da rede para uma determinada entrada. As camadas entre a camada de entrada e saída são chamadas de camadas ocultas.

Uma rede neural de aprendizado profundo é uma enorme coleção de perceptrons interconectados em camadas. Os pesos e o viés de cada perceptron na rede influenciam a natureza da decisão de saída de toda a rede. Em uma rede neural perfeitamente ajustada, todos os valores de pesos e viés de todo o perceptron são tais que a decisão de saída está sempre correta (como esperado) para todas as entradas possíveis. Como os pesos e a polarização são configurados? Isso acontece iterativamente durante o treinamento da rede - chamado aprendizado profundo. (Sharad Gandhi)

Muhammed Shakir Misarwala
fonte