Como uma rede neural que tem o adjetivo "profundo" realmente se distingue de outras redes similares?
25
Como uma rede neural que tem o adjetivo "profundo" realmente se distingue de outras redes similares?
A diferença está principalmente no número de camadas.
Por um longo tempo, acreditava-se que "1-2 camadas ocultas são suficientes para a maioria das tarefas" e era impraticável usar mais do que isso, porque o treinamento de redes neurais pode ser muito exigente em termos computacionais.
Atualmente, os computadores são capazes de muito mais, então as pessoas começaram a usar redes com mais camadas e descobriram que funcionam muito bem em algumas tarefas.
A palavra "profundo" existe simplesmente para distinguir essas redes das tradicionais, "mais rasas".
some parameters (weights) that are tied together, thus reducing the parameter space
você quer dizer Redes Neurais Convolucionais?Uma rede neural profunda é apenas uma rede neural (feed-forward) com muitas camadas.
Entretanto, redes profundas de crenças, redes Deep Boltzman, etc., não são consideradas redes neurais profundas (discutíveis), pois sua topologia é diferente (elas possuem redes não direcionadas em sua topologia).
Veja também: /stats//a/59854/84191 .
fonte