Dado o estado moderno das tecnologias e ferramentas de aprendizado de máquina (por exemplo, TensorFlow, Theano etc.), parece que o limiar de entrada diminuiu recentemente e é suficiente ser capaz de programar, por exemplo, Python, para criar coisas interessantes. Outra fonte que suporta esse ponto...
Eu sou novo no aprendizado profundo. Eu estou tentando entender alguns conceitos. Sei que "média" é um valor médio e "variância" é um desvio da média. Li alguns artigos de pesquisa, todos dizem que pré-processamos nossos dados primeiro. Mas como esses conceitos estão relacionados ao...
Eu estava lendo o documento de normalização em lote (BN) (1) e dizia: Para isso, uma vez treinada a rede, usamos a normalização x^=x−E[x]Var[x]+ϵ−−−−−−−−√x^=x−E[x]Var[x]+ϵ\hat{x} = \frac{x - E[x]}{ \sqrt{Var[x] + \epsilon}}usando a população , em vez de estatísticas de minilote. minha pergunta...
Eu tenho uma compreensão decente de redes neurais, propagação traseira e regra de cadeia, no entanto, estou lutando para entender a diferenciação automática. A seguir, consulte a diferenciação automática fora do contexto da propagação de retorno: Como a diferenciação automática calcula o...
A rede neural conhecida como " U-Net " (Ronneberger, Fischer e Brox 2015) foi uma técnica proeminente no recente concurso de Segmentação de Nervos por Ultrassom da Kaggle , onde pontuações altas foram atribuídas a algoritmos que criaram máscaras de pixel com alto grau de sobreposição. as regiões...
Pelo que entendi, existem três abordagens principais para a redução não linear da dimensionalidade: Aprendizagem múltipla (algoritmos geométricos / topológicos como ISOMAP, LLE, LTSA) Autoencoders coisas que não se encaixam nas duas primeiras categorias (t-SNE inspirado em probabilidade, Kernel...
O ensino a distância baseado em trigêmeos para reconhecimento facial parece muito eficaz. Estou curioso sobre um aspecto particular do artigo. Como parte de encontrar uma incorporação para um rosto, os autores normalizam as unidades ocultas usando a normalização L2, que restringe a representação a...
Eu estava lendo este livro sobre aprendizado profundo de Ian e Aron. Na descrição do DBN, eles dizem que o DBN caiu em desuso e raramente é usado. Redes de crenças profundas demonstraram que arquiteturas profundas podem ser bem-sucedidas, superando as máquinas de vetores de suporte kernelizadas...
Estou lendo Por que o Momentum Really Works , um post do novo diário de destilação. Parafraseando as principais equações que levam à parte que me confunde, o post descreve a intuição em mais detalhes. O algoritmo de descida de gradiente é dado pelo seguinte processo
Suponha que eu tenha um texto como o abaixo, que geralmente tem 2/3 frases e 100-200 caracteres. Johny comprou leite de 50 dólares do walmart. Agora ele deixou apenas 20 dólares. Eu quero extrair Nome da pessoa: Johny Gasto: 50 dólares Dinheiro restante: 20 dólares. Passado para onde:...
Em 2015, Tishby e Zaslavsky publicaram um artigo bem conhecido, alegando que o chamado Princípio do Gargalo da Informação poderia ser usado para entender algum comportamento de redes neurais profundas. Em um artigo mais recente (abril de 2017) , Schwartz-Ziv e Tishby expandem essas reivindicações,...
Nos últimos anos, o campo de detecção de objetos sofreu um grande avanço após a popularização do paradigma Deep Learning. Abordagens como YOLO, SSD ou FasterRCNN mantêm o estado da arte na tarefa geral de detecção de objetos [ 1 ]. No entanto, no cenário específico do aplicativo em que nos é dada...
Li que é benéfico aplicar certas transformações de recursos comuns nos conjuntos de dados antes que eles atinjam os modelos de aprendizado de máquina. Eles são baseados nas distribuições dos recursos do conjunto de dados; por exemplo, aplicar transformações de log a recursos normalmente...
Estou tentando entender o artigo da openAI chamado Multi-Agent Actor-Critic for Ambients Mixed Cooperative-Competitive No artigo, eles mencionam que combatem o problema da não estacionariedade do ambiente por amostragem de sub-políticas: Estou confuso sobre: (1) como a subamostragem...
Ao ler sobre a transformação da camada totalmente conectada em camada convolucional, publicada em http://cs231n.github.io/convolutional-networks/#convert . Apenas me sinto confuso com os dois comentários a seguir: Acontece que essa conversão nos permite "deslizar" o ConvNet original de maneira...
Estou tentando implementar o documento Image Style Transfer usando redes neurais convolucionais . Na seção 2 - Representações de imagens profundas, os autores mencionam a seguinte técnica de normalização de peso: Normalizamos a rede dimensionando os pesos de forma que a ativação média de cada...