A rede neural conhecida como " U-Net " (Ronneberger, Fischer e Brox 2015) foi uma técnica proeminente no recente concurso de Segmentação de Nervos por Ultrassom da Kaggle , onde pontuações altas foram atribuídas a algoritmos que criaram máscaras de pixel com alto grau de sobreposição. as regiões...
Eu estava pensando e tentando entender se existe alguma razão matemática por trás da superioridade das RNNs sobre as redes Feed-forward ao lidar com dados sequenciais. Por exemplo, ao modelar séries temporais, HMMs, etc. Suponha que o comprimento da sequência seja fixo, mas muito...
O ensino a distância baseado em trigêmeos para reconhecimento facial parece muito eficaz. Estou curioso sobre um aspecto particular do artigo. Como parte de encontrar uma incorporação para um rosto, os autores normalizam as unidades ocultas usando a normalização L2, que restringe a representação a...
Existe uma regra prática antiga para estatísticas multivariadas que recomenda um mínimo de 10 casos para cada variável independente. Mas geralmente é onde há um parâmetro para cada variável. Por que estou perguntando: estou trabalhando em um exemplo de livro didático que usa 500 casos de...
Eu estava lendo este livro sobre aprendizado profundo de Ian e Aron. Na descrição do DBN, eles dizem que o DBN caiu em desuso e raramente é usado. Redes de crenças profundas demonstraram que arquiteturas profundas podem ser bem-sucedidas, superando as máquinas de vetores de suporte kernelizadas...
Em 2015, Tishby e Zaslavsky publicaram um artigo bem conhecido, alegando que o chamado Princípio do Gargalo da Informação poderia ser usado para entender algum comportamento de redes neurais profundas. Em um artigo mais recente (abril de 2017) , Schwartz-Ziv e Tishby expandem essas reivindicações,...
Nos últimos anos, o campo de detecção de objetos sofreu um grande avanço após a popularização do paradigma Deep Learning. Abordagens como YOLO, SSD ou FasterRCNN mantêm o estado da arte na tarefa geral de detecção de objetos [ 1 ]. No entanto, no cenário específico do aplicativo em que nos é dada...
Li que é benéfico aplicar certas transformações de recursos comuns nos conjuntos de dados antes que eles atinjam os modelos de aprendizado de máquina. Eles são baseados nas distribuições dos recursos do conjunto de dados; por exemplo, aplicar transformações de log a recursos normalmente...
Suponha que você tenha um conjunto de dados de detecção de objetos (por exemplo, MS COCO ou Pascal VOC) com N imagens em que k classes de objetos foram rotuladas. Você treina uma rede neural (por exemplo, Faster-RCNN ou YOLO) e mede a precisão (por exemplo, [email protected]). Agora você introduz x classes...
Com base no meu entendimento, os auto-codificadores são usados para encontrar uma representação compacta dos recursos de entrada que carregam as informações subjacentes essenciais. Existe alguma relação entre as distâncias L2 no espaço de entrada original e o espaço reduzido (compacto)? Caso...
Suponha que você tenha dois conjuntos de dados D1 e D2. Ambos são amostrados da mesma distribuição subjacente X. Quero usá-los para treinar uma rede neural. Os recursos são todos os números inteiros não assinados no intervalo [0; 2 ^ 64]. Devido ao fato de os recursos estarem em escalas muito...
Estou interessado em entender qual arquitetura de rede neural é atualmente o estado da arte (às vezes abreviado como "SOTA") com relação às tarefas de classificação de imagem padrão, como MNIST, STLN-10 e CIFAR. Isso é desafiador porque novos resultados são publicados com frequência e pode ser...
Toda arquitetura de autoencoder que eu vi tem uma arquitetura semelhante, principalmente porque o decodificador é exatamente o inverso do codificador. Se o objetivo do autoencodificador é o aprendizado de recursos de baixa dimensão, por que o decodificador não é simples? Um exemplo seria uma...
Ao ler sobre a transformação da camada totalmente conectada em camada convolucional, publicada em http://cs231n.github.io/convolutional-networks/#convert . Apenas me sinto confuso com os dois comentários a seguir: Acontece que essa conversão nos permite "deslizar" o ConvNet original de maneira...
Estou tentando implementar o documento Image Style Transfer usando redes neurais convolucionais . Na seção 2 - Representações de imagens profundas, os autores mencionam a seguinte técnica de normalização de peso: Normalizamos a rede dimensionando os pesos de forma que a ativação média de cada...