Perguntas com a marcação «convolution»

106

O que significa convolução 1x1 em uma rede neural?

Atualmente, estou fazendo o Udacity Deep Learning Tutorial. Na lição 3, eles falam sobre uma convolução 1x1. Essa convolução 1x1 é usada no Google Inception Module. Estou tendo problemas para entender o que é uma convolução 1x1. Eu também vi este post de Yann Lecun. Alguém poderia gentilmente me...

41

Importância da normalização da resposta local na CNN

Descobri que o Imagenet e outras CNNs grandes usam camadas de normalização de resposta local. No entanto, não consigo encontrar tanta informação sobre eles. Quão importantes são e quando devem ser usados? Em http://caffe.berkeleyvision.org/tutorial/layers.html#data-layers : "A camada de...

deep-learning convolution conv-neural-network

38

O que é invariância da tradução na visão computacional e na rede neural convolucional?

Não tenho experiência em visão computacional, mas quando leio alguns artigos e artigos relacionados a processamento de imagens e redes neurais convolucionais, enfrento constantemente o termo translation invariance, ou translation invariant. Ou eu li muito que a operação de convolução fornece...

machine-learning conv-neural-network convolution computer-vision

30

Redes neurais convolucionais: os neurônios centrais não estão super-representados na saída?

[Esta questão também foi colocada no estouro de pilha] A questão em suma Estou estudando redes neurais convolucionais e acredito que essas redes não tratam todos os neurônios de entrada (pixel / parâmetro) de maneira equivalente. Imagine que temos uma rede profunda (muitas camadas) que aplica...

machine-learning neural-networks convolution

27

Os graus de liberdade podem ser um número não inteiro?

Quando uso o GAM, o DF residual é (última linha do código). O que isso significa? Indo além do exemplo do GAM, em geral, o número de graus de liberdade pode ser um número não inteiro?26,626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data =...

r degrees-of-freedom gam machine-learning pca lasso probability self-study bootstrap expected-value regression machine-learning linear-model probability simulation random-generation machine-learning distributions svm libsvm classification pca multivariate-analysis feature-selection archaeology r regression dataset simulation r regression time-series forecasting predictive-models r mean sem lavaan machine-learning regularization regression conv-neural-network convolution classification deep-learning conv-neural-network regression categorical-data econometrics r confirmatory-factor scale-invariance self-study unbiased-estimator mse regression residuals sampling random-variable sample probability random-variable convergence r survival weibull references autocorrelation hypothesis-testing distributions correlation regression statistical-significance regression-coefficients univariate categorical-data chi-squared regression machine-learning multiple-regression categorical-data linear-model pca factor-analysis factor-rotation classification scikit-learn logistic p-value regression panel-data multilevel-analysis variance bootstrap bias probability r distributions interquartile time-series hypothesis-testing normal-distribution normality-assumption kurtosis arima panel-data stata clustered-standard-errors machine-learning optimization lasso multivariate-analysis ancova machine-learning cross-validation

25

"Estimativa da densidade do kernel" é uma convolução do quê?

Estou tentando entender melhor a estimativa da densidade do kernel. Usando a definição da Wikipedia: https://en.wikipedia.org/wiki/Kernel_density_estimation#Definition fh^( x ) = 1n∑ni = 1Kh( x - xEu)= 1n h∑ni = 1K( x - xEuh)fh^(x)=1n∑i=1nKh(x−xi)=1nh∑i=1nK(x−xih) \hat{f_h}(x) =...

r kernel-smoothing convolution

19

Camadas Convolucionais: Almofar ou não?

A arquitetura AlexNet usa zero paddings, como mostrado na figura: No entanto, não há explicação no artigo por que esse padding é introduzido. O curso Standford CS 231n ensina que usamos estofamento para preservar o tamanho espacial: Gostaria de saber se é a única razão pela qual precisamos de...

conv-neural-network convolution

16

O que a etapa de convolução em uma Rede Neural Convolucional faz?

Estou estudando redes neurais convolucionais (CNNs) devido a suas aplicações em visão computacional. Já conheço as redes neurais padrão de feed-forward, por isso espero que algumas pessoas aqui possam me ajudar a dar um passo extra na compreensão das CNNs. Aqui está o que penso sobre as CNNs: Nas...

neural-networks deep-learning conv-neural-network convolution

16

Uma visão de sistemas dinâmicos do Teorema do Limite Central?

(Originalmente publicado em MSE.) Já vi muitas discussões heurísticas do teorema clássico do limite central falar da distribuição normal (ou de qualquer das distribuições estáveis) como um "atrator" no espaço das densidades de probabilidade. Por exemplo, considere estas frases no topo do...

probability mathematical-statistics convergence central-limit-theorem convolution

14

Distribuição da convolução das variáveis normal ao quadrado e qui-quadrado?

o seguinte problema surgiu recentemente ao analisar dados. Se a variável aleatória X segue uma distribuição normal e Y segue uma (com n dof), como é distribuído ? Até agora, eu o pdf de : Z = X 2 + Y 2 Y 2 ψ 2 n ( x )χ2nχn2\chi^2_nZ=X2+Y2Z=X2+Y2Z = X^2 +

probability distributions normal-distribution chi-squared convolution

14

Existem razões matemáticas para a convolução nas redes neurais além da conveniência?

Nas redes neurais convolucionais (CNN), a matriz de pesos em cada etapa obtém suas linhas e colunas invertidas para obter a matriz do núcleo, antes de prosseguir com a convolução. Isso é explicado em uma série de vídeos de Hugo Larochelle aqui : A computação dos mapas ocultos corresponderia a...

machine-learning neural-networks conv-neural-network convolution

13

Como exatamente as redes neurais convolucionais usam a convolução no lugar da multiplicação da matriz?

Eu estava lendo o livro de Yoshua Bengio sobre aprendizado profundo e está escrito na página 224: As redes convolucionais são simplesmente redes neurais que usam a convolução no lugar da multiplicação geral da matriz em pelo menos uma de suas camadas. no entanto, eu não tinha 100% de certeza...

machine-learning neural-networks deep-learning convolution

12

Na CNN, o upsampling e a transposição da convolução são iguais?

Os termos "upsampling" e "transpose convolution" são usados quando você está executando "deconvolution" (<- não é um bom termo, mas deixe-me usá-lo aqui). Originalmente, eu pensava que eles significam a mesma coisa, mas parece-me que eles são diferentes depois de ler esses artigos. alguém pode...

machine-learning neural-networks conv-neural-network transposed-convolution

11

A soma das variáveis aleatórias lognormal independentes aparece lognormal?

Estou tentando entender por que a soma de duas (ou mais) variáveis aleatórias lognormal se aproxima de uma distribuição lognormal à medida que você aumenta o número de observações. Procurei on-line e não encontrei nenhum resultado sobre isso. Claramente, se e são variáveis lognormal...

distributions lognormal convolution sum

11

Vários filtros em uma camada convolucional não aprenderiam o mesmo parâmetro durante o treinamento?

Com base no que aprendi, usamos vários filtros em uma camada Conv de uma CNN para aprender diferentes detectores de recursos. Mas como esses filtros são aplicados de maneira semelhante (ou seja, deslizados e multiplicados pelas regiões da entrada), eles não aprenderiam os mesmos parâmetros durante...

neural-networks conv-neural-network convolution filter

10

Como classificar um conjunto de dados desequilibrado por Redes Neurais Convolucionais (CNN)?

Eu tenho um conjunto de dados desequilibrado em uma tarefa de classificação binária, em que a quantidade positiva vs a quantidade negativa é 0,3% vs 99,7%. A diferença entre pontos positivos e negativos é enorme. Quando treino uma CNN com a estrutura usada no problema MNIST, o resultado do teste...

classification neural-networks deep-learning convolution computer-vision

10

Distribuições estáveis que podem ser multiplicadas?

Distribuições estáveis são invariantes sob convoluções. Quais sub-famílias das distribuições estáveis também são fechadas sob multiplicação? No sentido de que se f ∈ F e g ∈ F , então a função de densidade de probabilidade do produto, f ⋅ g (até uma constante de normalização) também pertence a F...

distributions convolution stable-distribution

9

Convolução eficiente (em R)

Quero calcular / avaliar a convolução g(x)=∫Df(x−t)ϕ(t)dt,g(x)=∫Df(x−t)ϕ(t)dt,g(x)=\int_D f(x-t) \phi(t) dt, onde é um densidade e é uma função suave com suporte compacto . A convolução não está disponível em formato fechado e preciso integrá-la numericamente. Minha pergunta é: Existe uma maneira...

r convolution

9

Diferença entre as camadas Conv e FC?

Qual é a diferença entre as camadas conv e FC ? Por que não consigo usar as camadas conv em vez das camadas FC

neural-networks conv-neural-network convolution

9

Distribuição da soma dos exponenciais

Seja e sejam variáveis aleatórias exponenciais independentes e identicamente distribuídas com rate . Deixe .X1X1X_1X2X2X_2λλ\lambdaS2=X1+X2S2=X1+X2S_2 = X_1 + X_2 P: Mostre que possui PDF .S2S2S_2fS2(x)=λ2xe−λx,x≥0fS2(x)=λ2xe-λx,x≥0 0f_{S_2}(x) = \lambda^2 x \text{e}^{-\lambda x},\, x\ge...

self-study distributions convolution exponential-distribution