Eu estava lendo o livro Deep Learning e me deparei com o seguinte parágrafo (página 109, segundo parágrafo): Os dados de treinamento e teste são gerados por uma distribuição de probabilidade em conjuntos de dados denominados processo de geração de dados. Normalmente fazemos um conjunto de...
É prática comum aplicar o aumento de dados apenas ao conjunto de treinamento ou aos conjuntos de treinamento e
Deixe . Sabemos que e . Isso implica que a média da amostra e a variação da amostra são dependentes uma da outra? Ou significa apenas que a variação da população pode ser escrita em função da média da população ?E [ X ] = n p V a r [ X ] = n p ( 1 - p )X~ B i n o m i a l ( n , p...
No aprendizado crítico-ator para aprendizado reforçado, eu entendo que você tem um "ator" que está decidindo a ação a ser tomada e um "crítico" que avalia essas ações; no entanto, estou confuso sobre o que a função de perda está realmente dizendo mim. Na página 274 do livro de Sutton e Barton...
Suponha que estejamos fazendo um exemplo de brinquedo decente em gradiente, minimizando uma função quadrática , usando tamanho de passo fixo . ( )α = 0,03 A = [ 10 , 2 ; 2 , 3 ]xTAxxTAxx^TAxα=0.03α=0.03\alpha=0.03A=[10,2;2,3]A=[10,2;2,3]A=[10, 2; 2, 3] Se traçarmos o traço de xxx em cada iteração,...
Deixei K=(K11K21K12K22)K=(K11K12K21K22)K=\begin{pmatrix} K_{11} & K_{12}\\ K_{21} & K_{22} \end{pmatrix} ser um simétrico positivo semidefinido matriz real (PSD) com . Então, por , | r | ≤ 1K12=KT21K12=K21TK_{12}=K_{21}^T|r|≤1|r|≤1|r| \le
Uma ocorrência não tão incomum ao lidar com modelos mistos máximos complexos (estimar todos os efeitos aleatórios possíveis para dados e modelo) é perfeita (+1 ou -1) ou correlação quase perfeita entre alguns efeitos aleatórios. Para o propósito da discussão, vamos observar o seguinte modelo e...
Estou tentando entender o trabalho interno do Hamiltoniano Monte Carlo (HMC), mas não consigo entender completamente a parte quando substituímos a integração determinística do tempo por uma proposta de Metropolis-Hasting. Estou lendo o impressionante artigo introdutório Uma Introdução Conceitual ao...
Atualmente, estou procurando uma Visão geral sobre algoritmos de aprendizado por reforço e talvez uma classificação deles. Mas, ao lado de Sarsa e Q-Learning + Deep Q-Learning, não consigo encontrar nenhum algoritmo popular. A Wikipedia fornece uma visão geral sobre diferentes métodos gerais de...
Seja em . Quais são as matrizes de média e covariância de (com o max computado elementar)?Z∼N(μ,Σ)Z∼N(μ,Σ)Z \sim \mathcal N(\mu, \Sigma)RdRd\mathbb R^dZ+=max(0,Z)Z+=max(0,Z)Z_+ = \max(0, Z) Isso ocorre, por exemplo, porque, se usarmos a função de ativação ReLU dentro de uma rede profunda, e...
Fechado . Esta questão precisa ser mais focada . No momento, não está aceitando respostas. Deseja melhorar esta pergunta? Atualize a pergunta para que ela se concentre apenas em um problema editando esta postagem . Fechado há 2 anos . Eu sou novo no...
Que situações sabemos onde a descida do gradiente pode convergir (para um ponto crítico ou para um mínimo local / global) para funções não convexas? Para o SGD em funções não convexas, um tipo de prova foi revisado aqui, http://www.cs.cornell.edu/courses/cs6787/2017fa/Lecture7.pdf...
Estou lendo Thinking, Fast and Slow, de Daniel Kahneman, e me deparei com o seguinte texto Alguns anos atrás, tive uma oportunidade incomum de examinar de perto a ilusão de habilidade financeira. Fui convidado a falar com um grupo de consultores de investimentos em uma empresa que fornecia...
Estou estudando a diferença entre regularização na regressão RKHS e regressão linear, mas tenho dificuldade em entender a diferença crucial entre as duas. Dados os pares entrada-saída , quero estimar uma função seguinte forma que é uma função do kernel. Os coeficientes podem ser encontrados...
O título já diz tudo - quantos parâmetros treináveis existem em uma camada GRU? Esse tipo de pergunta surge muito ao tentar comparar modelos de diferentes tipos de camadas RNN, como unidades de memória de longo prazo (LSTM) versus GRU, em termos de desempenho por parâmetro. Como um número maior...
Um pdf é geralmente escrito como , onde o minúsculo é tratado como uma realização ou resultado da variável aleatória que possui esse pdf. Da mesma forma, um cdf é escrito como , que tem o significado . Entretanto, em algumas circunstâncias, como a definição da função score e essa derivação de que o...
Conheci um comportamento paradoxal dos chamados "testes exatos" ou "testes de permutação", cujo protótipo é o teste de Fisher. Aqui está. Imagine que você tem dois grupos de 400 indivíduos (por exemplo, 400 controle versus 400 casos) e uma covariável com duas modalidades (por exemplo, exposta /...
Recentemente, assisti a essa palestra de Eric J. Ma e verifiquei sua entrada no blog , onde ele cita Radford Neal, que os modelos bayesianos não se ajustam demais (mas podem se ajustar demais ) e, ao usá-los, não precisamos de conjuntos de testes para validá-los (por as aspas parecem falar bastante...
Defina X:=X:=X:= "a moeda tem probabilidade 1 de pousar cabeças" Suponha que alguém tenha a crença anterior: P(X)=1P(X)=1P(X)= 1 . No entanto, depois de jogar a moeda, uma vez que ela cai na coroa ( E:=E:=E:= "coroa caiu na moeda"). Como um bayesiano deve atualizar suas crenças para permanecer...
O que significa quando os estatísticos falam sobre ter mais preditores do que observações em um modelo de regressão? Como isso poderia ser possível? Por que é um problema de regressão? Desculpas, eu sou novo na análise quantitativa e estatísticas, então não tenho certeza por que isso acontece. Eu...