Estatísticas e Big Data

9
As redes neurais usam codificação eficiente?

Minha pergunta diz respeito à relação entre a hipótese de codificação eficiente, descrita na página da Wikipedia sobre algoritmos de codificação eficiente e aprendizado de rede neural. Qual é a relação entre a hipótese de codificação eficiente e as redes neurais? Existem modelos de redes neurais...

9
Qual é a relação entre a função

Considere a função r ( x ) = E ( Y∣ X= x )r(x)=E(Y∣X=x) r(x) = \mathbb{E}(Y \mid X = x) Isso foi chamado de função de regressão em um livro que estou usando. Estou tentando descobrir a relação entre essa função e o modelo clássico de regressão linear. Então, eu sei que é um teorema * que...

9
Prevendo requisitos de memória de CPU e GPU do treinamento DNN

Digamos que eu tenha uma arquitetura de modelo de aprendizado profundo, bem como um tamanho de minilote escolhido. Como derivar desses requisitos de memória esperados para o treinamento desse modelo? Como exemplo, considere um modelo (não recorrente) com entrada da dimensão 1000, 4 camadas ocultas...

9
O que quebra a comparabilidade dos modelos em relação à AIC?

Supondo que eu tenha ajustado alguns modelos usando preditores (e a variável de resposta) do mesmo conjunto de dados. Que mudanças no modelo tornarão irracional comparar os modelos com base na AIC? 1) Supondo que, se eu logar transformar a variável dependente, é justo compará-la com um modelo em...