Isso foi inspirado pela regressão linear online eficiente , que achei muito interessante. Existem textos ou recursos dedicados à computação estatística em larga escala, pelos quais a computação com conjuntos de dados grandes demais para caber na memória principal e talvez variada demais para subamostrar com eficácia. Por exemplo, é possível ajustar modelos de efeitos mistos de maneira online? Alguém já examinou os efeitos da substituição das técnicas padrão de otimização de 2ª ordem do MLE por técnicas do tipo SGD de 1ª ordem?
online
computing
references
grg s
fonte
fonte
Respostas:
Você pode olhar para o projeto Vowpal Wabbit , de John Langford no Yahoo! Pesquisa . É um aluno on-line que faz a descida de gradiente especializada em algumas funções de perda. A VW tem alguns recursos incríveis:
O livro Bianchi & Lugosi Prediction, Learning and Games fornece uma base teórica sólida para o aprendizado on-line. Uma leitura pesada, mas vale a pena!
fonte