Quais são as boas referências para entender o aprendizado on-line?

10

Especificamente, estou pedindo recursos para aprender sobre sistemas de aprendizado de máquina que podem atualizar suas respectivas redes de crenças (ou equivalente) durante a operação. Eu já encontrei alguns, embora não os tenha marcado como favorito.

Como você pode imaginar, é um tópico bastante desafiador para pesquisar na internet.

reference-request machine-learning lg.learning ai.artificial-intel online-learning jtolds
fonte
Ao pedir aos usuários que contribuam com uma lista de respostas, a pergunta deve ser marcada como wiki da comunidade . Eu converti esta pergunta.
Robert Cartaino 17/08/10

Respostas:

11

A maioria dos algoritmos de aprendizado on-line vem de pelo menos uma dessas linhagens:

  • o perceptron

    Os perceptrons de última geração são o algoritmo passivo-agressivo , o perceptron estruturado e suas muitas variedades.

  • O winnow

    O winnow foi reformulado como métodos de gradiente exponenciados e também pode ser aplicado a problemas estruturados . Existem também variedades que lidam diretamente com a regularização de L1 (para garantir a escassez), como o SMIDAS .

  • Descida do gradiente estocástico

    A descida do gradiente estocástico é quando você aplica a otimização online a um possível problema em lote. Os algoritmos de última geração são o LaSVM , o Pegasos , de Leon Bottou , e muitos algoritmos de rede neural podem ser facilmente treinados nesse cenário. Veja o tutorial do theano para muitos exemplos. Talvez o EM on-line se encaixe aqui.

  • filtragem de partículas

    Isso também é conhecido como inferência rao-blackwellized e permite atualizar um modelo gráfico / probabilístico à medida que mais dados chegam. Alguns bons exemplos são modelos de tópicos on-line e o tutorial do NIPS no SMC .

Também existem alguns problemas mais amplos com o aprendizado on-line , como conversão on-line para lote , técnicas de orçamento para aprendizado on-line com kernels (como este artigo , este artigo e este artigo ), muitos tipos diferentes de limites de generalização, preocupações com a escassez (e também artigo SMIDAS que citei acima), hash para economizar memória e muitos outros problemas.

Alexandre Passos
fonte
Resposta muito informativa!
Tayfun Pay
4

Há um bom tutorial do ICML 2008, de Yoram Singer e Shai Shalev Shwartz, sobre a teoria e a prática do aprendizado on-line.

Lev Reyzin
fonte
1

Aprendizado de máquina - Materiais do curso - Stanford http://www.stanford.edu/class/cs229/materials.html

Palestras em vídeo sobre aprendizado de máquina e inteligência artificial http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html

Processos gaussianos para aprendizado de máquina http://www.gaussianprocess.org/gpml/

Paulo Coghi - Restabelecer Monica
fonte
11
Isso não fala especificamente sobre o aprendizado on-line. O livro do processo gaussiano dificilmente menciona as aproximações on-line dos processos gaussianos.
Alexandre Passos