Regressão incremental do processo gaussiano

11

Eu quero implementar uma regressão de processo gaussiana incremental usando uma janela deslizante sobre os pontos de dados que chegam um por um através de um fluxo.

Deixe denotam a dimensionalidade do espaço de entrada. Portanto, todo ponto de dados possui um número d de elementos.dxid

Seja n o tamanho da janela deslizante.

Para fazer previsões, eu preciso calcular o inverso da matriz grama K , onde Kij=k(xi,xj) ek é o núcleo exponencial ao quadrado.

Para evitar que o K fique maior a cada novo ponto de dados, pensei em remover o ponto de dados mais antigo antes de adicionar novos pontos e, assim, impedir que o grama cresça. Por exemplo, deixe K=ϕ(X)TΣϕ(X) onde Σ é a covariância dos pesos e ϕ é a função de mapeamento implícita implícita no núcleo exponencial ao quadrado.

Agora vamos X=[xtn+1|xtn+2|...|xt ] e Xnew=[xtn+2|...|xt|xt+1] onde x são d por matrizes de 1 coluna.

Eu preciso de uma maneira eficaz de descobrir o Knew1 potencialmente usando K . Isso não parece o inverso de um problema de matriz atualizado de classificação 1 que pode ser tratado com eficiência com a fórmula de Sherman-Morrison.

bfaskiplar
fonte

Respostas:

8

Existem vários algoritmos recursivos para fazer isso. Você deve examinar o algoritmo de mínimos quadrados recursivos do kernel (KRLS) e os algoritmos de GP online relacionados.

Memming
fonte
Muito obrigado por estas excelentes dicas!
Bfaskiplar 26/05
-1

A estimativa gradual dos modelos GP é bem estudada na literatura. A idéia subjacente é, em vez de condicionar todas as novas observações que você deseja prever, condicionar no ponto um passo à frente e fazer isso repetidamente. Isso se torna, de alguma forma, próximo à filtragem kalman.

Wis
fonte
Essa resposta seria melhorada se citasse um livro, artigo ou outra publicação acadêmica.
Sycorax diz Reinstate Monica