Prova de proximidade das funções do kernel em produtos pontuais

13

Como posso provar que o produto pontual de duas funções do kernel é uma função do kernel?

Gigili
fonte

Respostas:

18

Por produto pontual, presumo que você queira dizer que se são funções válidas do kernel, então o produtok1(x,y),k2(x,y)

kp(x,y)=k1(x,y)k2(x,y)

também é uma função válida do kernel.

A comprovação dessa propriedade é bastante direta quando invocamos o teorema de Mercer. Como são kernels válidos, sabemos (via Mercer) que eles devem admitir uma representação interna do produto. Deixe denotam o vector característico de e representam o mesmo para . a k 1 b k 2k1,k2ak1bk2

k1(x,y)=a(x)Ta(y),a(z)=[a1(z),a2(z),aM(z)]k2(x,y)=b(x)Tb(y),b(z)=[b1(z),b2(z),bN(z)]

Portanto, é uma função que produz um vetor dim e produz um vetor dim.M b NaMbN

Em seguida, vamos apenas escrever o produto em termos de e , e realizar alguns reagrupamento.bab

kp(x,y)=k1(x,y)k2(x,y)=(m=1Mam(x)am(y))(n=1Nbn(x)bn(y))=m=1Mn=1N[am(x)bn(x)][am(y)bn(y)]=m=1Mn=1Ncmn(x)cmn(y)=c(x)Tc(y)

onde é um vetor dimensional , st .c(z)MNcmn(z)=am(z)bn(z)

Agora, como podemos escrever como um produto interno usando o mapa de recursos , sabemos que é um núcleo válido (via teorema de Mercer). É tudo o que há para isso.kp(x,y)ckp

Mike Hughes
fonte
Como você sabe que o recurso Hilbert space é de dimensão finita? Não poderia ser nem separável?
Andrei Kh
De acordo com o primeiro parágrafo só sabemos do kernel a existência de uma representação produto interno. Mas, em sua conclusão, você usa que a existência de uma representação interna do produto implica que é um kernel. Por que isso é válido? kkp
Viktor Glombik 02/12/19
0

Suponha que e são a matriz do kernel desses dois kernel e , respectivamente, e eles são PSD. Definimos e queremos provar que também é um kernel. Isso é equivalente para provar sua matriz de kernel correspondente é PSD.K1K2k1(x,y)k2(x,y)k(x,y)=k1(x,y)k2(x,y)K=K1K2

  1. K3=K1K2 é um PSD (o produto kronecker de dois PSD é PSD).
  2. K é uma submatriz principal de e, portanto, é PSD (a submatriz principal de PSD é PSD).K3
ceyao zhang
fonte