As soluções PCA são únicas?

12

Quando executo o PCA em um determinado conjunto de dados, a solução fornecida é única?

Ou seja, obtenho um conjunto de coordenadas 2D, com base nas distâncias entre pontos. É possível encontrar pelo menos mais um arranjo dos pontos que atenderiam a essas restrições?

Se a resposta for sim, como posso encontrar uma solução tão diferente?

pca raygozag
fonte

11

A resposta para a questão da singularidade é sim e não. É "sim" no sentido de que os espaços próprios e os valores próprios são matematicamente bem e exclusivamente definidos. É "não", no sentido de que (a) existem várias maneiras de representar esses espaços próprios (até mesmo um vetor próprio normalizado pode ser negado e existem muitas opções de base para espaços próprios degenerados) e (b) algoritmos diferentes podem produzir resultados diferentes devido ao acúmulo de erro de ponto flutuante nos cálculos.

whuber

Ramsay e Silverman no livro "Functinal Data Analysis", mencionam a rotação VARIMAX. Sua palestra sobre como dividir um conjunto de dados de funções (representadas como uma matriz) em seus componentes principais.

poder

Parece que você deseja usar o PCA como uma ferramenta para redução de dimensão. Você pode começar olhando para a redução de dimensionalidade ...

Elvis

7

$p$ $p$ $X$ $w$

λ_{1} = max_{w \in R^{p} : | | w | | = 1} w^{'} X w

$\lambda_1=\underset{w\in\mathbb{R}^{p}:||w||=1}{\max} w'Xw$

$\lambda_1$ $w^*$

$w$

No entanto, os algoritmos para calcular essas soluções são determinísticos, o que significa que, para os casos de canto numérico, as soluções obtidas devem ser as mesmas.

$X$

user603
fonte

7

$\mathbf{w}$ $n$ $-\mathbf{w}$ $n$

Cam.Davidson.Pilon
fonte

3

Para uma aplicação prática interessante dessa ambiguidade, consulte stats.stackexchange.com/questions/34396 . (BTW, a reversão de sinal foi notado: ver o primeiro comentário a esta pergunta.)

whuber

As soluções PCA são únicas?

Respostas: