Tenho várias perguntas sobre a penalidade de cordilheira no contexto de mínimos quadrados: βr i dge= ( λ ID+ X′X)- 1X′yβridge=(λID+X′X)−1X′y\beta_{ridge} = (\lambda I_D + X'X)^{-1}X'y 1) A expressão sugere que a matriz de covariância de X é reduzida em direção a uma matriz diagonal, o que...
Eu sei que em uma situação de regressão, se você tem um conjunto de variáveis altamente correlacionadas, isso geralmente é "ruim" devido à instabilidade nos coeficientes estimados (a variação vai para o infinito, enquanto o determinante vai para zero). Minha pergunta é se essa "maldade" persiste...
Suponha que eu estou correndo uma regressão . Por seleccionando top principais componentes do , é que o modelo de manter o seu poder preditivo em ?k X YY∼XY∼XY \sim XkkkXXXYYY Eu entendo que a partir de-redução de dimensionalidade / ponto de recurso de seleção de vista, se são os vectores próprios...
Estou investigando várias técnicas usadas no agrupamento de documentos e gostaria de esclarecer algumas dúvidas sobre o PCA (análise de componentes principais) e LSA (análise semântica latente). Primeira coisa - quais são as diferenças entre eles? Eu sei que no PCA, a decomposição de SVD é...
Suponha que eu tenha um conjunto de dados para uma tarefa de classificação estatística supervisionada, por exemplo, por meio de um classificador Bayes. Este conjunto de dados consiste em 20 recursos e eu quero reduzi-lo a 2 recursos por meio de técnicas de redução de dimensionalidade, como Análise...
Normalmente, na análise de componentes principais (PCA), os primeiros PCs são usados e os PCs de baixa variância são descartados, pois não explicam grande parte da variação nos dados. No entanto, existem exemplos em que os PCs de baixa variação são úteis (ou seja, são utilizados no contexto dos...
Eu aprendi sobre o PCA algumas aulas atrás na aula e, pesquisando mais sobre esse conceito fascinante, fiquei sabendo sobre o PCA escasso. Eu queria perguntar, se não estou errado, é isso o PCA escasso: No PCA, se você tiver pontos de dados com variáveis , poderá representar cada ponto de dados no...
Estou tentando entender as diferenças entre os métodos de redução de dimensionalidade linear (por exemplo, PCA) e os não lineares (por exemplo, Isomap). Não consigo entender direito o que a (não) linearidade implica nesse contexto. Eu li na Wikipedia que Por comparação, se o PCA (um algoritmo...
Normalmente, usamos o PCA como uma técnica de redução de dimensionalidade para dados em que casos são considerados iid Pergunta: Quais são as nuances típicas na aplicação do PCA para dados dependentes e não-iid? Quais propriedades agradáveis / úteis do PCA mantidas para dados iid estão...
Eu usei a prcomp()função para executar um PCA (análise de componentes principais) em R. No entanto, há um erro nessa função, de modo que o na.actionparâmetro não funciona. Eu pedi ajuda no stackoverflow ; dois usuários ofereceram duas maneiras diferentes de lidar com NAvalores. No entanto, o...
Em dois trabalhos em 1986 e 1988 , Connor e Korajczyk propuseram uma abordagem para modelar o retorno de ativos. Como essas séries temporais geralmente têm mais ativos do que as observações do período, eles propuseram realizar um PCA nas covariâncias transversais dos retornos dos ativos. Eles...
Esta pergunta é sobre uma maneira eficiente de calcular os componentes principais. Muitos textos sobre PCA linear advogam o uso da decomposição de valor singular dos dados casewise . Ou seja, se temos dados XX\bf X e queremos substituir as variáveis (suas colunas ) por componentes principais,...
Você pode usar o conjunto de dados de decatlo {FactoMineR} para reproduzir isso. A questão é por que os autovalores computados diferem daqueles da matriz de covariância. Aqui estão os autovalores usando princomp: > library(FactoMineR);data(decathlon) > pr <- princomp(decathlon[1:10],...
No PCA, quando o número de dimensões é maior que (ou mesmo igual a) o número de amostras , por que você terá no máximo autovetores diferentes de zero? Em outras palavras, a classificação da matriz de covariância entre as dimensões é .dddNNNN−1N−1N-1d≥Nd≥Nd\ge NN−1N−1N-1 Exemplo: suas amostras são...
Entendo que a Análise de Componentes Principais (PCA) pode ser aplicada basicamente para dados de seção transversal. O PCA pode ser usado para dados de séries temporais efetivamente, especificando o ano como variável de série temporal e executando o PCA normalmente? Descobri que o PCA dinâmico...
A análise funcional de componentes principais (FPCA) é algo que me deparei com e nunca consegui entender. Sobre o que é tudo isso? Veja "Uma pesquisa sobre análise funcional de componentes principais" de Shang, 2011 , e estou citando: O PCA encontra sérias dificuldades na análise de dados...
Eu me deparei com um cenário em que tenho 10 sinais / pessoa para 10 pessoas (então 100 amostras) contendo 14000 pontos de dados (dimensões) que preciso passar para um classificador. Gostaria de reduzir a dimensionalidade desses dados e o PCA parece ser o caminho para fazê-lo. No entanto, só...
Estou entendendo algo errado. Este é o meu código usando o sklearn import numpy as np import matplotlib.pyplot as plt from mpl_toolkits.mplot3d import Axes3D from sklearn import decomposition from sklearn import datasets from sklearn.preprocessing import StandardScaler pca =
Considere a regressão de crista com uma restrição adicional exigindo que tenha soma unitária dos quadrados (equivalentemente, variação unitária); se necessário, pode-se supor que possui soma unitária dos quadrados:y^y^\hat{\mathbf y}yy\mathbf
Depois de executar a análise de componentes principais (PCA), quero projetar um novo vetor no espaço do PCA (ou seja, encontrar suas coordenadas no sistema de coordenadas do PCA). Eu calculei o PCA na linguagem R usando prcomp. Agora eu devo poder multiplicar meu vetor pela matriz de rotação PCA....