A Análise Discriminante Linear (LDA) é um método de redução e classificação de dimensionalidade. Ele encontra o subespaço de baixa dimensão com a separação de classe mais forte e o usa para executar a classificação. Use esta tag também para DA quadrático (QDA).
Estou tentando entender a diferença estatística entre análise discriminante linear e regressão logística . Estou certo de que, para um problema de classificação de duas classes , o LDA prevê duas funções de densidade normal (uma para cada classe) que cria um limite linear onde elas se cruzam,...
Alguém pode explicar as diferenças e dar exemplos específicos de como usar essas três análises? LDA - Análise Discriminante Linear FDA - Análise Discriminante de Fisher QDA - Análise Quadrática Discriminante Procurei em todos os lugares, mas não consegui encontrar exemplos reais com valores...
Eu estava usando a Análise Discriminante Linear (LDA) da scikit-learnbiblioteca de aprendizado de máquina (Python) para redução de dimensionalidade e fiquei um pouco curioso sobre os resultados. Gostaria de saber agora o que o LDA scikit-learnestá fazendo para que os resultados pareçam diferentes,...
Como estão relacionados o PCA, LDA, CCA e PLS? Todos eles parecem algébricos "espectrais" e lineares e muito bem compreendidos (digamos, mais de 50 anos de teoria construídos em torno deles). Eles são usados para coisas muito diferentes (PCA para redução de dimensionalidade, LDA para...
Suponha que eu tenha um conjunto de dados para uma tarefa de classificação estatística supervisionada, por exemplo, por meio de um classificador Bayes. Este conjunto de dados consiste em 20 recursos e eu quero reduzi-lo a 2 recursos por meio de técnicas de redução de dimensionalidade, como Análise...
Existe uma relação entre regressão e análise discriminante linear (LDA)? Quais são suas semelhanças e diferenças? Faz alguma diferença se houver duas classes ou mais de duas
Neste artigo , o autor vincula a análise discriminante linear (LDA) à análise de componentes principais (PCA). Com meu conhecimento limitado, não sou capaz de acompanhar como o LDA pode ser um pouco semelhante ao PCA. Eu sempre pensei que o LDA era uma forma de algoritmo de classificação,...
Eu vi um gráfico de análise discriminante linear (LDA) com limites de decisão de The Elements of Statistical Learning : Entendo que os dados são projetados em um subespaço de menor dimensão. No entanto, gostaria de saber como obtemos os limites de decisão na dimensão original, para que eu possa...
Há palavras de "Os elementos do aprendizado estatístico" na página 91: Os centróides K no espaço de entrada p-dimensional abrangem no subespaço dimensional K-1 e, se p for muito maior que K, será uma queda considerável na dimensão. Eu tenho duas perguntas: Por que os centróides K no espaço...
Em vários lugares, vi uma afirmação de que MANOVA é como ANOVA mais análise discriminante linear (LDA), mas sempre foi feita de uma maneira que acenava com as mãos. Eu gostaria de saber o que exatamente isso significa. Encontrei vários livros que descrevem todos os detalhes dos cálculos do MANOVA,...
Estou treinando um classificador LDA de várias classes com 8 classes de dados. Durante a execução do treinamento, recebo um aviso de: "As variáveis são colineares " Estou recebendo uma precisão de treinamento de mais de 90% . Estou usando a biblioteca scikits-learn no Python para treinar e...
Encontrei alguns profissionais da análise discriminante e tenho perguntas sobre eles. Então: Quando as classes são bem separadas, as estimativas de parâmetros para regressão logística são surpreendentemente instáveis. Coeficientes podem ir para o infinito. LDA não sofre com esse problema. Se...
Em R, eu uso a ldafunção da biblioteca MASSpara fazer a classificação. Pelo que entendi LDA, a entrada xxx receberá o rótulo yyy , que maximiza p(y|x)p(y|x)p(y|x) , certo? Mas quando ajustar o modelo, no qual x=(Lag1,Lag2)x=(Lag1,Lag2)x=(Lag1,Lag2)y=Direction,y=Direction,y=Direction, eu não...
Na análise discriminante, a variável dependente é categórica, mas posso usar uma variável categórica (por exemplo, status residencial: rural, urbano) juntamente com alguma outra variável contínua como variável independente na análise discriminante
Eu estava brincando com os métodos PCA e LDA e estou em um ponto, sinto que é tão simples que não consigo vê-lo. Matrizes de dispersão dentro da classe ( ) e entre classes ( S B ) são definidas como:SWSWS_WSBSBS_B SW= ∑i = 1C∑t = 1N( xEut- μEu) ( xEut- μEu)TSW=∑Eu=1C∑t=1N(xtEu-μEu)(xtEu-μEu)T S_W...
P( x | y)P(x|y)P(x|y)P(y|x)=P(x|y)Pprior(y)Σg∈YP(x|g)Pprior(g).P(y|x)=P(x|y)Pprior(y)Σg∈YP(x|g)Pprior(g).P(y|x) = \frac{P(x|y)P_{prior}(y)}{\Sigma_{g \in Y} P(x|g) P_{prior}(g) }. Hence, they are generative models. Why then is it called discriminant analysis? If it is because we finally derive a...
Pelo visto, a análise de Fisher visa maximizar simultaneamente a separação entre classes, enquanto minimiza a dispersão dentro da classe. Uma medida útil do poder de discriminação de uma variável é, por conseguinte, dada pela quantidade diagonal: Bii/WiiBii/WiiB_{ii}/W_{ii}...
Eu costumava diagnosticar meus dados multivariados usando o PCA (dados omicos com centenas de milhares de variáveis e dezenas ou centenas de amostras). Os dados geralmente vêm de experimentos com várias variáveis independentes categóricas que definem alguns grupos, e muitas vezes tenho que...
Eu tenho um conjunto de dados que consiste em 15 mil amostras marcadas (de 10 grupos). Quero aplicar a redução de dimensionalidade em duas dimensões, que levariam em consideração o conhecimento dos rótulos. Quando uso técnicas de redução de dimensionalidade não supervisionadas "padrão", como o...
Qual é a relação entre a análise discriminante linear e a regra de Bayes? Entendo que o LDA é usado na classificação, tentando minimizar a taxa de variação dentro do grupo e entre a variação no grupo, mas não sei como a regra de Bayes é usada