Perguntas com a marcação «linear-algebra»

Ultimamente, tenho notado que muitas pessoas estão desenvolvendo equivalentes a tensores de vários métodos (fatoração de tensão, núcleos de tensor, tensores para modelagem de tópicos etc.). Estou me perguntando, por que o mundo de repente é fascinado por tensores? Existem trabalhos recentes /...

Trabalho com R há algum tempo e já me deparei com coisas como decomposições de PCA, SVD, QR e muitos desses resultados de álgebra linear (ao inspecionar estimativas de regressões ponderadas e outras), então eu queria saber se alguém tem uma recomendação sobre um bom livro abrangente de álgebra...

Eu li muito sobre o PCA, incluindo vários tutoriais e perguntas (como este , este , este e este ). O problema geométrico que o PCA está tentando otimizar é claro para mim: o PCA tenta encontrar o primeiro componente principal minimizando o erro de reconstrução (projeção), que maximiza...

Eu li sobre decomposição de valor singular (SVD). Em quase todos os livros didáticos, é mencionado que ela fatoriza a matriz em três matrizes com determinada especificação. Mas qual é a intuição por trás da divisão da matriz dessa forma? O PCA e outros algoritmos para redução de dimensionalidade...

Acho que a resposta deve ser sim, mas ainda sinto que algo não está certo. Deve haver alguns resultados gerais na literatura, alguém poderia me

Ouvi dizer que correlações parciais entre variáveis ​​aleatórias podem ser encontradas invertendo a matriz de covariância e obtendo células apropriadas dessa matriz de precisão resultante (esse fato é mencionado em http://en.wikipedia.org/wiki/Partial_correlation , mas sem uma prova) . Por que...

Digamos que eu tenha uma distribuição Gaussiana multivariada em dimensional. E tomo observações (cada uma delas um vetor ) dessa distribuição e calculo a matriz de covariância da amostra . Neste artigo , os autores afirmam que a matriz de covariância da amostra calculada com é...

Estou estudando PCA no curso Coursera de Andrew Ng e outros materiais. Na primeira tarefa do curso de PNL de Stanford, cs224n , e no vídeo da aula de Andrew Ng , eles fazem decomposição de valor singular em vez de decomposição de vetor próprio da matriz de covariância, e Ng até diz que o SVD é...

Se e são dois vetores de unidades aleatórias independentes em (distribuídos uniformemente em uma esfera de unidades), qual é a distribuição do produto escalar (produto escalar) ?y R D x ⋅ yxx\mathbf{x}yy\mathbf{y}RDRD\mathbb{R}^Dx⋅yx⋅y\mathbf x \cdot \mathbf y Eu acho que conforme cresce a...

Observo um comportamento muito estranho no resultado SVD de dados aleatórios, que posso reproduzir tanto no Matlab quanto no R. Parece um problema numérico na biblioteca LAPACK; é isso? Eu desenho n=1000n=1000n=1000 amostras do Gaussiano k=2k=2k=2 dimensional com média zero e covariância de...

Conheço a definição de matriz simétrica positiva definida (SPD), mas quero entender mais. Por que eles são tão importantes, intuitivamente? Aqui está o que eu sei. O quê mais? Para um dado dado, a matriz de co-variância é SPD. Matriz de co-variância é uma métrica importante; consulte este...

Estou tentando obter uma compreensão intuitiva de como a análise de componentes principais (PCA) funciona no espaço sujeito (duplo) . Considere o conjunto de dados 2D com duas variáveis, x1x1x_1 e x2x2x_2 , e nnn pontos de dados (a matriz de dados XX\mathbf X é n×2n×2n\times 2 e assume-se...

Eu quero transformar meus dados XX\mathbf X modo que as variações sejam uma e as covariâncias sejam zero (ou seja, eu quero branquear os dados). Além disso, os meios devem ser zero. Sei que chegarei lá fazendo a padronização Z e a transformação PCA, mas em que ordem devo fazê-las? Devo...

Seja θ∈Rnθ∈Rn\theta \in R^{n} . A Matriz de Informações de Fisher é definida como: I(θ)i,j=−E[∂2log(f(X|θ))∂θi∂θj∣∣∣θ]I(θ)i,j=−E[∂2log⁡(f(X|θ))∂θi∂θj|θ]I(\theta)_{i,j} = -E\left[\frac{\partial^{2} \log(f(X|\theta))}{\partial \theta_{i} \partial \theta_{j}}\bigg|\theta\right] Como posso provar que...

Essa é uma pergunta muito simples, mas não consigo encontrar a derivação em nenhum lugar da internet ou de um livro. Gostaria de ver a derivação de como um bayesiano atualiza uma distribuição normal multivariada. Por exemplo: imagine que P(x|μ,Σ)P(μ)==N(μ,Σ)N(μ0,Σ0).P(x|μ,Σ)=N(μ,Σ)P(μ)=N(μ0,Σ0)....

Suponha que eu possua uma matriz densa de m × n , com decomposição SVD A = U S V ⊤ . Em que posso calcular o SVD da seguinte forma: .UMAUMA \textbf{A}m × nm×nm \times nA = U S V⊤.UMA=vocêSV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Se uma nova -ésima linha for adicionada a A , será possível calcular a...

Como afirmado nesta pergunta, a classificação máxima da matriz de covariância é n−1n−1n-1 onde nnn é o tamanho da amostra e, portanto, se a dimensão da matriz de covariância for igual ao tamanho da amostra, seria singular. Não consigo entender por que subtraímos 111 da classificação máxima nnn da...

Para a norma vetorial, a norma L2 ou "distância euclidiana" é a definição amplamente usada e intuitiva. Mas por que a definição de norma "mais usada" ou "padrão" para uma matriz é a norma espectral , mas não a norma de Frobenius (que é semelhante à norma L2 para vetores)? Isso tem algo a ver com...

Digamos que temos X de forma (2, 5) e y de forma (2,) Isso funciona: np.linalg.lstsq(X, y) Esperaríamos que isso funcionasse apenas se X tivesse a forma (N, 5) onde N> = 5 Mas por que e como? Recebemos de volta 5 pesos conforme o esperado, mas como esse problema é resolvido? Não é como se...

Considere o seguinte biplot PCA: library(mvtnorm) set.seed(1) x <- rmvnorm(2000, rep(0, 6), diag(c(5, rep(1,5)))) x <- scale(x, center=T, scale=F) pc <- princomp(x) biplot(pc) Há um monte de setas vermelhas plotadas, o que elas significam? Eu sabia que a primeira seta marcada com...