Uma distribuição de mistura é aquela que é escrita como uma combinação convexa de outras distribuições. Use a tag "distribuições compostas" para "concatenações" de distribuições (onde um parâmetro de uma distribuição é uma variável aleatória).
Digamos que eu tenha duas distribuições normais A e B com médias e e variações e . Quero dar uma mistura ponderada destas duas distribuições utilizando pesos e onde e . Eu sei que a média dessa mistura seria .μ B σ A σ B p q 0 ≤ p ≤ 1 q = 1 - p μ A B = ( p × μ A ) + ( q × μ B...
Caro pessoal, notei algo estranho que não sei explicar, não é? Em resumo: a abordagem manual para calcular um intervalo de confiança em um modelo de regressão logística e a função R confint()fornecem resultados diferentes. Eu tenho passado pela regressão logística aplicada de Hosmer & Lemeshow...
Eu tenho um conjunto de dados X que tem 10 dimensões, 4 das quais são valores discretos. De fato, essas 4 variáveis discretas são ordinais, ou seja, um valor mais alto implica uma semântica maior / melhor. 2 dessas variáveis discretas são categóricas no sentido de que, para cada uma dessas...
Usando a distribuição t do aluno com graus de liberdade, o parâmetro de localização le os parâmetros de escala s têm densidadek > 0k>0k > 0eullsss Γ ( k + 12)Γ ( k2k πs2----√){ 1 + k- 1( x - ls) }- ( k + 1 ) / 2,Γ(k+12)Γ(k2kπs2){1+k−1(x−ls)}−(k+1)/2,\frac{\Gamma...
Estou lendo Bishop no algoritmo EM para GMM e a relação entre GMM e k-means. Neste livro, diz que k-means é uma versão de atribuição difícil do GMM. Gostaria de saber se isso implica que, se os dados que estou tentando agrupar não forem gaussianos, não posso usar o k-means (ou pelo menos não é...
Esta pergunta foi migrada do Mathematics Stack Exchange porque pode ser respondida em Validação cruzada. Migrou há 6 anos . Na abordagem do algoritmo EM, usamos a desigualdade de Jensen para chegar
Como posso amostrar a partir de uma distribuição de mistura e, em particular, uma mistura de distribuições normais R? Por exemplo, se eu quisesse provar de: 0,3× N( 0 , 1 )+0,5×N( 10 , 1 )+0,2× N( 3 , .1 )0,3×N(0 0,1)+0,5×N(10,1)+0,2×N(3,.1) 0.3\!\times\mathcal{N}(0,1)\; +...
Eu quero implementar o algoritmo EM manualmente e depois compará-lo com os resultados normalmixEMdo mixtoolspacote. Claro, eu ficaria feliz se os dois tivessem os mesmos resultados. A referência principal é Geoffrey McLachlan (2000), Modelos de Mistura Finita . Eu tenho uma densidade de mistura de...
Considere a probabilidade de log de uma mistura de gaussianos: l(Sn;θ)=∑t=1nlogf(x(t)|θ)=∑t=1nlog{∑i=1kpif(x(t)|μ(i),σ2i)}l(Sn;θ)=∑t=1nlogf(x(t)|θ)=∑t=1nlog{∑i=1kpif(x(t)|μ(i),σi2)}l(S_n; \theta) = \sum^n_{t=1}\log f(x^{(t)}|\theta) = \sum^n_{t=1}\log\left\{\sum^k_{i=1}p_i f(x^{(t)}|\mu^{(i)},...
Sinto que já vi esse tópico discutido aqui antes, mas não consegui encontrar nada específico. Por outro lado, também não tenho muita certeza do que procurar. Eu tenho um conjunto unidimensional de dados ordenados. Eu suponho que todos os pontos do conjunto sejam retirados da mesma...
No capítulo 9 do livro Reconhecimento de padrões e aprendizado de máquina, há uma parte sobre o modelo de mistura gaussiano: Para ser sincero, não entendo por que isso criaria uma singularidade. Alguém pode me explicar isso? Sinto muito, mas sou apenas um graduado e um novato em aprendizado de...
Existem muitas publicações que enfatizam o método de Maximização de Expectativas em modelos de mistura (Mistura de Gaussiana, Modelo de Markov Oculto, etc.). Por que EM é importante? O EM é apenas uma maneira de otimizar e não é amplamente usado como método baseado em gradiente (gradiente decente...
Os testes de permutação (também chamados de teste de randomização, teste de re-randomização ou teste exato) são muito úteis e úteis quando a suposição de distribuição normal exigida por, por exemplo, t-testnão é atendida e quando a transformação dos valores pela classificação do teste...
Eu tenho duas variáveis - X e Y e preciso tornar o cluster máximo (e ideal) = 5. Vamos traçar o gráfico ideal de variáveis como a seguir: Eu gostaria de fazer 5 grupos disso. Algo assim: Então eu acho que esse é um modelo de mistura com 5 clusters. Cada cluster tem um ponto central e um...
A troca de etiquetas (ou seja, a distribuição posterior é invariável à troca de etiquetas de componentes) é um problema problemático ao usar o MCMC para estimar modelos de mistura. Existe uma metodologia padrão (como amplamente aceita) para lidar com o problema? Se não houver uma abordagem...
Os modelos de mistura gaussiana (GMMs) são atraentes porque são simples de trabalhar tanto analiticamente quanto na prática e são capazes de modelar algumas distribuições exóticas sem muita complexidade. Há algumas propriedades analíticas que devemos esperar manter que não são claras em geral. Em...
Parece haver muita confusão na comparação entre usar glmnetdentro caretpara procurar uma lambda ideal e usar cv.glmnetpara fazer a mesma tarefa. Muitas perguntas foram feitas, por exemplo: Modelo de classificação train.glmnet vs. cv.glmnet? Qual é a maneira correta de usar glmnet com...
Quero incluir o tempo gasto fazendo alguma coisa (semanas de amamentação, por exemplo) como uma variável independente em um modelo linear. No entanto, algumas observações não se envolvem no comportamento. Codificá-los como 0 não é realmente certo, porque 0 é qualitativamente diferente de qualquer...
Suponha que tenhamos um conjunto de pontos . Cada ponto é gerado usando a distribuição Para obter posterior para , escrevemos p (x | \ mathbf {y}) \ propto p (\ mathbf {y} | x) p (x) = p (x) \ prod_ {i = 1} ^ N p (y_i x) De acordo com o artigo de Minka na expectativa de propagação precisamos 2...
Estou reproduzindo do zero os resultados na Seção 4.2.1 de Probabilidade marginal da produção de Gibbs Siddhartha Chib Jornal da Associação Estatística Americana, vol. 90, No. 432. (Dec., 1995), pp. 1313-1321. É uma mistura de modelos normais com o número conhecido de componentes. k ≥...