O que é "mistura" em um modelo de mistura gaussiano

8

Frequentemente, estudamos o modelo Gaussian Mixture como um modelo útil no aprendizado de máquina e suas aplicações.

Qual é o significado físico dessa " mistura "?

É usado porque um Modelo de Mistura Gaussiano modela a probabilidade de várias variáveis ​​aleatórias, cada uma com seu próprio valor de média? Caso contrário, qual é a interpretação correta dessa palavra.

Upendra Pratap Singh
fonte

Respostas:

11

Uma distribuição de combina diferentes distribuições de componentes com pesos que geralmente somam um (ou podem ser renormalizados). Uma é o caso especial em que os componentes são gaussianos.

Por exemplo, aqui está uma mistura de 25% e 75% , que você poderia chamar de "uma parteN(-2,1)N(2,1)N(-2,1)N(2,1)

xx <- seq(-5,5,by=.01)
plot(xx,0.25*dnorm(xx,-2,1)+0.75*dnorm(xx,2,1),type="l",xlab="",ylab="")

mistura

Essencialmente, é como uma receita. Brinque um pouco com os pesos, os meios e as variações para ver o que acontece, ou veja as duas tags no CV.

Stephan Kolassa
fonte
7

KK

O objetivo da modelagem de misturas agora é estimar a classe mais provável para cada observação. Portanto, a modelagem de mistura gaussiana pode ser vista como um problema de dados ausentes. A estimativa é geralmente feita usando o algoritmo EM.

tomka
fonte
Posso supor que as gaussianas K estão relacionados uns aos outros (através de pesos tais que a sua soma é igual a um)
Upendra Pratap Singh
@Snowbell Sim, geralmente supõe-se que os pesos sejam normalizados no sentido de que
somaram