Fórmula de probabilidade para uma distribuição multivariada-bernoulli

13

Preciso de uma fórmula para a probabilidade de um evento em uma distribuição n-variável de Bernoulli com probabilidades para um único elemento e para pares de elementos . Equivalentemente eu poderia dar média e covariância de . $X\in\{0,1\}^n$ $P(X_i=1)=p_i$ $P(X_i=1 \wedge X_j=1)=p_{ij}$ $X$

Eu já aprendi que existem muitas distribuições com as propriedades, assim como existem muitas distribuições com uma determinada média e covariância. Eu estou procurando um canônica sobre , assim como o Gauss é uma distribuição canônico para e um dado covariância média e. $\{0,1\}^n$ $\{0,1\}^n$ $R^n$

multivariate-analysis discrete-data mpiktas
fonte

11

A variável aleatória que recebe valores em é uma variável aleatória discreta. Sua distribuição é totalmente descrita pelas probabilidades com . As probabilidades e você fornece são somas de para certos índices . $\{0,1\}^n$ $p_{\mathbf{i}}=P(X=\mathbf{i})$ $\mathbf{i}\in\{0,1\}^n$ $p_{i}$ $p_{ij}$ $p_{\mathbf{i}}$ $\mathbf{i}$

Agora parece que você quer descrever usando apenas e . Não é possível sem assumir certas propriedades em . Para ver que tentam derivar função característica de . Se tomarmos , obtemos $p_{\mathbf{i}}$ $p_i$ $p_{ij}$ $p_{\mathbf{i}}$ $X$ $n=3$

Não é possível reorganizar esta expressão para que

\begin{aligned} E e^{i (t_{1} X_{1} + t_{2} X_{2} + t_{3} X_{3})} & = p_{000} + p_{100} e^{i t_{1}} + p_{010} e^{i t_{2}} + p_{001} e^{i t_{3}} \\ + p_{110} e^{i (t_{1} + t_{2})} + p_{101} e^{i (t_{1} + t_{3})} + p_{011} e^{i (t_{2} + t_{3})} + p_{111} e^{i (t_{1} + t_{2} + t_{3})} \end{aligned}

$\begin{align} Ee^{i(t_1X_1+t_2X_2+t_3X_3)}&=p_{000}+p_{100}e^{it_1}+p_{010}e^{it_2}+p_{001}e^{it_3}\\\\ &+p_{110}e^{i(t_1+t_2)}+p_{101}e^{i(t_1+t_3)}+p_{011}e^{i(t_2+t_3)}+p_{111}e^{i(t_1+t_2+t_3)} \end{align}$

p_{i}

$p_{\mathbf{i}}$ desaparecer. Para a variável aleatória gaussiana, a função característica depende apenas dos parâmetros de média e covariância. As funções características definem de forma exclusiva as distribuições, e é por isso que o Gaussiano pode ser descrito de forma única usando apenas média e covariância. Como vemos na variável aleatória

esse não é o caso.

X

$X$

mpiktas
fonte

10

Veja o seguinte documento:

JL Teugels, Algumas representações da distribuição multivariada de Bernoulli e binomial , Journal of Multivariate Analysis , vol. 32, n. 2, fevereiro de 1990, 256-268.

Aqui está o resumo:

Versões multivariadas, mas vetorizadas, para Bernoulli e distribuições binomiais são estabelecidas usando o conceito de produto Kronecker a partir do cálculo matricial. A distribuição multivariada de Bernoulli envolve um modelo parametrizado, que fornece uma alternativa ao modelo log-linear tradicional para variáveis binárias.

Hamed
fonte

2

Obrigado por compartilhar isso, Hamed. Bem vindo ao nosso site!

whuber

1

Não sei como é chamada a distribuição resultante, ou se ela tem um nome, mas me parece que a maneira mais óbvia de configurar isso é pensar no modelo que você usaria para modelar 2 × 2 × 2 × … × 2 usando um modelo log-linear (regressão de Poisson). Como você conhece apenas as interações de primeira ordem, é natural supor que todas as interações de ordem superior sejam zero.

Usando a notação do questionador, isso fornece o modelo:

P (X_{1} = x_{1}, X_{2} = x_{2}, ..., X_{n} = x_{n}) = \prod_{Eu} [p_{Eu}^{x_{Eu}} (1 - p_{Eu})^{1 - x_{Eu}} \prod_{j < Eu} {(\frac{p_{Eu j}}{p_{Eu} p_{j}})}^{x_{Eu} x_{j}}]

$P(X_1=x_1, X_2=x_2,\ldots,X_n=x_n) = \prod_i \left[ p_i^{x_i}(1-p_i)^{1-x_i} \prod_{j<i} \left(\frac{p_{ij}}{p_i p_j}\right)^{x_i x_j} \right]$

uma parada
fonte

Esta fórmula tem problemas notacionais: existem

p

$p$ está à esquerda e à direita. O lado direito não faz nenhuma referência ao subscrito

i

$\mathbf{i}$ . Além disso, ainda interpretando o

p_{i}

$p_i$ como probabilidades (como na pergunta original), o rhs é claramente positivo, enquanto o lhs não pode ser positivo.

whuber

@whuber Muito bem! Fico de acordo com o modelo que estabeleci no primeiro parágrafo, mas minha equação foi complicada de várias maneiras ... Mostra que não usei a modelagem log-linear de tabelas de contingência desde o meu mestrado e não o fiz. tenho as anotações ou livros em mãos. Eu acredito que eu consertei agora. Deixe-me saber se você concorda! Desculpas pelo atraso. Alguns dias meu cérebro simplesmente não faz álgebra.

onestop

1

Eu não acho que isso funciona. Presumir

p_{i} = 1 / n

$p_i=1/n$ e

p_{i j} = 0 \forall i \neq j

$p_{ij}=0 \forall i \ne j$ . Essa é uma combinação válida de probabilidades, realizada quando

I

$I$ é uma variável aleatória uniforme

\in {1, . . ., n}

$\in\{1,...,n\}$ e

X_{I} = 1

$X_I=1$ e tudo

X_{j} = 0 \forall j \neq I

$X_j=0 \forall j\ne I$ . Ainda assim, a fórmula acima seria 0 para todos os eventos. Ainda obrigado por ajudar!

Fórmula de probabilidade para uma distribuição multivariada-bernoulli

Respostas: