Vejo o conceito de 'permutabilidade' sendo usado em diferentes contextos (por exemplo, modelos bayesianos), mas nunca entendi o termo muito bem.
O que esse conceito significa?
Em que circunstâncias esse conceito é invocado e por quê?
A permutabilidade visa capturar simetria em um problema, simetria em um sentido que não requer independência. Formalmente, uma sequência é intercambiável se sua distribuição de probabilidade conjunta for uma função simétrica de seus argumentos. Intuitivamente, significa que podemos trocar ou reordenar variáveis na sequência sem alterar sua distribuição conjunta. Por exemplo, toda sequência de IID (independente, identicamente distribuída) é intercambiável - mas não o contrário. Cada sequência trocável é identicamente distribuída, no entanto.
Imagine uma mesa com um monte de urnas no topo, cada uma contendo diferentes proporções de bolas vermelhas e verdes. Escolhemos uma urna aleatoriamente (de acordo com alguma distribuição anterior) e, em seguida, coletamos uma amostra (sem reposição) da urna selecionada.
Note que os vermelhos e verdes que observamos NÃO são independentes. E talvez não seja uma surpresa saber que a sequência de vermelhos e verdes que observamos é uma sequência intercambiável. O que talvez seja surpreendente é que CADA sequência permutável pode ser imaginada dessa maneira, para uma escolha adequada de urnas e distribuição prévia. (ver Diaconis / Freedman (1980) "Finite Exchangeable Sequences", Ann. Prob.).
O conceito é invocado em todos os tipos de lugares, e é especialmente útil em contextos bayesianos, porque nessas situações temos uma distribuição prévia (nosso conhecimento da distribuição de urnas na mesa) e temos uma probabilidade de ocorrer (um modelo que representa vagamente o procedimento de amostragem de uma urna determinada, fixa). Observamos a sequência de vermelhos e verdes (os dados) e usamos essas informações para atualizar nossas crenças sobre a urna específica em nossas mãos (ou seja, nossa posterior), ou mais geralmente, as urnas na mesa.
Variáveis aleatórias intercambiáveis são especialmente maravilhosas porque, se tivermos infinitamente muitas delas, teremos ao nosso alcance milhares de máquinas matemáticas, das quais a mais importante delas é o Teorema de Finetti; veja Wikipedia para uma introdução.