Por que as pessoas geralmente otimizam o determinante de

8

Dizer que tenho um vector aleatório e Σ σ 2 I . Ou seja, os elementos de Y (dado X β ) estão correlacionados.YN(Xβ,Σ)Σσ2IYXβ

O estimador natural de é ( X ' Σ - 1 X ) - 1 X ' Σ - um Y , e var ( β ) = ( X ' Σ - 1 X ) - 1β(XΣ1X)1XΣ1Yvar(β^)=(XΣ1X)1

Em um contexto de design, o experimentador pode mexer com o desenho que irá resultar em diferentes e Σ assim diferente var ( β ) . Para escolher um projeto ideal, vejo que as pessoas muitas vezes tentam minimiza o determinante de ( X ' Σ - 1 X ) - 1 , o que é a intuição por trás disso?XΣvar(β^)(XΣ1X)1

Por que não, digamos, minimiza a soma de seus elementos?

qoheleth
fonte

Respostas:

12

(XΣ1X)1(XΣ1X)sob transformações lineares das variáveis ​​regressoras, o que é uma grande vantagem prática. Invariância significa que a otimização não é influenciada por itens como a escolha das unidades de medida (como m ou km ). Com critérios de otimização não invariantes, o resultado pode depender de coisas irrelevantes, como a escolha das unidades de medida.

Se você pesquisar neste site por "D-ideal", encontrará outras postagens relevantes!

kjetil b halvorsen
fonte
Boa resposta. Talvez uma coisa a acrescentar seja o critério de otimização A, que é o traço da matriz var-cov, então aqui estamos minimizando a soma das variações. Isso vai um pouco na direção do que o OP estava perguntando.
Wolfgang
Wolfgang: Sim, mas o traço (A)) - critério de otimização ainda não é invariável! Mas ele pode ser usado, withy cuidado ...
b Kjetil Halvorsen
Certo, bom ponto.
Wolfgang
1
Até onde eu sei, essa resposta fornece apenas uma motivação para o design D-ótimo: ele é invariável sob transformações lineares. Enquanto este é um bom recurso, para mim ele não aparecer para realmente motivar por que um deve usar D-óptima; muitas outras métricas também são invariantes sob transformações lineares e estão ligadas a questões reais de interesse, como minimizar a variação de um estimador de um contraste fixo de interesse. Eu sempre me perguntei por que as pessoas usam o D-ideal e não conseguiram encontrar uma boa razão!
Cliff AB
@Cliff AB: Vou tentar aumentar a resposta
b Kjetil Halvorsen