Valor máximo do coeficiente de variação para o conjunto de dados limitados

17

Na discussão após uma pergunta recente sobre se o desvio padrão pode exceder a média, uma pergunta foi levantada brevemente, mas nunca totalmente respondida. Então, eu estou perguntando aqui.

Considere um conjunto de n números não negativos que para . Não é necessário que o seja distinto, ou seja, o conjunto pode ser um multiset. A média e a variação do conjunto são definidas como e o desvio padrão é . Observe que o conjunto de números não é uma amostra de uma população e não estamos estimando uma média ou variação de população. A questão então é:xi0xic1inxi

x¯=1ni=1nxi,  σx2=1ni=1n(xix¯)2=(1ni=1nxi2)x¯2
σx

Qual é o valor máximo de , o coeficiente de variação, sobre todas as opções dos no intervalo ?σxx¯xi[0,c]

O valor máximo que posso encontrar para é que é alcançado quando do tem valor e o restante (outlier) possui valor , fornecendo Mas isso não depende de , e estou me perguntando se valores maiores, possivelmente dependentes de e , podem ser alcançados.σxx¯n1n1xi0xiccnc

x¯=cn,  1nxi2=c2nσx=c2nc2n2=cnn1.
cnc

Alguma ideia? Estou certo de que essa questão já foi estudada na literatura estatística e, portanto, as referências, se não os resultados reais, seriam muito apreciadas.

Dilip Sarwate
fonte
Eu acho que você está certo sobre esse ser o maior valor possível e também estou surpreso que não importe. Legal. c
Peter Flom - Restabelece Monica
7
não deve afetar o resultado como σ xc não se altera se todos os valores são multiplicados por qualquer constante positivak. σxx¯k
19711 Henry

Respostas:

15

A geometria fornece insight e as desigualdades clássicas oferecem fácil acesso ao rigor.

Solução geométrica

Sabemos, a partir da geometria dos mínimos quadrados , que é a projeção ortogonal do vetor de dados x = ( x 1 , x 2 , , x n ) sobre o subespaço linear gerado pelo vetor constante ( 1 , 1 , , 1 ) e que σ xx¯=(x¯,x¯,,x¯)x=(x1,x2,,xn)(1,1,,1)σxé diretamente proporcional à distância (euclidiana) entre e ˉ x . As restrições de não-negatividade são lineares e a distância é uma função convexa, de onde os extremos de distância devem ser atingidos nas bordas do cone determinadas pelas restrições. Este cone é o orthant positivo em R n e os seus bordos são os eixos de coordenadas, de onde segue-se imediatamente que todos menos um dos x i deve ser zero nas distâncias máximas. Para esse conjunto de dados, um cálculo direto (simples) mostra σ x / ˉ x = xx¯.Rnxiσx/x¯=n.

Solução que explora as desigualdades clássicas

é otimizado simultaneamente com qualquer transformação monotônica. À luz disso, vamos maximizarσx/x¯

x12+x22++xn2(x1+x2++xn)2=1n(n1n(σxx¯)2+1)=f(σxx¯).

(A fórmula para pode parecer misteriosa até você perceber que apenas registra as etapas que você executaria ao manipular algebricamente σ x / ˉ xfσx/x¯ ao para obter uma forma simples, que é o lado esquerdo.)

Uma maneira fácil começa com a desigualdade do titular ,

x12+x22++xn2(x1+x2++xn)max({xi}).

(Isso não precisa de prova especial neste contexto simples: apenas substituir um fator de cada termo pelo componente máxima max ( { x i } ) :., Obviamente, a soma dos quadrados não diminuirá Factoring fora o termo comum max ( { x i } )xi2=xi×ximax({xi})max({xi}) gera o lado direito da desigualdade.)

Como não são todos 0 (isso deixaria σ x / ˉ x indefinido), a divisão pelo quadrado de sua soma é válida e fornece a desigualdade equivalentexi0σx/x¯

x12+x22++xn2(x1+x2++xn)2max({xi})x1+x2++xn.

Como o denominador não pode ser menor que o numerador (que é apenas um dos termos do denominador), o lado direito é dominado pelo valor , que é alcançado apenas quando todos, exceto um dos x i, são iguais a 0 . De onde1xi0

σxx¯f1(1)=(1×(n1))nn1=n.

Abordagem alternativa

Como não é negativo e não pode somar 0 , os valores p ( i ) = x i / ( x 1 + x 2 + + x n ) determinam uma distribuição de probabilidade F em { 1 , 2 , , n } . Escrevendo s para a soma dos x i , reconhecemosxi0p(i)=xi/(x1+x2++xn)F{1,2,,n}sxi

x12+x22++xn2(x1+x2++xn)2=x12+x22++xn2s2=(x1s)(x1s)+(x2s)(x2s)++(xns)(xns)=p1p1+p2p2++pnpn=EF[p].

The axiomatic fact that no probability can exceed 1 implies this expectation cannot exceed 1, either, but it's easy to make it equal to 1 by setting all but one of the pi equal to 0 and therefore exactly one of the xi is nonzero. Compute the coefficient of variation as in the last line of the geometric solution above.

whuber
fonte
Thanks for a detailed answer from which I have learned a lot! I assume that the difference between the n in your answer and the n1 that I obtained (and Henry confirmed) is due to the fact that you are using
σx=1n1i=1n(xix¯)2
as the definition of σx while I used
σx=1ni=1n(xix¯)2?
Dilip Sarwate
1
Yes Dilip, that's right. Sorry about the discrepancy with the question; I should have checked first and I should have defined σx (which I intended to do but forgot).
whuber
10

Some references, as small candles on the cakes of others:

Katsnelson and Kotz (1957) proved that so long as all xi0, then the coefficient of variation cannot exceed n1. This result was mentioned earlier by Longley (1952). Cramér (1946, p.357) proved a less sharp result, and Kirby (1974) proved a less general result.

Cramér, H. 1946. Mathematical methods of statistics. Princeton, NJ: Princeton University Press.

Katsnelson, J., and S. Kotz. 1957. On the upper limits of some measures of variability. Archiv für Meteorologie, Geophysik und Bioklimatologie, Series B 8: 103–107.

Kirby, W. 1974. Algebraic boundedness of sample statistics. Water Resources Research 10: 220–222.

Longley, R. W. 1952. Measures of the variability of precipitation. Monthly Weather Review 80: 111–117.

I came across these papers in working on

Cox, N.J. 2010. The limits of sample skewness and kurtosis. Stata Journal 10: 482-495.

which discusses broadly similar bounds on moment-based skewness and kurtosis.

Nick Cox
fonte
8

With two numbers xixj, some δ>0 and any μ:

(xi+δμ)2+(xjδμ)2(xiμ)2(xjμ)2=2δ(xixj+δ)>0.

Applying this to n non-negative datapoints, this means that unless all but one of the n numbers are zero and so cannot be reduced further, it is possible to increase the variance and standard deviation by widening the gap between any pair of the data points while retaining the same mean, thus increasing the coefficient of variation. So the maximum coefficient of variation for the data set is as you suggest: n1.

c should not affect the result as σxx¯ does not change if all the values are multiplied by any positive constant k (as I said in my comment).

Henry
fonte