Selecione valores únicos ou distintos de uma lista no script de shell UNIX

Eu tenho um script ksh que retorna uma longa lista de valores separados por nova linha e quero ver apenas os valores exclusivos / distintos. É possível fazer isso?

Por exemplo, digamos que minha saída seja sufixos de arquivo em um diretório:

tar
gz
java
gz
java
tar
class
class

Eu quero ver uma lista como:

tar
gz
java
class

Você pode querer olhar para os aplicativos uniqe sort.

./yourscript.ksh | classificar | uniq

(Para sua informação, sim, a classificação é necessária nesta linha de comando, uniqapenas retira as linhas duplicadas imediatamente após a outra)

EDITAR:

Ao contrário do que foi postado por Aaron Digulla em relação às uniqopções de linha de comando:

Dada a seguinte entrada:

classe
jarra
jarra
jarra
bin
bin
Java

uniq produzirá todas as linhas exatamente uma vez:

classe
jarra
bin
Java

uniq -d produzirá todas as linhas que aparecerem mais de uma vez e as imprimirá uma vez:

jarra
bin

uniq -u produzirá todas as linhas que aparecerem exatamente uma vez e as imprimirá uma vez:

classe
Java

./script.sh | sort -u

É o mesmo que a resposta do monóxido , mas um pouco mais concisa.

Para conjuntos de dados maiores em que a classificação pode não ser desejável, você também pode usar o seguinte script perl:

./yourscript.ksh | perl -ne 'if (!defined $x{$_}) { print $_; $x{$_} = 1; }'

Basicamente, isso apenas lembra todas as saídas de linha, para que não sejam exibidas novamente.

Tem a vantagem sobre a sort | uniqsolução " ", pois não há necessidade de classificação antecipada.

Com o zsh, você pode fazer isso:

% cat infile 
tar
more than one word
gz
java
gz
java
tar
class
class
zsh-5.0.0[t]% print -l "${(fu)$(<infile)}"
tar
more than one word
gz
java
class

Ou você pode usar o AWK:

% awk '!_[$0]++' infile    
tar
more than one word
gz
java
class

Conduza-os através de sorte uniq. Isso remove todas as duplicatas.

uniq -dfornece apenas as duplicatas, uniq -ufornece apenas as únicas (retira as duplicatas).

Com o AWK você pode fazer, acho mais rápido que o tipo

 ./yourscript.ksh | awk '!a[$0]++'

Exclusivo, conforme solicitado, (mas não classificado);
usa menos recursos do sistema para menos de ~ 70 elementos (conforme testado com o tempo);
escrito para receber a entrada de stdin,
(ou modificar e incluir em outro script):
(Bash)

bag2set () {
    # Reduce a_bag to a_set.
    local -i i j n=${#a_bag[@]}
    for ((i=0; i < n; i++)); do
        if [[ -n ${a_bag[i]} ]]; then
            a_set[i]=${a_bag[i]}
            a_bag[i]=$'\0'
            for ((j=i+1; j < n; j++)); do
                [[ ${a_set[i]} == ${a_bag[j]} ]] && a_bag[j]=$'\0'
            done
        fi
    done
}
declare -a a_bag=() a_set=()
stdin="$(</dev/stdin)"
declare -i i=0
for e in $stdin; do
    a_bag[i]=$e
    i=$i+1
done
bag2set
echo "${a_set[@]}"

Recebo dicas melhores para obter entradas não duplicadas em um arquivo

awk '$0 != x ":FOO" && NR>1 {print x} {x=$0} END {print}' file_name | uniq -f1 -u