Como encontro duplicatas em várias colunas?

98

Então, eu quero fazer algo como este código sql abaixo:

select s.id, s.name,s.city 
from stuff s
group by s.name having count(where city and name are identical) > 1

Para produzir o seguinte, (mas ignore onde apenas o nome ou apenas a cidade correspondem, deve estar em ambas as colunas):

id      name  city   
904834  jim   London  
904835  jim   London  
90145   Fred  Paris   
90132   Fred  Paris
90133   Fred  Paris
NimChimpsky
fonte

Respostas:

137

Duplicado idpara pares namee city:

select s.id, t.* 
from [stuff] s
join (
    select name, city, count(*) as qty
    from [stuff]
    group by name, city
    having count(*) > 1
) t on s.name = t.name and s.city = t.city
Michał Powaga
fonte
Observe que se nameou citycontiverem null, eles não serão relatados na consulta externa, mas serão correspondidos na consulta interna.
Adam Park em
3
Se os valores puderem conter nullentão (a menos que esteja faltando alguma coisa), você precisa alterá-lo para um CROSS JOIN(produto cartesiano completo) e, em seguida, adicionar uma WHEREcláusula como:WHERE ((s.name = t.name) OR (s.name is null and t.name is null)) AND ((s.city = t.city) OR (s.city is null and t.city is null))
Adam Parkin
55
 SELECT name, city, count(*) as qty 
 FROM stuff 
 GROUP BY name, city HAVING count(*)> 1
Sunnny
fonte
10

Algo assim resolverá. Não sei sobre desempenho, então faça alguns testes.

select
  id, name, city
from
  [stuff] s
where
1 < (select count(*) from [stuff] i where i.city = s.city and i.name = s.name)
ssarabando
fonte
6

O uso count(*) over(partition by...)fornece um meio simples e eficiente de localizar repetições indesejadas, ao mesmo tempo que lista todas as linhas afetadas e todas as colunas desejadas:

SELECT
    t.*
FROM (
    SELECT
        s.*
      , COUNT(*) OVER (PARTITION BY s.name, s.city) AS qty
    FROM stuff s
    ) t
WHERE t.qty > 1
ORDER BY t.name, t.city

Enquanto as versões mais recentes de RDBMS suportam count(*) over(partition by...) MySQL V 8.0 introduziu "funções de janela", como visto abaixo (no MySQL 8.0)

CREATE TABLE stuff(
   id   INTEGER  NOT NULL
  ,name VARCHAR(60) NOT NULL
  ,city VARCHAR(60) NOT NULL
);
INSERT INTO stuff(id,name,city) VALUES 
  (904834,'jim','London')
, (904835,'jim','London')
, (90145,'Fred','Paris')
, (90132,'Fred','Paris')
, (90133,'Fred','Paris')

, (923457,'Barney','New York') # not expected in result
;
SELECT
    t.*
FROM (
    SELECT
        s.*
      , COUNT(*) OVER (PARTITION BY s.name, s.city) AS qty
    FROM stuff s
    ) t
WHERE t.qty > 1
ORDER BY t.name, t.city
    id | nome | cidade | qty
-----: | : --- | : ----- | -:
 90145 | Fred | Paris | 3
 90132 | Fred | Paris | 3
 90133 | Fred | Paris | 3
904834 | Jim | Londres | 2
904835 | Jim | Londres | 2

db <> fiddle aqui

Funções de janela. O MySQL agora suporta funções de janela que, para cada linha de uma consulta, realizam um cálculo usando linhas relacionadas a essa linha. Isso inclui funções como RANK (), LAG () e NTILE (). Além disso, várias funções de agregação existentes agora podem ser usadas como funções de janela; por exemplo, SUM () e AVG (). Para obter mais informações, consulte a Seção 12.21, “Funções da janela” .

Used_By_Already
fonte
3

Um pouco atrasado para o jogo neste post, mas achei essa forma bastante flexível / eficiente

select 
    s1.id
    ,s1.name
    ,s1.city 
from 
    stuff s1
    ,stuff s2
Where
    s1.id <> s2.id
    and s1.name = s2.name
    and s1.city = s2.city
MattD
fonte
2

Você tem que se juntar a si mesmo e combinar o nome e a cidade. Em seguida, agrupe por contagem.

select 
   s.id, s.name, s.city 
from stuff s join stuff p ON (
   s.name = p.city OR s.city = p.name
)
group by s.name having count(s.name) > 1
Anja
fonte
Falha no SQL Server: todas as colunas não agregadas devem estar em GROUP BY
gbn
0

Dada uma tabela de teste com 70 colunas e apenas 4 representando duplicatas, este código retornará as colunas ofensivas:

SELECT 
    COUNT(*)
    ,LTRIM(RTRIM(S.TransactionDate)) 
    ,LTRIM(RTRIM(S.TransactionTime))
    ,LTRIM(RTRIM(S.TransactionTicketNumber)) 
    ,LTRIM(RTRIM(GrossCost)) 
FROM Staging.dbo.Stage S
GROUP BY 
    LTRIM(RTRIM(S.TransactionDate)) 
    ,LTRIM(RTRIM(S.TransactionTime))
    ,LTRIM(RTRIM(S.TransactionTicketNumber)) 
    ,LTRIM(RTRIM(GrossCost)) 
HAVING COUNT(*) > 1

.

Don G.
fonte