Encontre registros duplicados no MongoDB

Como eu encontraria campos duplicados em uma coleção mongo.

Gostaria de verificar se algum dos campos "nome" está duplicado.

{
    "name" : "ksqn291",
    "__v" : 0,
    "_id" : ObjectId("540f346c3e7fc1054ffa7086"),
    "channel" : "Sales"
}

Muito Obrigado!

Use a agregação namee obtenha namecom count > 1:

db.collection.aggregate(
    {"$group" : { "_id": "$name", "count": { "$sum": 1 } } },
    {"$match": {"_id" :{ "$ne" : null } , "count" : {"$gt": 1} } }, 
    {"$project": {"name" : "$_id", "_id" : 0} }
)

Para classificar os resultados do máximo para o mínimo duplicado:

db.collection.aggregate(
    {"$group" : { "_id": "$name", "count": { "$sum": 1 } } },
    {"$match": {"_id" :{ "$ne" : null } , "count" : {"$gt": 1} } }, 
    {"$sort": {"count" : -1} },
    {"$project": {"name" : "$_id", "_id" : 0} }     
)

Para usar com outro nome de coluna diferente de "nome", altere " $ name " para " $ column_name "

Você pode encontrar o listde duplicatenomes usando o seguinte aggregatepipeline:

• Grouptodos os registros tendo similar name.
• Matchaqueles groupscom registros maiores que 1.
• Em seguida, groupnovamente para projecttodos os nomes duplicados como um array.

O código:

db.collection.aggregate([
{$group:{"_id":"$name","name":{$first:"$name"},"count":{$sum:1}}},
{$match:{"count":{$gt:1}}},
{$project:{"name":1,"_id":0}},
{$group:{"_id":null,"duplicateNames":{$push:"$name"}}},
{$project:{"_id":0,"duplicateNames":1}}
])

o / p:

{ "duplicateNames" : [ "ksqn291", "ksqn29123213Test" ] }

A resposta que anhic deu pode ser muito ineficiente se você tiver um grande banco de dados e o nome do atributo estiver presente apenas em alguns dos documentos.

Para melhorar a eficiência, você pode adicionar um $ match à agregação.

db.collection.aggregate(
    {"$match": {"name" :{ "$ne" : null } } }, 
    {"$group" : {"_id": "$name", "count": { "$sum": 1 } } },
    {"$match": {"count" : {"$gt": 1} } }, 
    {"$project": {"name" : "$_id", "_id" : 0} }
)

db.getCollection('orders').aggregate([  
    {$group: { 
            _id: {name: "$name"},
            uniqueIds: {$addToSet: "$_id"},
            count: {$sum: 1}
        } 
    },
    {$match: { 
        count: {"$gt": 1}
        }
    }
])

Primeiro Grupo Consulte o grupo de acordo com os campos.

Em seguida, verificamos o Id único e o contamos. Se a contagem for maior que 1, o campo será duplicado em toda a coleção de forma que essa coisa seja tratada pela consulta $ match.