Existem dois métodos, um mais confiável que o outro (embora ambos sejam muito bons).
Ponto-chave: quanto mais brilhante uma estrela, mais detalhes podemos ver em seu espectro - você pode pensar nela como capaz de ampliar o espectro mais para poder ver detalhes mais refinados. Isso também nos permite ver linhas mais fracas (nem todas as linhas espectrais são igualmente intensas).
Temos espectros de referência muito extensos de todos os elementos sob uma ampla variedade de condições; portanto, quando uma estrela é brilhante o suficiente, vemos muitas linhas espectrais e podemos correspondê-las aos espectros de referência. Como não existem dois elementos com espectros semelhantes, se você puder ver muitas linhas, não poderá confundir facilmente uma com a outra.
Quando você pode explicar quase todas as linhas no espectro de uma estrela por um conjunto plausível de elementos em abundância plausível e todos com o mesmo desvio para o vermelho, você tem uma correspondência muito, muito confiável e conhece com precisão o desvio para o vermelho do objeto.
Mas estrelas distantes (e galáxias) são muito fracas e, portanto, os espectros que obtemos são de resolução muito baixa e mostram apenas algumas das linhas espectrais mais fortes. Eles podem frequentemente ser correspondidos porque o hidrogênio é tão comum que as linhas mais fortes vistas são as linhas de hidrogênio e, mesmo que você consiga identificar apenas duas ou três delas, se elas mantiverem as mesmas posições relativas das linhas brilhantes de hidrogênio, é possível identificá-las com segurança e leia o desvio para o vermelho. Isso é menos confiável, mas ainda é confiável o suficiente para que raramente seja um problema.
Nos casos mais fracos, você pode ver apenas uma única linha. Você tem uma idéia muito aproximada do desvio para o vermelho do brilho do objeto e tudo o que pode fazer é assumir que é a linha de hidrogênio mais forte e ver se está aproximadamente na posição correta, dada a distância deduzida do tipo e brilho do objeto. Isso funciona também, mas ainda é menos confiável. (Grande parte do trabalho original do Hubble contava apenas com uma única linha para os objetos mais distantes, mas provou estar correta quando observada mais tarde com equipamentos dramaticamente melhores.)