É uma prática recomendada comprar discos RAID individualmente vs. em massa?

Pode parecer uma pergunta estranha, mas gerou uma discussão animada com alguns de meus colegas. Considere uma matriz RAID de tamanho médio que consiste em algo como oito ou doze discos. Ao comprar o lote inicial de discos ou comprar substituições para aumentar a matriz ou atualizar o hardware, há duas abordagens gerais que você pode adotar:

1. Compre todas as unidades em um pedido de um fornecedor e receba uma caixa grande contendo todos os discos.
2. Faça o pedido de um disco de vários fornecedores e / ou distribua (por um período de dias ou semanas) vários pedidos de um disco.

Há um meio termo, obviamente, mas essas são as principais mentalidades opostas. Fiquei realmente curioso sobre qual abordagem é mais sensata em termos de redução do risco de falha catastrófica da matriz. (Vamos definir que "25% dos discos falham dentro de uma janela de tempo igual a quanto tempo leva para resilver a matriz uma vez".) A lógica é que, se todos os discos vierem do mesmo local, eles podem ter o mesmo defeitos subjacentes à espera de atacar. O mesmo timebomb com a mesma contagem regressiva inicial no relógio, se você preferir.

Reuni alguns dos prós e contras mais comuns de cada abordagem, mas alguns deles parecem conjecturas e instintos em vez de dados concretos baseados em evidências.

Compre tudo de uma vez, profissionais

• Menos tempo gasto na fase de pesquisa / pedidos.
• Minimiza o custo de envio se o fornecedor cobrar por isso.
• É garantido que os discos tenham a mesma versão de firmware e as mesmas "peculiaridades" em suas características operacionais (temperatura, vibração etc.)
• Aumentos de preços / falta de estoque dificultam o andamento do projeto.
• Cada próximo disco estará disponível no momento em que for necessário ser instalado.
• Todos os números de série são conhecidos antecipadamente; os discos podem ser instalados no gabinete em ordem crescente de número de série. Parece excessivamente exigente, mas algumas pessoas parecem valorizar isso. (Acho que a interface de gerenciamento classifica os discos pelo número de série, em vez da ordem das portas de hardware ...?)

Compre tudo de uma vez, contras

• Todos os discos (provavelmente) vieram da mesma fábrica, fabricados ao mesmo tempo, dos mesmos materiais. Eles foram armazenados no mesmo ambiente e sujeitos aos mesmos possíveis abusos durante o transporte. Qualquer defeito ou dano presente em um provavelmente está presente em todos.
• Se as unidades estiverem sendo substituídas uma a uma por vez em uma matriz existente e cada novo disco precisar ser resilversado individualmente, poderá levar semanas até que o último disco do pedido seja instalado e descoberto com defeito. A janela de devolução / substituição com o fornecedor pode expirar durante esse período.
• Não é possível aproveitar as reduções de preço no futuro próximo que podem ocorrer durante o projeto.

Comprar individualmente, profissionais

• Se um disco falhar, ele compartilhará muito pouco histórico de fabricação / trânsito com qualquer um dos outros discos. Se a falha foi causada por algo na fabricação ou no trânsito, a causa raiz provavelmente não ocorreu em nenhum outro disco.
• Se um disco estiver morto na chegada ou falhar durante as primeiras horas de uso, isso será detectado logo após a remessa chegar e o processo de devolução poderá ser mais tranquilo.

Compre individualmente, contras

• Leva um tempo significativo para encontrar fornecedores suficientes com preços agradáveis. O rastreamento de pedidos, falha na entrega, devoluções de itens danificados e outros problemas podem levar tempo para serem resolvidos.
• Custos de envio potencialmente mais altos.
• Existe uma possibilidade muito real de que um novo disco será necessário, mas nenhum estará disponível, paralisando o projeto.
• Benefício imaginado. Independentemente do fornecedor ou da data da compra, todos os discos vieram do mesmo local e são realmente iguais. Defeitos de fabricação teriam sido detectados pelo controle de qualidade e discos abaixo do padrão não teriam sido vendidos. Os danos no transporte teriam que ser tão flagrantes (e claramente visíveis a olho nu) que as unidades danificadas seriam óbvias ao desembalar.

Se vamos simplesmente pela contagem de pontos, o "buy in bulk" ganha com bastante clareza. Mas alguns dos profissionais são fracos, e alguns dos contras são fortes. Muitos dos pontos de bala simplesmente indicam o inverso lógico de alguns dos outros. Algumas dessas coisas podem ser superstições absurdas. Mas se a superstição fizer um trabalho melhor em manter a integridade da matriz, acho que estaria disposto a segui-la.

Qual grupo é mais sensato aqui?

ATUALIZAÇÃO: Eu tenho dados relevantes para esta discussão. A última matriz que construí pessoalmente (cerca de quatro anos atrás) tinha oito discos. Encomendei a um único fornecedor, mas dividi a compra em dois pedidos de quatro discos cada, com aproximadamente um mês de intervalo. Um disco da matriz falhou nas primeiras horas de execução. Era do primeiro lote e a janela de devolução desse pedido havia fechado no tempo necessário para girar tudo.

Quatro anos depois, os sete discos originais e uma substituição ainda estão funcionando sem erros. (bata na madeira.)

Na prática, as pessoas que compram de fornecedores corporativos (HPE, Dell etc.) não se preocupam com isso .

As unidades fornecidas por esses fornecedores já estão espalhadas por vários fabricantes com o mesmo número de peça.

Um disco HP em um SKU específico pode ser HGST ou Seagate ou Western Digital.

Mesmo número de peça HP, variação no fabricante, número do lote e firmware

Você não deve tentar enganar / superar a probabilidade de falha do lote. Você pode tentar se isso lhe dá tranqüilidade, mas pode não valer a pena.

Boas práticas como armazenamento em cluster, replicação e backups sólidos são a proteção real para falhas de lote. Adicione peças quentes e frias. Monitore seus sistemas de perto. Tire proveito de sistemas de arquivos inteligentes como o ZFS :)

E lembre-se, as falhas no disco rígido nem sempre são mecânicas ...

Em deferência à resposta do ewwhite, alguns administradores de sistema fazem pedidos em lotes. Eu nunca encomendaria unidades individualmente, mas as operações padrão no último local em que trabalhei com essa capacidade foram encomendar unidades em lotes. Para uma máquina com doze unidades, o SOP determinou que as unidades fossem divididas em três lotes, fornecendo à máquina um perfil de redundância de três camadas.

No entanto, outras roupas pequenas que eu consultei seguiram protocolos diferentes, alguns não preocupados com o lote e outros dividindo lotes em duas ou quatro matrizes. A resposta curta é fazer o que parecer apropriado para o nível de serviço que você precisa alcançar.

Nota lateral: O último lugar em que trabalhei foi certamente fazer a coisa certa. A máquina de armazenamento de aplicativos decidiu falhar em um lote inteiro de unidades e descobrimos que esse lote específico apresentava a mesma falha. Se não tivéssemos seguido um protocolo em lote, teríamos sofrido uma perda catastrófica de dados.

Resposta honesta de alguém que passou muito tempo lidando com matrizes mortais e unidades difíceis: Não tenha todas as unidades do mesmo lote, se puder evitá-las.

Minha experiência se aplica apenas a discos giratórios, os SSDs têm seus próprios problemas e benefícios a serem considerados ao fazer pedidos em massa.

Exatamente a melhor maneira de lidar com as coisas depende principalmente do tamanho da matriz com a qual você está trabalhando, se estiver trabalhando com algo como 6 matrizes de unidades com 2 redundâncias, provavelmente poderá comprar com segurança unidades semelhantes de 3 fabricantes e dividir a matriz Curtiu isso.

Se você estiver usando uma unidade estranha ou estiver trabalhando com matrizes que não podem ser facilmente particionadas dessa maneira, tente outras abordagens, como comprar a mesma unidade de diferentes fornecedores ou, se estiver comprando em massa, poderá ver e tente separar as unidades com base na probabilidade de serem fabricadas juntas.

Se você estiver executando uma matriz pequena o suficiente com a tecnologia subjacente correta, pode valer a pena construí-la de forma incremental a partir de suprimentos de disco heterogêneos. Comece com o número mínimo de unidades com as quais você pode se safar e compre o próximo suprimento um mês ou dois depois, ou quando encher o sistema. Isso também permite que você tenha uma idéia de quaisquer problemas que possam existir com os modelos específicos que você escolheu.

A razão por trás deste conselho é uma combinação de duas peculiaridades de unidades.

1. O MTBF é notavelmente quebrado quando você tem muitas unidades com origens semelhantes. Nas estatísticas, chamaríamos isso de viés de amostragem, devido à semelhança em suas amostras, os efeitos da média tenderão a ser menos úteis. Se houver uma falha no lote ou mesmo no próprio design, e isso acontecer com mais frequência do que você imagina, as unidades desse lote falharão mais cedo do que o MTBF sugeriria.

   Se as unidades estiverem espalhadas, você poderá obter [50%, 90%, 120%, 200%] de MTBF, mas se todas as unidades vierem desse lote de 50%, você terá uma bagunça nas mãos.

2. A remontagem da matriz de ataque mata discos. Não mesmo. Se você tiver uma falha na unidade e a matriz for reconstruída, isso sobrecarregará as outras unidades enquanto varre os dados. Se você tiver uma unidade próxima à falha, a reconstrução poderá removê-la ou ela já poderá ter um local de falha que você simplesmente não sabia, porque essa seção não havia sido lida recentemente.

   Se você tiver muitas unidades do mesmo lote, as chances de ocorrer esse tipo de falha em cascata são muito maiores do que as chances, se forem diferentes. Você pode atenuar isso realizando varreduras regulares de patrulhas, scrubs, resilvering, qualquer que seja a prática recomendada para o tipo de matriz que você está usando, mas a desvantagem disso é que ela afetará o desempenho e poderá levar horas para ser concluída.

Para algum contexto sobre o quão variada a longevidade das unidades varia, o Backblaze faz um relatório estatístico de falha de unidade regularmente ... Não sou afiliado à empresa de forma alguma, mas eles devem saber do que estão falando sobre o assunto da confiabilidade da unidade . Um exemplo é https://www.backblaze.com/blog/hard-drive-failure-rates-q1-2017/ ... seu conjunto de amostras provavelmente será menor, portanto, os dados externos podem atrapalhar sua própria experiência, ainda é uma boa referência

Eu tive que considerar esse problema para um cliente alguns anos atrás. Tenho uma combinação de experiência prática e pesquisa para fazer backup da recomendação de várias fontes.

Deixando de lado seus prós e contras no momento, bem como a excelente resposta da ewwhite , a prudência sugere que, se você estiver comprando as unidades, você as fornecerá de várias fontes. Uma rápida olhada na discussão da Wikipedia sobre os pontos fracos do RAID aponta para duas referências interessantes.

A primeira referência é o RAID em papel ACM : armazenamento secundário confiável e de alto desempenho (Chen, Lee, Gibson, Katz e Patterson. ACM Computing Surveys. 26: 145-185). Na seção 3.4.4, os autores apontam que as falhas de hardware nem sempre são eventos estatisticamente independentes e apresentam os motivos. No momento em que escrevo esta resposta, o artigo está disponível online; As páginas 19-22 discutem a confiabilidade ( http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.41.3889 ).

A segunda referência são as falhas de disco no mundo real: o que um MTTF de 1.000.000 horas significa para você? (Schroeder, Gibson. 5ª Conferência USENIX sobre tecnologias de arquivo e armazenamento.) Os autores apresentam dados estatísticos para fazer backup da afirmação de que as falhas na unidade podem ser agrupadas no tempo a uma taxa maior do que o previsto para eventos independentes. No momento em que escrevo esta resposta, este documento também está disponível online ( https://www.usenix.org/legacy/events/fast07/tech/schroeder/schroeder_html/index.html ).

A Dell recomendou explicitamente o RAID 5 em 2012 por causa de falhas de disco correlacionadas em grandes ambientes de disco; Prevê-se que o RAID 6 se torne confiável por razões semelhantes em torno de 2019 (um artigo da ZDNet intitulado "por que-raid-6-para-de-trabalhar-em-2019": http://www.zdnet.com/article/why-raid-6 -para-trabalhar-em-2019 / ). Embora um elemento-chave seja o tamanho do disco e o tempo de reconstrução, tamanhos menores de unidades e multisourcing foram recomendados como atenuantes do problema do RAID 5.

Então, sim, multi-fonte as unidades, se puder; se você estiver comprando de um fornecedor corporativo, conforme descrito na resposta da ewwhite, isso pode estar acontecendo de maneira transparente. No entanto ... meu cliente comprou 16 unidades de 2 TB de um fornecedor corporativo. Eles eram do mesmo fabricante e pareciam ser fabricados ao mesmo tempo. Duas das unidades falharam duas semanas após a configuração das matrizes RAID01. Portanto, verifique as unidades quando obtê-las. (Você já os verifica de qualquer maneira, certo?)

Outra desvantagem potencial para solicitar unidades individualmente é o empacotamento e o manuseio.

Os discos rígidos quase nunca são fornecidos em embalagens de varejo. Se você comprá-los um de cada vez, eles certamente serão reembalados pelo vendedor. Eu encontrei esse reembalagem por altamente variável. Às vezes, você recebe uma bela caixa com muito preenchimento, mas outras vezes quase não recebe nenhum preenchimento.

Uma caixa menor também é mais vulnerável a ser jogada pelas transportadoras sem danos externos óbvios.

Se você estiver tentando atenuar o cenário "lote ruim", o que significa que todas as unidades de um lote de compra específico podem / falharão quase ao mesmo tempo, também é importante considerar o tamanho da matriz e o nível de RAID usado.

Se você considerar fazer vários pedidos, nenhum padrão definido é aplicável em todos os aspectos. As pessoas que recomendam 2 a 4 camadas de compra devem se perguntar: se uma camada inteira de unidades falhar, a matriz ainda estará on-line? Portanto, para níveis de RAID de redundância como 1/5/10/50, você teria que comprar unidades 1 de cada vez. Para o RAID6, você pode comprar 2 de cada vez.

Eu recomendaria, independentemente de como você compra as unidades que você faz backup regularmente e compra peças quentes / frias adequadas para o tamanho da matriz e o tipo de RAID.

Eu sempre compro usado / a granel. Os pedidos que acompanho são quase sempre o mesmo modelo de dispositivo e, pelo menos, é usado para atenuar a preocupação com um "lote ruim". Há tanto hardware à venda na Internet que é difícil justificar a compra de novas unidades (ou qualquer outra coisa), a menos que seja para hardware de missão crítica (e todo o nosso hardware de backup ainda esteja sendo restaurado!)

+ PRO: preços competitivos on-line e a inundação constante de hardware dos ambientes de negócios em constante mudança significa que não é preciso quase nenhum esforço para obter de 50 a 80% de desconto no varejo devido à atração do ambiente de trabalho.

+ PRO: O preço baixo do preço libera o orçamento para a compra em excesso e mantém um estoque sólido de hardware de substituição.

+ PRO: Relações com o vendedor Eu tenho um punhado de vendedores on-line que obtêm pequenos descontos do desconto já considerável para hardware usado / recondicionado. Normalmente, isso não acontece com a Monoprice, a menos que você compre em grande quantidade ou tenha um SLA com eles. Além disso, especialmente com discos rígidos, certifique-se de testá-los imediatamente. Nunca tive um problema com um vendedor que não reembolsou ou substituiu o hardware DOA (a menos que fosse uma fraude que não consegui detectar).

-CON: Garantia, problemas de legitimidade A garantia é baseada na data de fabricação do dispositivo, você também precisará ficar atento aos huksters on-line que tentam vender suas marcas, clones etc.

-CON: Teste Precisa levar em consideração a sobrecarga do teste. Independentemente disso, você também deve testar hardware novo, para não ter certeza se isso se aplica.

-CON: tempo de vida difícil de julgar; um pouco mais suscetível a falhas no disco.

Nota: se é uma compilação do cliente e eles não solicitam explicitamente recondicionamento / usado, sempre por brilhante / novo!

É possível obter mais confiabilidade usando discos rígidos provenientes de diferentes lotes e, idealmente, fabricantes. Caso contrário, eles podem falhar muito perto no tempo. A excelente resposta de @Eliodorus explica isso o suficiente.

Obviamente, não importa quem embaralha as unidades. Se o seu provedor confirmar isso já é necessário, não há necessidade de se preocupar. No entanto, não parece razoável fazer algum forense em um provedor talvez até diferente e concluir que alguém faz por você se não lhe for informado diretamente. Os fornecedores geralmente não têm preguiça de anunciar várias medidas que tomam para aumentar a confiabilidade de suas unidades.

Na verdade, depende do nível de matriz redundante de discos baratos (RAID). No Raid dois, três, quatro, cinco e seis, ajuda ter unidades de vários lotes diferentes, mas não é decisivo: um já perde inerentemente a confiabilidade e o desempenho ao usar esses níveis.

Agora, para a escolha geralmente sã, a de usar o Raid 1 (espelhamento) ou 1 + 0 (distribuir espelhos), é realmente útil ter unidades diferentes em lados diferentes de cada espelho (cada matriz do Raid 1), para o espelho falhou durante uma recuperação. Além disso, deve haver peças quentes para minimizar a janela de recuperação.

Para obter mais informações, consulte o site de batalha contra qualquer invasão 'F'2 (Baarf), informativo, pela prestigiada rede de mesas de DBAs seniores da Oak . A Wikipedia também resume bem a questão.

Tanto quanto sei, a verificação da qualidade do armazenamento em disco na fábrica é bastante alta e, pessoalmente, não teria medo de uma falha de hardware em massa devido a razões de fabricação.

E se eu fosse um pouco paranóico, compraria armazenamento de dois fabricantes diferentes que sei que não compartilham fábricas, através do mesmo fornecedor.

O armazenamento é tão barato, que não faz sentido como empresa NÃO comprar a granel, e você também cancelará o armazenamento depois de alguns anos, para que o investimento não seja tão grande. O tempo que leva para comprar de fornecedores individuais provavelmente custa mais devido ao tempo gasto.

Se você ainda tiver medo de falha no disco em massa, compre mais do que precisa. se você precisar de 12 discos, compre 5 a 7 em reposição. Isso seria apenas US $ 48 vezes 5 a 7, por terabyte, e ainda podemos ficar mais baratos sem tornar nosso sistema instável ou inseguro, porque se houver desconto em discos a granel ou em segunda mão (por que é seguro). Do que falamos em resilver / reinicializar a matriz, agora é claro que não tenho como saber o tamanho da sua solução de armazenamento, mas se você passar semanas nessa tarefa, provavelmente consideraria reconfigurar o armazenamento organizacional, pois isso soa (para mim) mais como uma configuração perdida do que qualquer outra coisa, de uma maneira ou de outra.

Se ficarmos REALMENTE paranóicos, obtenha 2x do que a solução de armazenamento que você estiver executando, com base na sensibilidade da sua organização a um colapso do armazenamento, isso pode ser mais barato, mas essa não é apenas uma opção para as empresas da Fortune 500.

E também podemos falar sobre o carregamento de dados que não precisamos aqui e agora, como (exemplo aleatório) anos de dados financeiros históricos para "colocar em nuvem" os fornecedores que primeiro criptografamos. Isso removerá as necessidades de armazenamento de nosso próprio armazenamento, que nos libertarão financeira ou funcionalmente.

Com base em quem você é, onde está e o que faz, seriam soluções diferentes para melhor trabalhar para você.