O PSU é o culpado mais provável, o segundo culpado mais provável é a placa-mãe. A terceira possibilidade é algo estranho acontecendo com a fiação da sua casa ou algum cabo de extensão que você possa ter entre o computador e a tomada (por enquanto, verifique se o seu gabinete está conectado diretamente à tomada, se possível)
Há uma infinidade de coisas que podem estar dando errado, mas eu suspeito que os capacitores com defeito na PSU estão demorando essa quantidade enorme de tempo para se carregar em um estado operacional. Estou trabalhando no pressuposto de que todos os outros eletrônicos em sua casa funcionam bem após a restauração da energia.
Como drspa44, você poderia eliminar a falha na fonte de alimentação testando-a sem estar conectada a este computador específico (você pode conectá-la a outro computador ou usar o método recomendado) para simular uma queda de energia que você interrompe a energia da PSU e, em seguida, inicie o computador (ou dispositivo de teste) até que o computador (ou dispositivo) desligue completamente (os LEDs morrem) e a PSU seja drenada. Depois disso, é apenas uma questão de ligá-lo novamente (ou conectá-lo novamente) e ver o que acontece.
O que eu pessoalmente faria é tentar usar outra fonte de alimentação sem testar especificamente esta, se o mesmo resultado acontecer, é muito provável que o problema seja com sua placa-mãe ou com a instalação da fiação da sua casa (se for a última, você pode simplesmente tentar mover o computador para do outro lado da sua casa e veja se começa mais rápido lá)
É tudo o que consigo pensar nas informações fornecidas.