Processos de picagem e computadores sem resposta

Eu tenho um processo em execução em uma máquina. As máquinas são 6-core hyperthreaded para um total efetivo de 12 núcleos e o processo leva 400% da cpu para 4 núcleos.

Eu escolhi o processo para +19 para uma prioridade de 39, mas mesmo assim, muitas vezes, o computador não responde devido a esse processo.

Eu pensei que o nicho efetivamente faria o processo usar apenas os ciclos de reposição no computador? Existe uma maneira de fazer um processo usar apenas os ciclos sobressalentes e ainda ter o agendador dando um certo tempo a todos os outros processos para que o computador não pare de responder?

Edit: O programa usa apenas ~ 18% de memória, então eu não acho que é um problema de troca. O sistema operacional é Red Hat 6.5 e o processador é Xeon W3670