A placa GTX não pode usar sua RAM e, de qualquer forma, não ajudaria, pois é muito lenta - a RAM do sistema DDR3 não é tão rápida quanto a GDDR5 da sua GPU e também adiciona latência.
A Nvidia suporta SLI definido como:
Atualize seu equipamento com uma segunda GPU NVIDIA GeForce GTX para habilitar o SLI, o turbocompressor de sistema preferido para jogadores, que permite que os títulos favoritos de todos sejam reproduzidos nas resoluções de tela mais altas com todas as configurações no máximo. O NVIDIA SLI suporta o uso de até 4 GPUs e, graças ao FCAT, o SLI é certificado pela imprensa independente como rápido, suave e responsivo.
O SLI funcionará compartilhando quadros entre as duas GPUs, uma renderizando os quadros ímpares enquanto o outro faz os quadros pares.
No entanto, comprar um segundo GTX apenas para usar o SLI, sem garantia de que ele realmente funcione no seu computador, me parece uma má idéia.
Prefiro aconselhá-lo a comprar uma GPU nova e melhor. A GTX 1070 é uma placa maravilhosa que aceita todos e quaisquer videogames. Basta verificar primeiro os requisitos de energia desta besta, tendo em vista o seu PSU, bem como os conectores de alimentação da placa-mãe disponíveis.