O Keras com back-end Tensorflow pode ser forçado a usar CPU ou GPU à vontade?

Eu tenho o Keras instalado com o back-end Tensorflow e CUDA. Às vezes, eu gostaria de forçar Keras a usar a CPU. Isso pode ser feito sem dizer instalar um Tensorflow separado apenas de CPU em um ambiente virtual? Se sim, como? Se o backend fosse Theano, os sinalizadores poderiam ser definidos, mas eu não ouvi falar dos sinalizadores do Tensorflow acessíveis via Keras.

Se você quiser forçar Keras a usar CPU

Caminho 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

antes de importar o Keras / Tensorflow.

Caminho 2

Execute seu script como

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Veja também

1. https://github.com/keras-team/keras/issues/152
2. https://github.com/fchollet/keras/issues/4613

Uma maneira bastante separável de fazer isso é usar

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Aqui, com booleans GPUe CPU, indicamos se gostaríamos de executar nosso código com a GPU ou CPU, definindo rigidamente o número de GPUs e CPUs que a sessão do Tensorflow pode acessar. As variáveis num_GPUe num_CPUdefinem este valor. num_coresem seguida, define o número de núcleos de CPU disponíveis para uso via intra_op_parallelism_threadse inter_op_parallelism_threads.

A intra_op_parallelism_threadsvariável determina o número de threads que uma operação paralela em um único nó no gráfico de computação pode usar (intra). Enquanto a inter_ops_parallelism_threadsvariável define o número de threads acessíveis para operações paralelas entre os nós do gráfico de computação (inter).

allow_soft_placement permite que as operações sejam executadas na CPU se qualquer um dos seguintes critérios forem atendidos:

1. não há implementação de GPU para a operação

2. não há dispositivos GPU conhecidos ou registrados

3. há uma necessidade de co-localizar com outras entradas da CPU

Tudo isso é executado no construtor da minha classe antes de qualquer outra operação e é completamente separável de qualquer modelo ou outro código que eu uso.

Nota: Isso requer tensorflow-gpue cuda/ cudnndeve ser instalado porque a opção é fornecida para usar uma GPU.

Refs:

• O que significam as opções em ConfigProto, como allow_soft_placement e log_device_placement?

• Significado de inter_op_parallelism_threads e intra_op_parallelism_threads

Isso funcionou para mim (win10), coloque antes de importar keras:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Basta importar tensortflow e usar keras, é muito fácil.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

De acordo com o tutorial do keras , você pode simplesmente usar o mesmo tf.deviceescopo do tensorflow regular:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Acabei de passar algum tempo descobrindo. A resposta de Thoma não está completa. Diga que seu programa étest.py , você deseja usar gpu0 para executar este programa e manter outros gpus livres.

Você deveria escrever CUDA_VISIBLE_DEVICES=0 python test.py

Observe que DEVICESnão éDEVICE

Para pessoas que trabalham no PyCharm e para forçar a CPU, você pode adicionar a seguinte linha na configuração Executar / Depurar, em Variáveis ​​de ambiente:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1