欢迎找我内推微软

TensorFlow训练MNIST报错ResourceExhaustedError

在最后测试的一步报错:

ResourceExhaustedError (see above for traceback): OOM when allocating tensor

搜索了一下才知道是GPU显存不足(emmmm....)造成的,可以把最后测试的那行代码改为将测试集分成几个小部分分别测试最后再求精度的平均值:

accuracy_sum = tf.reduce_sum(tf.cast(correct_prediction, tf.float32))
good = 0
total = 0
for i in range(10):
    testSet = mnist.test.next_batch(50)
    good += accuracy_sum.eval(feed_dict={ x: testSet[0], y_: testSet[1], keep_prob: 1.0})
    total += testSet[0].shape[0]
print ("test accuracy %g"%(good/total))
posted @ 2018-12-26 17:46  zmj97  阅读(533)  评论(1编辑  收藏  举报
欢迎找我内推微软