keras 使用GPU训练ResNet模型时发现OMM错误

hgc7kmma 于 2022-11-13 发布在其他

关注(0)|答案(1)|浏览(115)

我正在NVidia GeForce GTX 1050 ti上使用4GB训练ResNet，图像大小为512x320，使用6作为批处理大小，这不是很好。
它显示以下错误：
(1) Resource exhausted: OOM when allocating tensor with shape[6,128,256,160] and type float on /job:localhost/replica:0/task:0/device:GPU:0 by allocator GPU_0_bfc
我试图理解Tensor参数，第一个（6）显然是历元的数量，第三个和最后一个（256，160）是图像的维数除以2。
我很困惑，有没有可能GPU没有使用整个内存？

keras

来源：https://stackoverflow.com/questions/64682534/finding-an-omm-error-while-training-a-resnet-model-using-gpu