Paddle AI Studio上使用GPU进行预测的自动重启问题

tpxzln5u  于 2021-11-30  发布在  Java
关注(0)|答案(2)|浏览(750)

为使您的问题得到快速解决,在建立Issue前,请您先通过如下方式搜索是否有相似问题:【搜索issue关键字】【使用labels筛选】【官方文档】

如果您没有查询到相似问题,为快速解决您的提问,建立issue时请提供如下细节信息:

  • 标题:AI Studio上使用GPU进行预测的自动重启问题

代码和日志.zip

  • 版本、环境信息:

   1)PaddlePaddle版本:PaddlePaddle 1.8.0
   2)CPU:-
   3)GPU:v100
   4)系统环境:AI Studio,Python版本:3.7

-预测信息

 4)预测库来源:官网下载/特殊环境(如BCLOUD编译)

  • 复现信息:无任何报错
  • 问题描述:在 AI Studio 上使用 seq2seq 模型,用 GPU 训练没有问题,但是预测的时候,没几个 batch 后 AI Studio 就自动重启,改用 CPU 就没有问题。反馈后 RD 表示这个他们解决不了,是 Paddle 的底层问题,需要到这里来提交 issue。附件是代码和日志截图

代码和日志.zip

wz3gfoph

wz3gfoph1#

预测建议使用预测接口(需要保证paddle版本1.7以及以上)。

请参考:
https://paddle-inference.readthedocs.io/en/latest/introduction/quick_start.html

rjee0c15

rjee0c152#

我尝试了使用,但是简单的网络结构参照案例可以实现
但是在实际运用到一个 NLP 任务中的时候,由于网络结构很复杂,我不确定是否使用正确了
出现了如下报错,是不是没有找到变量名的意思?我该去哪里找这个名字呢?

我在程序里面是这么写的:

相关问题