Paddle Aistudio Notebook模型部署存在bug

emeijp43  于 5个月前  发布在  其他
关注(0)|答案(8)|浏览(57)

问题描述 Please describe your issue

Aistudio Notebook 中的模型部署存在bug。当模型输出是List[Tensor],即多个tensor组成的列表时,会报错 too many values to unpack (expected 1) 。原因如下:
在/home/work/serving/src/business_service.py 中 有一行代码 infer_results, = infer_with_executor_by_dict(model_name, feed) 。此行代码存在bug,该行代码调用了 定义在/home/work/serving/src/infer_service.py 中的infer_with_executor_by_dict函数,该函数的核心是outputs = executor.run(inference_program, feed=feed, fetch_list=fetch_targets, return_numpy=False) 。当 模型的输出 是一个list的时候, infer_results, 这样的解包赋值 会导致 too many values to unpack (expected 1) 报错,建议立马修复。只需要把``infer_results, ` 中的逗号去掉。
python 代码 a, = [1]可以赋值,a, = [1, 2, 3] 会报错。

ryoqjall

ryoqjall1#

您好,我们已经收到了您的问题,会安排技术人员尽快解答您的问题,请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时,您也可以通过查看 官网API文档常见问题历史IssueAI社区 来寻求解答。祝您生活愉快~

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the APIFAQGithub Issue and AI community to get the answer.Have a nice day!

ig9co6j1

ig9co6j12#

您好,可以提供更详细一些的部署工具说明吗?是使用的 PaddleServing 吗?

vohkndzv

vohkndzv3#

您好,可以提供更详细一些的部署工具说明吗?是使用的 PaddleServing 吗?

你好,使用的是aistudio notebook自带的模型部署。详见: https://ai.baidu.com/ai-doc/AISTUDIO/bk3e382cq

x7rlezfr

x7rlezfr4#

您好,已反馈给相关同学跟进处理,感谢支持。

wqnecbli

wqnecbli5#

您好,请提供该项目的项目链接, 我们进行问题排查。

eiee3dmh

eiee3dmh7#

应该是上面说的这个
https://ai.baidu.com/ai-doc/AISTUDIO/bk3e382cq

这个是文档链接哈~

ktca8awb

ktca8awb8#

您好,请提供该项目的项目链接, 我们进行问题排查。

你们随便制作一个输出不是单个张量的模型就可以复现了。例如这样的网络。

class Net(nn.Layer):
    .......
    def forward(self, x):
        .......
        return y1, y2, y3

当然,我这里可以提供一个项目 https://aistudio.baidu.com/aistudio/projectdetail/3926820 ,这个项目是yolov5 nano模型的复现。你们直接在这个项目的模型部署中可以看到一个inference失败的实例。这个实例的输入是一张图片的base64编码字符串,输出是3个张量。因为多于一个张量,所以会报错too many values unpack。

这个不是paddlepaddle的问题,是Aistudio Notebook这个功能代码中的bug。具体的原因我已经帮你们定位好了,就如我问题描述的一样。

相关问题