Paddle paddle serving 构造输入如果有lod变量,应该如何构造,

0s0u357o  于 2021-11-29  发布在  Java
关注(0)|答案(6)|浏览(247)

背景是plato model,如下:
PaddlePaddle/Serving#1202

其中有几个输入是lod tensor,比如tgt_pos、init_score。
我想咨询的是,构造这个输入的时候,直接用np.array还是要构造一个tgt_pos.lod的东西。跟以下例子类似。
https://hub.fastgit.org/PaddlePaddle/Serving/blob/05373909e109a38f37b3654e8872b2791c80b0be/python/examples/lac/lac_client.py

nwsw7zdq

nwsw7zdq1#

您好,我们已经收到了您的问题,会安排技术人员尽快解答您的问题,请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时,您也可以通过查看官网API文档常见问题历史IssueAI社区来寻求解答。祝您生活愉快~

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the APIFAQGithub Issue and AI community to get the answer.Have a nice day!

y1aodyip

y1aodyip2#

可以在训练那一测看一下有没有lod,如果有的话 是需要组件 lod的, 列表就可以

bttbmeg0

bttbmeg03#

训练测是有lod的

mdfafbf1

mdfafbf14#

可以直接搬过来

htrmnn0y

htrmnn0y5#

https://hub.fastgit.org/PaddlePaddle/Serving/blob/05373909e109a38f37b3654e8872b2791c80b0be/python/examples/lac/lac_client.py
这个我是看不到训练代码的,我只能从下载的model生成的client的config看出来inference的输入是有lod的。

而我在处理的问题,plato的代码,只是在训练的时候定义了几个feed是LOD类型的。目前我在serving的输入的feed_dict补充了几个.lod的变量,不知道这个方向对不对。

目前报这个错误。

检查了一下是
int_lod_slot_batch和float_lod_slot_batch的问题,

我把里面的元素转成一维数组,会出core

qjp7pelc

qjp7pelc6#

训练端的lod 是level-2的,我看文档中说serving只支持lod是level-1的。是不是意味着这个问题暂时无解了。
或者说plato实现就不能用level-2的LOD了。

相关问题