Paddle embedding is_sparse == True 后,fp16/amp bp 时会挂掉

tzcvj98z  于 2021-11-30  发布在  Java
关注(0)|答案(0)|浏览(219)

 1)PaddlePaddle版本:问题存在所有版本里,我使用的是 paddle2.0 alpha 发行版、GPU 运行
 

  • 问题描述:

embedding is_sparse 后,梯度是 SELECTED_ROWS 类型

代码

在使用 fp16/amp 模式下,梯度需要通过 castop 转换 fp16/fp32,该 op 不支持 SELECTED_ROWS 类型

运行时,报错如下:

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题