Paddle 1.如何冻结参数 2.如何截取参数

e0uiprwp  于 2022-10-20  发布在  其他
关注(0)|答案(3)|浏览(208)

1.如何在训练过程中冻结参数,求给一个示例

2.我们save_params的参数格式是16 * 768,如何截取前2 * 768个参数并重新save成相同格式?

x8diyxa7

x8diyxa71#

1.您指的冻结参数是指停止梯度回传吗?这里有一个示例。
2.paddle目前暂不支持这种操作哈

jucafojl

jucafojl2#

哇,为什么会有16 * 768的网络层参数呀,是用在什么地方的,好奇

93ze6v8z

93ze6v8z3#

哇,为什么会有16 * 768的网络层参数呀,是用在什么地方的,好奇

poly-encoder

相关问题