动机是在推理过程中实时应用ReFT表示,这可以批量完成。这比应用LoRA快得多。
LoRA太慢了,因为它需要添加适配器权重,这会增加操作次数。
请参阅 stanfordnlp/pyreft#63
5kgi1eie1#
作为Pyreft的用户,我想强调选择子空间到一个假设的PyreftRequest的需求(参见stanfordnlp/pyreft#63(评论))。
whlutmcx2#
这个有什么进展吗?
2条答案
按热度按时间5kgi1eie1#
作为Pyreft的用户,我想强调选择子空间到一个假设的PyreftRequest的需求(参见stanfordnlp/pyreft#63(评论))。
whlutmcx2#
这个有什么进展吗?