gpt-2 从LM中提取表示

qlvxas9a  于 5个月前  发布在  其他
关注(0)|答案(2)|浏览(151)

你好,
是否可以使用当前版本的代码从语言模型中提取特征?
例如,给定一个字符串,如“the cow goes moo”,我们可以提取一个向量用于下游NLP任务吗?
谢谢

xxb16uws

xxb16uws1#

没有一种简单明了的方法来编码一个句子,但这是一个很好的研究领域!我可以想象尝试很多东西(结合每个位置的嵌入,用一个新的头部进行微调等)。我对现有的文献不太熟悉,所以其他人应该插话

w9apscun

w9apscun2#

有什么发现吗?我们能提取出句子“the cow goes moo”的表示吗

相关问题