你好,是否可以使用当前版本的代码从语言模型中提取特征?例如,给定一个字符串,如“the cow goes moo”,我们可以提取一个向量用于下游NLP任务吗?谢谢
xxb16uws1#
没有一种简单明了的方法来编码一个句子,但这是一个很好的研究领域!我可以想象尝试很多东西(结合每个位置的嵌入,用一个新的头部进行微调等)。我对现有的文献不太熟悉,所以其他人应该插话
w9apscun2#
有什么发现吗?我们能提取出句子“the cow goes moo”的表示吗
2条答案
按热度按时间xxb16uws1#
没有一种简单明了的方法来编码一个句子,但这是一个很好的研究领域!我可以想象尝试很多东西(结合每个位置的嵌入,用一个新的头部进行微调等)。我对现有的文献不太熟悉,所以其他人应该插话
w9apscun2#
有什么发现吗?我们能提取出句子“the cow goes moo”的表示吗