spaCy 一个句子的语言模型得分(困惑度得分)

rkttyhzu  于 5个月前  发布在  其他
关注(0)|答案(3)|浏览(45)

你好

感谢这个漂亮的工作。@honnibal 我对使用预训练的语言模型来计算一个句子的困惑度分数很感兴趣。有没有办法使用这个仓库实现这个功能?

谢谢

2hh7jdfx

2hh7jdfx1#

很遗憾,我们目前还没有这个功能。我希望在未来的版本中能提供它。

qvk1mo1f

qvk1mo1f2#

关于这个有任何更新吗?

yshpjwxd

yshpjwxd3#

解:通过GPT-2计算困惑度是可能的,而像BERT这样的有遮掩语言模型(MLM)无法计算。在MLM的情况下,我们应该考虑其他指标。我认为伪困惑度是其中一个解决方案。

相关问题