gpt-2 公开编程式REST API

roqulrg3  于 6个月前  发布在  其他
关注(0)|答案(1)|浏览(96)

我想知道是否有一种方法可以为条件生成器公开某种API。我不擅长Python,我不认为用Expect库 Package 是正确的方法。此外,理想情况下,允许将\n个字符放入模型的输入中,因为我认为现在如果你使用回车符,它会把它当作一个单独的输入。正确的格式对于一些东西来说是至关重要的,比如诗歌,列表,等等。有人知道一些代码来公开一个API吗?我没有看到任何在代码本身,我也没有看到任何关于这方面的问题。谢谢。

sd2nnvve

sd2nnvve1#

你可以看看https://github.com/minimaxir/gpt-2-simple,它也有通过API公开的建议。
要添加\n个字符,您可以通过将新行编码为唯一分隔符来微调模型,然后可以根据推断对其进行解码,就像TL:DR一样;用于提示摘要。

相关问题