我想知道是否有一种方法可以为条件生成器公开某种API。我不擅长Python,我不认为用Expect库 Package 是正确的方法。此外,理想情况下,允许将\n个字符放入模型的输入中,因为我认为现在如果你使用回车符,它会把它当作一个单独的输入。正确的格式对于一些东西来说是至关重要的,比如诗歌,列表,等等。有人知道一些代码来公开一个API吗?我没有看到任何在代码本身,我也没有看到任何关于这方面的问题。谢谢。
sd2nnvve1#
你可以看看https://github.com/minimaxir/gpt-2-simple,它也有通过API公开的建议。要添加\n个字符,您可以通过将新行编码为唯一分隔符来微调模型,然后可以根据推断对其进行解码,就像TL:DR一样;用于提示摘要。
1条答案
按热度按时间sd2nnvve1#
你可以看看https://github.com/minimaxir/gpt-2-simple,它也有通过API公开的建议。
要添加\n个字符,您可以通过将新行编码为唯一分隔符来微调模型,然后可以根据推断对其进行解码,就像TL:DR一样;用于提示摘要。