如何生成超过最大令牌限制的GPT-3完成

icnyk63a  于 2023-04-07  发布在  其他
关注(0)|答案(1)|浏览(220)

我想问是否有一种方法可以正确使用OpenAI API来生成完整的响应,即使在最大令牌限制之后。我使用的是官方的OpenAI python包,但无法找到任何方法在GPT-3(text-davinci-003)中复制,因为它不支持聊天界面。
我的代码是这样的

response = openai.Completion.create(

        model="text-davinci-003",

        prompt=prompt,

        max_tokens=2049-len(prompt)

      )

      text = response.choices[0].text.strip()
0x6upsns

0x6upsns1#

要继续对话,请使用“继续”命令或复制几行并要求从那里继续。对于脚本,代码或其他内容,请将其分解为较小的部分并单独发布。

相关问题