quivr [功能]:增加环境变量以覆盖Openai Api基本URL,

yquaqz18  于 2个月前  发布在  其他
关注(0)|答案(5)|浏览(48)

功能

增加环境变量以覆盖Openaide API基本URL
示例:

动机,宣传

在某些地区,直接使用OpenAI是不可能的,而是使用私有代理。代理服务器提供的API格式与OpenAI相同。通过提供环境变量来覆盖API基本URL,可以帮助他们进行使用。谢谢。

Twitter/LinkedIn详细信息

  • 无响应*
o7jaxewo

o7jaxewo1#

  • 🤖*

根据提供的上下文,似乎Quivr当前没有内置功能来使用环境变量覆盖OpenAI API基本URL。然而,从技术上讲,这是可以实现的。
以下是一个简单的示例,说明如何实现这个功能:

const { overwriteEnvValuesWith } = require('path-to-getProcessEnvManager');

overwriteEnvValuesWith({
  OPENAI_API_BASE_URL: 'https://your-proxy-url.com',
});

在这个示例中, OPENAI_API_BASE_URL 是OpenAI API基本URL的环境变量, 'https://your-proxy-url.com' 是您的私有代理的URL。您将用实际的代理URL替换 'https://your-proxy-url.com'
请注意,这只有在使用OpenAI API的应用程序尊重 OPENAI_API_BASE_URL 环境变量时才能工作。如果它不这样做,您需要修改应用程序,在向OpenAI API发出请求时使用此环境变量。
这只是个基本示例,实际实现可能会因应用程序的结构和要求而有所不同。如果您需要更具体的指导,请提供有关您的应用程序以及您目前如何使用OpenAI API的更多详细信息。
要了解更多信息,请参阅Quivr存储库中的 getProcessEnvManager.ts 文件。
希望这有所帮助!如果您有任何其他问题,请随时提问。

参考资料

此响应旨在节省您的时间并提供帮助。它不是精确解决方案,而是您自己研究的起点。
帮助我变得更有用!如果这有帮助,请留下一个👍,如果无关紧要,请留下一个👎。
如果您想继续对话,请以@dosu-bot开始您的回复。

lkaoscv7

lkaoscv75#

我需要这个,这样我就可以将Quivr指向由vLLM提供的OSS模型。有任何计划将其直接添加到Quivr中吗?

相关问题