promptflow [功能请求]无法在AzureOpenAI连接中传递头部信息,

ecr0jaav  于 4个月前  发布在  其他
关注(0)|答案(5)|浏览(54)

描述bug

在创建AzureOpenAI连接时,似乎无法传递头部信息。在Azure OpenAI示例位于Azure API Management后面的情况下,需要头部信息。

如何重现bug

重现此行为所需的步骤以及您可以多频繁地遇到此bug:

  1. 尝试在创建OpenAI客户端时传递一个头部信息

预期行为

我们应该能够在连接设置中传递头部信息。OpenAI 1.x库要求在初始化客户端时传递它。示例如下;

# Setting the auth headers
auth_headers = {
    ‘Ocp-Apim-Subscription-Key’: my_apim_sub_key,
    ‘Authorization’: f’Bearer {my_jwt_token}’
}

# Setting the Azure OpenAI client
azure_openai_client = AzureOpenAI(
   api_key = ‘null’,
   api_version = ‘2023-07-01-preview’,
   azure_endpoint = my_special_url,
   default_headers = auth_headers
)

# Calling Azure OpenAI
openai_response = azure_openai_client.chat.completions.create(
    model = ‘gpt-35-turbo-16k’,
    messages = my_messages
)

运行信息(请填写以下信息):

  • Promptflow包版本使用pf -v:[例如0.0.102309906]
  • 操作系统:[例如Ubuntu 20.04,Windows 11]
  • 使用python --version的Python版本:[例如python==3.10.12]
    其他上下文

在此问题上添加任何其他上下文。

s3fp2yjn

s3fp2yjn1#

你好,@rishabhsaha,这是已知的差距。AOAI连接以更好地支持OpenAI1.0仍在设计中。@luigiw提供帮助。

mum43rcc

mum43rcc2#

自从我在我正在进行的项目中看到类似的困难以来,我一直在关注这个问题。我尝试绕过它,使用自定义连接,但我认为我的配置设置是错误的。如果在这方面有任何建议,我愿意倾听!

jdg4fx2g

jdg4fx2g3#

你的自定义连接设置是否正常工作?你能分享一下你在这个问题上的操作吗?我一直无法使其正常工作。

smdncfj3

smdncfj34#

你好,我们发送这个友好的提醒是因为我们在30天内没有收到你的回复。我们需要更多关于这个问题的信息来帮助解决它。请务必给我们提供你的反馈。如果我们在7天内没有收到你的回复,问题将自动关闭。谢谢!

krugob8w

krugob8w5#

你们两个是否有自定义配置,以便向流输入发送头信息,更不用说连接了?

相关问题