描述bug
在创建AzureOpenAI连接时,似乎无法传递头部信息。在Azure OpenAI示例位于Azure API Management后面的情况下,需要头部信息。
如何重现bug
重现此行为所需的步骤以及您可以多频繁地遇到此bug:
- 尝试在创建OpenAI客户端时传递一个头部信息
预期行为
我们应该能够在连接设置中传递头部信息。OpenAI 1.x库要求在初始化客户端时传递它。示例如下;
# Setting the auth headers
auth_headers = {
‘Ocp-Apim-Subscription-Key’: my_apim_sub_key,
‘Authorization’: f’Bearer {my_jwt_token}’
}
# Setting the Azure OpenAI client
azure_openai_client = AzureOpenAI(
api_key = ‘null’,
api_version = ‘2023-07-01-preview’,
azure_endpoint = my_special_url,
default_headers = auth_headers
)
# Calling Azure OpenAI
openai_response = azure_openai_client.chat.completions.create(
model = ‘gpt-35-turbo-16k’,
messages = my_messages
)
运行信息(请填写以下信息):
- Promptflow包版本使用
pf -v
:[例如0.0.102309906] - 操作系统:[例如Ubuntu 20.04,Windows 11]
- 使用
python --version
的Python版本:[例如python==3.10.12]
其他上下文
在此问题上添加任何其他上下文。
5条答案
按热度按时间s3fp2yjn1#
你好,@rishabhsaha,这是已知的差距。AOAI连接以更好地支持OpenAI1.0仍在设计中。@luigiw提供帮助。
mum43rcc2#
自从我在我正在进行的项目中看到类似的困难以来,我一直在关注这个问题。我尝试绕过它,使用自定义连接,但我认为我的配置设置是错误的。如果在这方面有任何建议,我愿意倾听!
jdg4fx2g3#
你的自定义连接设置是否正常工作?你能分享一下你在这个问题上的操作吗?我一直无法使其正常工作。
smdncfj34#
你好,我们发送这个友好的提醒是因为我们在30天内没有收到你的回复。我们需要更多关于这个问题的信息来帮助解决它。请务必给我们提供你的反馈。如果我们在7天内没有收到你的回复,问题将自动关闭。谢谢!
krugob8w5#
你们两个是否有自定义配置,以便向流输入发送头信息,更不用说连接了?