例行检查
你的版本
问题描述, 日志截图
复现步骤
预期结果
相关截图
mzsu5hc01#
会报错,是不是不支持转发llama3
q3aa05252#
会报错,是不是不支持转发llama3?有可能。curl测试测试就知道了。
hc2pp10m3#
试了直接curl镜像容器接口,stream为true有返回值;curl oneapi的接口3001,stream为true就没有返回值了,这是不是不正常啊?有啥日志能看返回值在哪里被搞没了吗?
tag5nh1u4#
相同的问题。当使用oneapi进行中转时,如果stream参数设置为true,没有返回值,且oneapi也没有报错信息。但是,如果将stream参数设置为false,则可以正常响应。
4条答案
按热度按时间mzsu5hc01#
会报错,是不是不支持转发llama3
q3aa05252#
会报错,是不是不支持转发llama3?
有可能。curl测试测试就知道了。
hc2pp10m3#
试了直接curl镜像容器接口,stream为true有返回值;curl oneapi的接口3001,stream为true就没有返回值了,这是不是不正常啊?有啥日志能看返回值在哪里被搞没了吗?
tag5nh1u4#
相同的问题。当使用oneapi进行中转时,如果stream参数设置为true,没有返回值,且oneapi也没有报错信息。但是,如果将stream参数设置为false,则可以正常响应。