在#8052中讨论
原帖由hodge-jai于2024年7月21日发布
你好，
我在尝试使用HuggingFace上的专用推理端点时遇到了一个问题。我不确定错误出在哪里，因为我确实确认将文档列表传递给了组件。嵌入器初始化得很好，但当我运行它时，我收到了一个400 Bad Request错误。
document_embedder = HuggingFaceAPIDocumentEmbedder(
api_type="inference_endpoints",
api_params={"url": "<my_dedicated_endpoint"},
token=Secret.from_token(HF_TOKEN),
batch_size=32
)
documents = [Document(content="My name is Wolfgang and I live in Berlin"),
Document(content="I saw a black horse running"),
Document(content="Germany has many big cities")]
document_embedder.run(documents=documents)返回
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/home/ragstackapp/fast_api/IndexingPipeline.py", line 130, in <module>
pool.map(index_html_files, chunks)
File "/usr/lib/python3.10/multiprocessing/pool.py", line 367, in map
return self._map_async(func, iterable, mapstar, chunksize).get()
File "/usr/lib/python3.10/multiprocessing/pool.py", line 774, in get
raise self._value
huggingface_hub.utils._errors.BadRequestError: (Request ID: HOp5U9)
Bad request:
list indices must be integers or slices, not str不知道这是否是Haystack或HuggingFace的问题，所以如果有人能提供指导，我会非常感激！
1条答案
按热度按时间t5zmwmid1#
你好，@hodge-jai。我尝试了我们文档页面上的代码示例：https://docs.haystack.deepset.ai/docs/huggingfaceapidocumentembedder#using-free-serverless-inference-api,它对我有效。
(只是需要将doc_embedder重命名为document_embedder,为此我创建了一个问题 here )。
所以你描述的Bad Request错误似乎仅限于付费推理端点和
api_type="inference_endpoints"。我会检查我们是否可以在下一个冲刺中进一步调查。这可能是HuggingFace方面的问题 https://github.com/huggingface/huggingface_hub 。