发生了什么?
我最终使用ollama/lama2设置了Quivr,并添加了许多关于疟疾的pdf文件。然而,当我提问时,它似乎对我添加到大脑中的来源一无所知。当我询问有关疟疾的问题时,它使用我认为是基础LLM的知识来回答,但当我要求显示来源时,它只是回应说没有。是否有最低文档数量要求?我希望它只使用我给它的文档进行回答。我不想让它使用一般知识进行回答。
相关日志输出
worker | [2024-04-24 14:43:30,527: INFO/ForkPoolWorker-1] HTTP Request: POST http://host.docker.internal:54321/rest/v1/vectors?columns=%22content%22%2C%22embedding%22%2C%22metadata%22%2C%22id%22 "HTTP/1.1 400 Bad Request"
worker | [ERROR] packages.embeddings.vectors [vectors.py:23]: Error creating vector for document {'code': '22000', 'details': None, 'hint': None, 'message': 'expected 1536 dimensions, not 4096'}
worker | [2024-04-24 14:43:30,533: WARNING/ForkPoolWorker-1] Error processing file: 'NoneType' object is not iterable
worker | [2024-04-24 14:43:30,542: INFO/ForkPoolWorker-1] HTTP Request: PATCH http://host.docker.internal:54321/rest/v1/notifications?id=eq.40538142-6bb4-4a28-9f36-e5e84029b6c4 "HTTP/1.1 200 OK"
worker | [2024-04-24 14:43:30,551: INFO/ForkPoolWorker-1] HTTP Request: PATCH http://host.docker.internal:54321/rest/v1/brains?brain_id=eq.678c3ece-377f-46b3-9c82-e2dd67715796 "HTTP/1.1 200 OK"
worker | [2024-04-24 14:43:30,552: INFO/ForkPoolWorker-1] Task process_file_and_notify[96451d30-c937-40bc-8fbc-fd3636f9b6b4] succeeded in 58.662878985000134s: True
Twitter / LinkedIn详细信息
- 无响应*
6条答案
按热度按时间yhxst69z1#
听起来Quivr没有利用您添加的文档回答问题的问题可能与ollama/lama2集成的配置有关。请确保在
.env
文件中正确设置OLLAMA_API_BASE_URL
,因为它需要取消注解并提供正确的URL以便正确启用集成。这一步对于Quivr使用您添加的用于检索增强生成的文档至关重要。Quivr没有指定必须使用的最少文档数量来运行。只要文档格式正确且可访问,系统就应该使用您添加的文档。请确保您的疟疾PDF的结构可以作为输入直接提供给系统。每个文档的内容都应该是自包含的,并且可以单独理解,遵循
DEFAULT_DOCUMENT_PROMPT
模板格式。Quivr从与给定大脑ID关联的文档中生成来源列表,而不明确地将某些来源优先于其他来源。它以不同的方式处理URL和文件路径,确保每个来源都是唯一的且可访问的。如果您的文档格式正确,且ollama/lama2集成已正确配置,Quivr应该能够使用它们来回答问题。
如果您已经确认了这些设置,但仍然遇到问题,那么再次检查特定的配置和格式可能是值得的,或者进一步研究Quivr如何根据文档源管理和回答问题。
详细信息
来源
关于Dosu
此响应旨在帮助您节省时间并提高效率。它不是精确解决方案,而是您自己研究的起点。
请帮助我变得更有用!如果这有帮助,请留下一个👍,如果无关紧要,请留下一个👎。
5fjcxozz2#
问题是文档没有正确嵌入,因为你使用了Ollama :/
请删除表中的所有数据并重新开始。
t9eec4r03#
那么我不能使用Ollama吗?
hjqgdpho4#
看起来向量不匹配,定义的模式类似于:
但是生成的向量大小为4096。
kx5bkwkv5#
你可以使用以下语句来修改表
4jb9z9bj6#
调整向量维度,在开始supabase之前或重命名后运行迁移。
另请参阅#2690。