quivr [Bug]: 知识文章没有被使用

goqiplq2 于 6个月前发布在其他

关注(0)|答案(6)|浏览(80)

发生了什么？
我最终使用ollama/lama2设置了Quivr,并添加了许多关于疟疾的pdf文件。然而，当我提问时，它似乎对我添加到大脑中的来源一无所知。当我询问有关疟疾的问题时，它使用我认为是基础LLM的知识来回答，但当我要求显示来源时，它只是回应说没有。是否有最低文档数量要求？我希望它只使用我给它的文档进行回答。我不想让它使用一般知识进行回答。
相关日志输出

worker        | [2024-04-24 14:43:30,527: INFO/ForkPoolWorker-1] HTTP Request: POST http://host.docker.internal:54321/rest/v1/vectors?columns=%22content%22%2C%22embedding%22%2C%22metadata%22%2C%22id%22 "HTTP/1.1 400 Bad Request"
worker        | [ERROR] packages.embeddings.vectors [vectors.py:23]: Error creating vector for document {'code': '22000', 'details': None, 'hint': None, 'message': 'expected 1536 dimensions, not 4096'}
worker        | [2024-04-24 14:43:30,533: WARNING/ForkPoolWorker-1] Error processing file: 'NoneType' object is not iterable
worker        | [2024-04-24 14:43:30,542: INFO/ForkPoolWorker-1] HTTP Request: PATCH http://host.docker.internal:54321/rest/v1/notifications?id=eq.40538142-6bb4-4a28-9f36-e5e84029b6c4 "HTTP/1.1 200 OK"
worker        | [2024-04-24 14:43:30,551: INFO/ForkPoolWorker-1] HTTP Request: PATCH http://host.docker.internal:54321/rest/v1/brains?brain_id=eq.678c3ece-377f-46b3-9c82-e2dd67715796 "HTTP/1.1 200 OK"
worker        | [2024-04-24 14:43:30,552: INFO/ForkPoolWorker-1] Task process_file_and_notify[96451d30-c937-40bc-8fbc-fd3636f9b6b4] succeeded in 58.662878985000134s: True

Twitter / LinkedIn详细信息

无响应*

quivr

来源：https://github.com/QuivrHQ/quivr/issues/2486

6条答案

按热度按时间

yhxst69z1#

听起来Quivr没有利用您添加的文档回答问题的问题可能与ollama/lama2集成的配置有关。请确保在.env文件中正确设置OLLAMA_API_BASE_URL,因为它需要取消注解并提供正确的URL以便正确启用集成。这一步对于Quivr使用您添加的用于检索增强生成的文档至关重要。
Quivr没有指定必须使用的最少文档数量来运行。只要文档格式正确且可访问，系统就应该使用您添加的文档。请确保您的疟疾PDF的结构可以作为输入直接提供给系统。每个文档的内容都应该是自包含的，并且可以单独理解，遵循DEFAULT_DOCUMENT_PROMPT模板格式。
Quivr从与给定大脑ID关联的文档中生成来源列表，而不明确地将某些来源优先于其他来源。它以不同的方式处理URL和文件路径，确保每个来源都是唯一的且可访问的。如果您的文档格式正确，且ollama/lama2集成已正确配置，Quivr应该能够使用它们来回答问题。
如果您已经确认了这些设置，但仍然遇到问题，那么再次检查特定的配置和格式可能是值得的，或者进一步研究Quivr如何根据文档源管理和回答问题。

详细信息

来源

此响应旨在帮助您节省时间并提高效率。它不是精确解决方案,而是您自己研究的起点。
请帮助我变得更有用！如果这有帮助，请留下一个👍，如果无关紧要，请留下一个👎。

要继续对话，请提及@dosu。*

赞(0）回复(0）举报 6个月前

5fjcxozz2#

问题是文档没有正确嵌入，因为你使用了Ollama :/
请删除表中的所有数据并重新开始。

赞(0）回复(0）举报 6个月前

t9eec4r03#

那么我不能使用Ollama吗？

赞(0）回复(0）举报 6个月前

hjqgdpho4#

看起来向量不匹配，定义的模式类似于：

-- 创建向量表
CREATE TABLE IF NOT EXISTS vectors (
 id UUID DEFAULT uuid_generate_v4() PRIMARY KEY,
 content TEXT,
 file_sha1 TEXT,
 metadata JSONB,
 embedding VECTOR(1536)
);

但是生成的向量大小为4096。

赞(0）回复(0）举报 6个月前

kx5bkwkv5#

你可以使用以下语句来修改表

alter table vectors alter column embedding type vector(4096);

赞(0）回复(0）举报 6个月前

4jb9z9bj6#

调整向量维度，在开始supabase之前或重命名后运行迁移。
另请参阅#2690。

赞(0）回复(0）举报 6个月前

我来回答

quivr [Bug]: 知识文章没有被使用

6条答案

详细信息

相关问题

热门标签

最新问答