嘿，@mw19930312!很高兴再次看到你深入研究CitationQueryEngine的细节。😄我记得我们上次在这里的头脑 Storm 会议；总是很高兴帮助一个知识寻求者。我会帮你解开引用生成的谜团，只需一会儿！

节点被标记为 source 1, source 2, etc. ,然后LLM会提示它引用了哪些来源。

请告诉我LLM提示在哪里？我只是想知道如何传递引用URL(如果有的话)。另外，如果我理解正确的话，节点是通过元数据转换模板格式化为以下格式的，对吗？
[source 1]
context:
metadata:
xxx: xxx
url: url

@logan-markewich ^^

在 CitationQueryEngine 中，提示 LLM 引用的步骤包括几个关键步骤：

1. 检索和格式化节点:首先，从向量索引中检索节点，并将其格式化为引用来源。每个节点都分配一个标签(例如，source 1、source 2),其中包括上下文和任何相关元数据，如 URL。这是通过引擎内的检索和格式化机制实现的，其中节点的元数据用于为 LLM 创建详细上下文。
2. 合成响应:将格式化的节点与引用提示模板一起传递给 LLM。此模板指示 LLM 如何将引用纳入其响应，引导它根据分配的标签引用来源。该过程确保 LLM 生成的最终响应包含对提供的来源的引用，使清晰了解响应的哪些部分由哪些来源支持。
3. 元数据和 URL:在引用节点中包含 URL 和其他元数据的控制权由 metadata_mode 参数控制。这意味着当节点转换为引用来源时，它们的元数据(包括 URL)可以根据 metadata_mode 中指定的设置进行格式化和包含。这允许以灵活的方式处理引用的详细程度，包括直接在响应中引用 URL 的可能性。
   这种方法确保 LLM 的最终响应不仅信息丰富，而且准确地引用了其所使用的来源，提供了一条清晰可追踪的原始信息路径。

细节

来源

• llama-index-core/llama_index/core/query_engine/citation_query_engine.py
• llama-index-core/llama_index/core/schema.py
• llama-index-legacy/llama_index/legacy/schema.py
• docs/docs/examples/metadata_extraction/MetadataExtractionSEC.ipynb
• llama-index-legacy/llama_index/legacy/query_engine/citation_query_engine.py
• llama-index-legacy/tests/postprocessor/test_metadata_replacement.py
• llama-index-legacy/llama_index/legacy/response_synthesizers/google/generativeai/base.py
• llama-index-legacy/llama_index/legacy/indices/struct_store/sql_retriever.py
• llama-index-legacy/llama_index/legacy/postprocessor/metadata_replacement.py
  关于 Dosu

此响应旨在方便您并节省时间。它不是 精确解决方案,而是您自己研究的起点。
帮助我变得更有用！如果这有帮助请留下一个👍，如果无关请留下一个👎。

• 要继续对话，请提及 @dosu。*

@mw19930312
prompt:
llama_index/llama-index-core/llama_index/core/query_engine/citation_query_engine.py
Line 32 in 287c3df
| | CITATION_QA_TEMPLATE=PromptTemplate( |
code entry point:
llama_index/llama-index-core/llama_index/core/query_engine/citation_query_engine.py
Line 266 in 287c3df
| | nodes=self._create_citation_nodes(nodes) |