Bug描述
按照教程创建了一个ReACT代理,
https://docs.llamaindex.ai/en/stable/examples/agent/react_agent_with_query_engine.html
在成功初始化索引后,代理代码无法运行,
response = agent.chat("What was Lyft's revenue growth in 2021?")
print(str(response))
出现错误,
AttributeError: 'Vertex' object has no attribute '_chat_client'
版本
llama-index-vertex (0.1.5)
重现步骤
按照教程创建了一个ReACT代理,
https://docs.llamaindex.ai/en/stable/examples/agent/react_agent_with_query_engine.html
在成功初始化索引后,代理代码无法运行,
response = agent.chat("What was Lyft's revenue growth in 2021?")
print(str(response))
相关日志/回溯
Getting error as,
AttributeError: 'Vertex' object has no attribute '_chat_client'
2条答案
按热度按时间pdsfdshx1#
嘿,@fahadsuhaib,好久不见!希望你在所有的代码和混乱中过得很好。😄
感谢你提供详细的信息。你看到的错误消息
AttributeError: 'Vertex' object has no attribute '_chat_client'
表明Vertex
对象试图访问一个不存在的属性_chat_client
。LlamaIndex Vertex版本0.1.5中的
Vertex
类确实有一个_chat_client
属性,它根据提供给Vertex
类的模型类型进行初始化。如果模型被识别为聊天模型,那么将从vertexai.language_models
分配一个ChatModel
或CodeChatModel
示例到_chat_client
。如果模型是支持聊天和代码生成的Gemini模型,那么将为_chat_client
分配一个由create_gemini_client
函数创建的客户端。_chat_client
用于诸如chat
、stream_chat
和achat
之类的方法来生成聊天回复。这些方法涉及准备来自聊天消息的输入、通过_chat_client
调用适当的模型以及处理模型的输出以创建一个ChatResponse
。考虑到这一点,你遇到的错误可能是由以下原因之一引起的:
Vertex
类的模型不是聊天模型或Gemini模型。在这种情况下,当调用chat
方法时,AttributeError
属性将不会被初始化。请确保您正在使用的模型支持聊天交互。Vertex
对象的问题。请确保正确使用必要的参数(包括模型类型)初始化Vertex
对象。如果上述解决方案都不起作用,能否请你提供更多关于您正在使用的模型以及初始化
Vertex
对象的确切代码的信息?这将有助于确定问题的确切原因。来源
关于Dosu
此响应旨在帮助您节省时间并提高效率。它不是精确的解决方案,而是您自己研究的起点。
帮助我变得更有用!如果你觉得这个有帮助就请点赞,如果没有就请点反对。
如果你想继续对话,请用@dosu-bot作为你的回复开头。
pieyvz9o2#
你正在使用的顶点模型没有提供聊天界面。
这可能在代码中更好地处理。但是,我也会选择一个具有聊天界面的模型
llama_index/llama-index-integrations/llms/llama-index-llms-vertex/llama_index/llms/vertex/base.py
第81行 434de44
| | ifmodelinCHAT_MODELS: |