langchain HuggingFaceEndpoint 端点URL验证错误

9gm1akwq  于 5个月前  发布在  其他
关注(0)|答案(4)|浏览(55)

检查其他资源

  • 为这个问题添加了一个非常描述性的标题。
  • 使用集成搜索在LangChain文档中进行了搜索。
  • 使用GitHub搜索查找了类似的问题,但没有找到。
  • 我确信这是LangChain中的一个bug,而不是我的代码。
  • 通过更新到LangChain的最新稳定版本(或特定集成包)无法解决此bug。

示例代码

from langchain_huggingface import ChatHuggingFace,HuggingFaceEndpoint

os.environ['HUGGINGFACEHUB_API_TOKEN'] = 'xxxxxxxxx'
llm = HuggingFaceEndpoint(
                repo_id="microsoft/Phi-3-mini-4k-instruct",
                task="text-generation",
                max_new_tokens=512,
                do_sample=False,
                repetition_penalty=1.03,
            )

错误信息和堆栈跟踪(如果适用)

Traceback (most recent call last):
File "/Users/mac/langchain/test.py", line 18, in
llm = HuggingFaceEndpoint(
File "/opt/anaconda3/envs/langchain/lib/python3.9/site-packages/pydantic/v1/main.py", line 341, in init
raise validation_error
pydantic.v1.error_wrappers.ValidationError: 1个验证错误,针对HuggingFaceEndpoint

没有找到endpoint_url,请添加一个包含它的环境变量HF_INFERENCE_ENDPOINT,或者将endpoint_url作为命名参数传递。(类型=值错误)

描述

我正在尝试初始化HuggingFaceEndpoint,但是尽管提供了正确的repo_id,我还是遇到了错误。我已经确定了这个bug:即使提供了repo_id,HuggingFaceEndpoint验证仍然会检查endpoint_url,这是不正确的。如果传递了repo_id,它不应该检查endpoint_url。我将为此问题创建一个PR来修复。

系统信息

软件包信息

langchain_core: 0.2.24
langchain: 0.2.11
langchain_community: 0.2.10
langsmith: 0.1.93
langchain_text_splitters: 0.2.0
langchainhub: 0.1.17

mi7gmzs6

mi7gmzs61#

问题仅在设置了HF_INFERENCE_ENDPOINT环境变量时出现吗?

xt0899hw

xt0899hw2#

为什么不使用Huggingface Hub?我在使用hub时没有看到这个错误。

ct3nt3jp

ct3nt3jp3#

问题:这个问题只在你设置了HF_INFERENCE_ENDPOINT环境变量时发生吗?
答案:不是,在任何情况下都可能发生。

7gcisfzg

7gcisfzg4#

问题是否仅在设置了HF_INFERENCE_ENDPOINT环境变量时出现?

不,无论何时都会出现。

你是否有huggingface-hub?尝试使用huggingface-hub:0.24.2和langchain-huggingface:0.0.3,同时检查pydantic兼容性。我使用的是pydantic:2.8.2、pydantic_core:2.20.1,它运行正常。请确保令牌在huggingface设置中有正确的配置。

相关问题