llama.cpp 错误:python3 convert.py [Errno 2] 没有这样的文件或目录

41zrol4v  于 5个月前  发布在  Python
关注(0)|答案(2)|浏览(61)

发生了什么?
我按照LangChain文档在本地安装LLAMA,但遇到了以下错误:
Langchain-doc-link
请注意,我使用的是一台配备Intel i7 iRISXe处理器和32GB RAM的华硕笔记本电脑。

名称和版本

版本:3408 ( 1bdd8ae )
使用cc(Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0构建,适用于x86_64-linux-gnu

您在哪个操作系统上看到问题?

Linux

相关日志输出

python3 convert.py --outfile models/7B/gguf-llama2-f16.bin --outtype f16 ../../llama2/llama/llama-2-7b --vocab-dir ../../llama2/llama/llama-2-7b
python3: can't open file '/home/myname/Documents/Perso/side-project/ai/models/llama2/llama.cpp/convert.py': [Errno 2] No such file or directory
wsewodh2

wsewodh21#

另一个改名的突破

ercv8c1e

ercv8c1e2#

convert.py脚本已被弃用,不再推荐使用。尽管它仍然可以在examples/convert_legacy_llama.py上找到,但只支持Llama 2之前的模型。对于最新的、推荐的量化过程,请参考文档:
https://github.com/ggerganov/llama.cpp/blob/master/examples/quantize/README.md
此更新指南提供了关于Llama模型的最新量化方法和工具的信息,包括对Llama 3、Gemma 2等较新版本的支持。

相关问题