Bug描述
在运行这里的示例时,我遇到了一个异常,抛出了 ImportError:
ImportError: 使用 `bitsandbytes` 8位量化需要 Accelerate: `pip install accelerate`,并需要 bitsandbytes 的最新版本:`bitsandbytes`
重现步骤
重现此行为的步骤如下:
- 转到 '...'
- 点击 '....'
- 滚动到底部 '....'
- 查看错误
- 警告和其他日志:
- 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 使用
bitsandbytes
8位量化需要 Accelerate:pip install accelerate
,并需要 bitsandbytes 的最新版本:pip install -i https://pypi.org/simple/ bitsandbytes
,重试中... - 加载大型语言模型...
- 在 "/Users/robertheise/Documents/SD/kh-accel/ge-llm.py"(第287行)处引发了异常。具体错误为 File "/Users/robertheise/Documents/SD/kh-accel/venv/lib/python3.10/site-packages/ludwig/api.py", line ...
2条答案
按热度按时间njthzxwz1#
你好,@robhheise - 我在这个笔记本中没有看到任何错误堆栈跟踪。你能运行它并包括你看到的错误吗?这样我们就可以采取下一步的故障排除措施了。如果有意义的话,我很乐意一起做这件事。此外,虽然我们只包括在发布时运行的代码,但当各种依赖库不断发展时,有时会出现新的问题。如果你遇到这种情况,请提交一个问题,我们会很高兴地看一下(理想情况下是一起看!)。非常感谢。
evrscar22#
@robhheise ,我在个人的Google Colab账户中运行了这个notebook。没有遇到任何问题。我停止了第一个和第二个微调任务,清除了内存(你可以看到那些单元格),然后完全运行了第三个(最好的)。请注意,我没有取消注解任何单元格——我只是按照它们所写的运行。我以前也这样做过(当比赛结果被评判时),那时候也没有问题,现在也没有。你能尝试在我描述的相同条件下再次运行它吗?看看你能否复制我的结果?非常感谢!