Bug描述
在运行这里的示例时，我遇到了一个异常，抛出了 ImportError:
ImportError: 使用 `bitsandbytes` 8位量化需要 Accelerate: `pip install accelerate`,并需要 bitsandbytes 的最新版本：`bitsandbytes`重现步骤
重现此行为的步骤如下：
- 转到 '...'
- 点击 '....'
- 滚动到底部 '....'
- 查看错误
- 警告和其他日志：
- 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 使用
bitsandbytes8位量化需要 Accelerate:pip install accelerate,并需要 bitsandbytes 的最新版本：pip install -i https://pypi.org/simple/ bitsandbytes,重试中... - 加载大型语言模型...
- 在 "/Users/robertheise/Documents/SD/kh-accel/ge-llm.py"(第287行)处引发了异常。具体错误为 File "/Users/robertheise/Documents/SD/kh-accel/venv/lib/python3.10/site-packages/ludwig/api.py", line ...
2条答案
按热度按时间njthzxwz1#
你好，@robhheise - 我在这个笔记本中没有看到任何错误堆栈跟踪。你能运行它并包括你看到的错误吗？这样我们就可以采取下一步的故障排除措施了。如果有意义的话，我很乐意一起做这件事。此外，虽然我们只包括在发布时运行的代码，但当各种依赖库不断发展时，有时会出现新的问题。如果你遇到这种情况，请提交一个问题，我们会很高兴地看一下(理想情况下是一起看！)。非常感谢。
evrscar22#
@robhheise ,我在个人的Google Colab账户中运行了这个notebook。没有遇到任何问题。我停止了第一个和第二个微调任务，清除了内存(你可以看到那些单元格),然后完全运行了第三个(最好的)。请注意，我没有取消注解任何单元格——我只是按照它们所写的运行。我以前也这样做过(当比赛结果被评判时),那时候也没有问题，现在也没有。你能尝试在我描述的相同条件下再次运行它吗？看看你能否复制我的结果？非常感谢！