A40卡上的llama3和server.log性能缓慢。
llama3
vsmadaxz1#
根据服务器日志,这看起来像是从源代码本地构建的CUDA v12版本,而不是官方构建。我们能获取更多关于如何构建的信息吗?
1条答案
按热度按时间vsmadaxz1#
根据服务器日志,这看起来像是从源代码本地构建的CUDA v12版本,而不是官方构建。
我们能获取更多关于如何构建的信息吗?