mlc-llm Android MLCChat失败，[Bug]

9gm1akwq 于 6个月前发布在 Android

关注(0)|答案(7)|浏览(130)

这个错误如何解决？
堆栈跟踪：
org.apache.tvm.Base$TVMError: InternalError: 检查失败：(chat_ != nullptr)为false:Chat未通过reload初始化
堆栈跟踪：
文件 "/Users/rageshantonyd/Documents/working_prj/mlc-llm/cpp/llm_chat.cc",第1744行
错误信息：
InternalError: 检查失败：(chat_ != nullptr)为false:Chat未通过reload初始化
堆栈跟踪：
文件 "/Users/rageshantonyd/Documents/working_prj/mlc-llm/cpp/llm_chat.cc",第1744行

mlc-llm

来源：https://github.com/mlc-ai/mlc-llm/issues/2302

7条答案

按热度按时间

7bsow1i61#

问题 1 :如何获取到app_config.json 中的model_lib_path_for_prepare_libs中的模型文件
问题 2 :apk 怎么和模型文件相互联系的

赞(0）回复(0）举报 6个月前

qacovj5a2#

我在模拟器和设备上都遇到了同样的问题。

赞(0）回复(0）举报 6个月前

lrl1mhuk3#

您好，如果您尝试使用7或8b型号，您需要8GB内存。
@abhishekdewan101
Mlc llm仅在设备上工作。

赞(0）回复(0）举报 6个月前

3mpgtkmj4#

错误：没有名为'tvm'的模块

如何生成'tvm'?
请提供一个解决方法

赞(0）回复(0）举报 6个月前

bt1cpqcv5#

大家好，我们昨天刚刚完成了一个安卓构建流程重构。新的安卓构建流程需要更少的步骤。文档已经根据新流程进行了修订 https://llm.mlc.ai/docs/deploy/android.html 。请查看并再次尝试。
在进行此操作之前，请按照 https://llm.mlc.ai/docs/install/mlc_llm.html 中的说明升级您的 mlc-llm 和 tvm 以使用最新的 nightly 版本。

赞(0）回复(0）举报 6个月前

yfjy0ee76#

错误：没有名为'tvm'的模块