mlc-llm [模型请求] Gemma 9b和27b

oipij1gg  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(31)

⚙️ 请求新模型

https://huggingface.co/google/gemma-2-27b

  • MLC-LLM是否支持此模型架构?(支持的模型架构列表) <!-- 是/否 -- yes>

附加上下文

ar5n3qh5

ar5n3qh51#

我尝试了这个,但我在滑动窗口实现上遇到了问题:#2674 。如果可能的话,希望能得到一些帮助!

相关问题