text-generation-inference InternLM2.5支持

5fjcxozz  于 22天前  发布在  其他
关注(0)|答案(1)|浏览(15)

TGI 2.2.0 不支持由transformers支持的InternLM2.5模型系列。

开源状态:

  • 模型实现可用
  • 模型权重可用
9bfwbjaz

9bfwbjaz1#

你好@juliensimon 👋
感谢你的请求!目前我们正受到维护现有模型和修复漏洞的限制。因此,很遗憾的是,我认为我们暂时无法优先处理这个问题。
然而,如果你有兴趣尝试解决这个问题,请随时提交PR。我可能会有时间来帮助和指导你 👍

相关问题