mlc-llm [Feature Request] Machine translation for interaction

xoefb8l8 于 2个月前发布在 Mac

关注(0)|答案(2)|浏览(31)

LLMs不适用于非英语语言。但是使用开源翻译模型可以使其他语言的交互成为可能。

并非所有人都说英语，但每个人都会从与LLM的离线交互中受益。

手动在另一个应用中进行翻译。但那并不酷，来回复制粘贴。

2条答案

也许一个更容易的方法是编译一个在你感兴趣的语言上微调过的模型变体。然后我们可以很容易地将其包含到我们的工作流程中。例如，我们有一个预构建的中文小马模型：https://huggingface.co/mlc-ai/mlc-chat-FlagAlpha-Llama2-Chinese-7b-Chat-q4f16_1

这很酷，但对于许多语言来说，没有足够的模型和文本来进行训练/微调。