CTranslate2 是否可以使用动态适配器支持预训练模型?

eni9jsuy  于 3个月前  发布在  其他
关注(0)|答案(2)|浏览(34)

你好。
我想实现一个功能,在大型数据集上训练一个通用的翻译模型,我们有很多翻译用户,每个用户都有一个他们维护的个人记忆库。我想使用预训练Transformer + Adapter层来支持用户上传一些数据来微调定制模型。CTranslate2是否可以支持这种动态加载和释放Adapter参数的功能?

gdrx4gfi

gdrx4gfi1#

你好,
目前这是不可能的。
你能描述一下这些适配器层吗?有公共论文或实现可供参考吗?

相关问题