inference 建议新增对图嵌入模型的支持,

pbpqsu0x  于 6个月前  发布在  其他
关注(0)|答案(1)|浏览(68)

功能建议

目前Xinference仅支持对文本embedding模型的部署,而在实际业务中,内容相似度检测会涉及文本和图片两部分,因此图嵌入计算也非常重要。此外,对于Xinference框架来说,huggingface或modelscope都是模型来源,因此部署和调用应该适用于所有模型,而不受限于模型类型。

动机

目前期望的是能够新增对目前效果较好的ViT模型的支持(模型地址:https://huggingface.co/timm/vit_large_patch16_384.augreg_in21k_ft_in1k))

相关问题