mlc-llm ``` adaptive_softmax, SinusoidalPositionalEmbedding ops are not supported ```

5jdjgkvh  于 2个月前  发布在  其他
关注(0)|答案(1)|浏览(29)

当我尝试为fairseq模型添加模型支持时,以下操作不存在:

  1. AdaptiveSoftmax

  2. BaseLayer

  3. FairseqDropout

  4. LayerDropModuleList

  5. LayerNorm

  6. PositionalEmbedding

  7. SinusoidalPositionalEmbedding

  8. model: https://huggingface.co/spaces/OFA-Sys/OFA-vqa/tree/main/fairseq/fairseq/models/transformer

是否可以为这些操作添加支持?我正在按照以下教程为添加新模型支持。(https://llm.mlc.ai/docs/compilation/define_new_models.html)

alen0pnh

alen0pnh1#

更新define new models部分也会很好。

相关问题