关于这篇论文:EdgeFormer:一种参数高效的Transformer用于端设备序列到序列生成。伟大的工作!请问如何使用ONNX运行时推断模型?
ruarlubt1#
感谢您的关注。我们正在努力将ONNX推理与int8量化模型进行开源。很快就会发布代码。
e7arh2l62#
感谢,@getao。期待中。
2条答案
按热度按时间ruarlubt1#
感谢您的关注。我们正在努力将ONNX推理与int8量化模型进行开源。很快就会发布代码。
e7arh2l62#
感谢,@getao。期待中。