• 周四. 6月 30th, 2022

5G编程聚合网

5G时代下一个聚合的编程学习网

热门标签

[深度学习]pytorch部署之onnx

admin

11月 28, 2021

最近尝试使用onnx来部署torch模型,发现还是有一些坑的:

1、尽量使用经典模型结构,模型的输入不要增加内容(比如bert的输入增加一个label_ids),这会导致onnx模型的输入无法识别label_ids

解决方法:如果模型魔改又需要部署,那只能自己写导出为onnx的代码了

2、使用别的包的时候(如torchcrf包中的crf函数),onnx的推理结构可能无法识别这个函数,然后我们就无法调用该函数

发表评论

您的电子邮箱地址不会被公开。