ATC模型转换出现不支持的loop算子报错
2024/02/21
316
问题信息
问题来源 | 产品大类 | 产品子类 | 关键字 |
---|---|---|---|
官方 | 模型推理 | 模型转换 | loop |
问题现象描述
ATC进行ONNX转OM过程中,loop算子不支持并报错。
原因分析
当前版本不支持loop算子。
解决措施
- 当loop的循环次数是固定时:
- 在导出ONNX模型时,使用torch.jit.trace()模式,这样导出的ONNX模型中不会有loop算子,ATC可以正常转换。
- 当loop的循环次数不固定时:
- 需要把loop里代码块的逻辑单独当作一个model,进行多model的串行推理,其循环次数可以根据前一步的结果计算得出,或有值直接传入。
本页内容