简介
昇腾自研的算子在昇腾AI处理器上的运算结果与业界标杆算子的运算结果可能存在差异:
- 用户原始网络模型可以迁移到昇腾训练环境上执行训练,网络模型迁移可能会造成自有实现算子的运算结果与用业界标杆算子运算结果存在差异。
- 用户原始网络模型可以迁移到昇腾环境上执行在线推理,网络模型迁移可能会造成自有实现算子的运算结果与用业界标杆算子运算结果存在差异。
- ATC在模型转换过程中对模型进行了优化,包括算子消除、算子融合、算子拆分,这些动作可能会造成自有实现算子的运算结果与业界标杆算子运算结果存在差异。
- 对于进行ATC转换后的离线模型,由于CANN软件版本迭代、模型版本迭代、模型优化、硬件升级或ATC转换前开启或关闭了算子融合功能,可能会造成升级或优化后的离线模型存在精度下降问题。
精度调优工具为了帮助开发人员快速解决算子精度问题,提供自有实现算子的运算结果与业界标杆算子运算结果之间差异比对的功能。
精度比对总体流程
精度比对总体流程如下:
图1 精度比对总体流程