简介
相比于业界标杆算子,昇腾自研算子在昇腾AI处理器上的运算结果可能存在差异:
- 模型迁移:原始模型(基于GPU)在迁移到昇腾环境进行训练或在线推理时,昇腾自研算子的运算结果与业界标杆算子存在差异。
- 模型转换:ATC工具转换模型时,会对模型进行算子消除、算子融合、算子拆分等优化, 这些操作可能会造成自研算子运算结果与业界标杆算子存在差异。
- 模型兼容:ATC工具转换的离线模型,由于CANN软件版本迭代、模型版本迭代、模型优 化、硬件升级或ATC转换前开启或关闭了算子融合功能,可能会造成升级或优化后的离线 模型存在精度下降问题。
精度调试工具为了帮助开发人员快速解决算子精度问题,提供了自有实现算子的运算结果与业界标杆算子运算结果之间差异比对的功能。
精度比对总体流程
精度比对总体流程如下:
图1 精度比对总体流程