精度比对简介
ATC在模型转换过程中对模型进行了优化,包括算子消除、算子融合、算子拆分,这些动作可能会造成自有实现的算子运算结果与业界标准算子(如Caffe、TensorFlow、ONNX)运算结果存在差异。
为了帮助开发人员快速解决算子精度问题,需要提供比对自有实现的算子运算结果与业界标准算子运算结果之间差异的工具。
精度比对工具提供Tensor比对能力,包含余弦相似度、最大绝对误差、累积相对误差、欧氏相对距离、KL散度、标准差、平均绝对误差、均方根误差、最大相对误差和平均相对误差的算法比对维度。
Tensor比对:张量比对,两个张量之间进行不同算法评价指标的数据比对操作,支持整网比对和单算子比对。
整网比对:对网络模型中参与计算的所有算子进行精度比对。
单算子比对:选择网络模型中一个或多个参与计算的算子进行精度比对。
父主题: 精度比对工具