API精度问题

如果模型没有溢出现象或溢出检测场景没有排除精度问题，建议用户使用工具排查一般API精度问题。

1. 在产生非溢出精度问题的训练迭代，使用精度预检工具检测全网存在精度问题的API。

   该工具会对全网每一个API根据其实际训练中的shape、dtype和数值范围生成随机的输入，对比它与标杆的输出差异，并指出输出差异过大不符合精度标准的API。

2. 在预检工具的输入随机生成的情况下，部分场景上预检工具解决不了问题：有些精度问题无法通过单API复现，只能在整网中出现；预检工具随机生成输入，有概率漏检单API精度问题。用户可以使用精度比对工具来检测算子本身精度问题。

   分别使用dump统计量功能、分迭代dump功能、通信算子精度检测功能。可以用较轻的数据量实现不同侧重的精度比对，从而定位精度问题。