下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

API精度问题

如果模型没有溢出现象或溢出检测场景没有排除精度问题,建议用户使用工具排查一般API精度问题。

  1. 在产生非溢出精度问题的训练迭代,使用精度预检工具检测全网存在精度问题的API。

    该工具会对全网每一个API根据其实际训练中的shape、dtype和数值范围生成随机的输入,对比他与标杆的输出差异,并指出输出差异过大不符合精度标准的API。

  2. 在预检工具的输入随机生成的情况下,部分场景上预检工具解决不了问题:有些精度问题无法通过单API复现,只能在整网中出现;预检工具随机生成输入,有概率漏检单API精度问题。用户可以使用精度比对工具来检测算子本身精度问题。

    分别使用dump统计量功能分迭代dump功能、通信算子精度检测功能。可以用较轻的数据量实现不同侧重的精度比对,从而定位精度问题。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词