精度调试工具的选择 精度调试针对不同场景开发了对应的工具,可以分为大模型场景和传统小模型场景,可以根据如下介绍选择对应的工具和参考文档: 大模型场景训练:大模型的训练场景精度调试工具msprobe,主要在gitee开源仓发布,详细介绍请参见《msprobe 使用手册》。推理:大模型的推理场景精度调试工具Large Language Model Debug Tool,主要在gitee开源仓发布,详细介绍请参见《大模型推理精度工具》。 传统小模型场景本文主要介绍传统模型场景的精度比对msaccucmp.py脚本工具,针对Caffe、ONNX和TensorFlow框架模型的ATC模型转换前后的比对、TensorFlow训练场景的比对、离线模型不同版本之间的比对等;另外该工具还支持精度比对结果的专家建议输出、npy与npy文件之间的精度比对以及单算子比对等功能。其中传统小模型场景的精度调试也可以使用msprobe工具(训练场景)和msit debug工具(推理场景)。