手册阅读概览

精度比对工具使用指南（推理）

精度比对工具使用指南（训练）

比对自有实现的算子运算结果与用业界标准算子（如Caffe、TensorFlow）运算结果存在的偏差，帮助开发人员快速解决算子精度问题。

• 推理场景中，ATC在模型转换过程中对模型进行了优化，包括算子消除、算子融合、算子拆分，可能会造成算子精度问题。
• 训练场景中，华为支持迁移用户原始网络，用于在Atlas 训练系列产品上执行训练，网络迁移可能会造成算子精度问题。

Auto Tune工具使用指南

Auto Tune调优工具可以自动对算子进行性能优化，提升算子的运行效率。生成网络模型时，你可以使能Auto Tune工具实现算子性能的自动优化，调优完成后，调优的结果会放入自定义知识库，则后续调用相关算子时便可以直接享受调优后的算子性能。

Profiling工具使用指南（推理）

Profiling工具使用指南（训练）

用于分析在训练阶段或运行在昇腾AI处理器上的APP工程各个运行阶段的关键性能瓶颈，并提出针对性能优化的建议，最终实现产品的极致性能。

AI Core Error分析工具使用指南（推理）

AI Core Error分析工具使用指南（训练）

在执行推理/训练发现AI Core error问题时，使用AI Core Error Analyzer工具可以自动快速准确地收集定位AI Core Error问题所需的关键信息，提升开发者对AI Core Error的排查效率。

脚本转换工具使用指南

介绍如何使用脚本转换工具将脚本转换为支持在NPU上运行的脚本，解决基于GPU的训练和在线推理脚本不能直接在NPU上运行的问题。

算子及模型速查工具使用指南

提供了查询当前版本CANN支持的模型和算子功能。

专家系统工具使用指南

专家系统（MindStudio Advisor）是用于聚焦模型和算子的性能调优TOP问题，识别性能瓶颈Pattern，重点构建瓶颈分析、优化推荐模型，支撑开发效率提升的工具。

不要求在Atlas 训练系列产品环境上运行的工具使用场景：

• 昇腾模型压缩工具使用指南（Caffe）
• 昇腾模型压缩工具使用指南（TensorFlow）
• 昇腾模型压缩工具使用指南（PyTorch）
• 昇腾模型压缩工具使用指南（ONNX）

介绍如何通过昇腾模型压缩工具（Ascend Model Compression Toolkit，简称AMCT）对原始网络模型进行量化，量化是指对模型的权重（weight）和数据（activation）进行低比特处理，让最终生成的网络模型更加轻量化，从而达到节省网络模型存储空间、降低传输时延、提高计算效率，达到性能提升与优化的目标。

要求在Atlas 训练系列产品环境上运行的工具使用场景：

• 昇腾模型压缩工具使用指南（MindSpore）
• 昇腾模型压缩工具使用指南（AscendCL方式）
• 昇腾模型压缩工具使用指南（TensorFlow,Ascend）