手册阅读概览

精度比对工具

精度比对是用于比对自有实现的算子运算结果与业界标准算子运算结果存在的偏差，帮助开发人员快速解决算子精度问题的工具。

• 推理场景中，ATC在模型转换过程中对模型进行了优化，包括算子消除、算子融合、算子拆分，可能会造成算子精度问题。
• 训练场景中，用户原始网络可以迁移到昇腾910 AI处理器上执行训练，网络迁移可能会造成算子精度问题。

AOE工具

AOE（Ascend Optimization Engine）是一款自动调优工具，作用是充分利用有限的硬件资源，以满足算子和整网的性能要求。

AOE通过生成调优策略、编译、在运行环境上验证的闭环反馈机制，不断迭代出更优的调优策略，最终得到最佳的调优策略。从而可以更充分利用硬件资源，不断提升网络的性能，达到最优的效果。

Auto Tune工具

Auto Tune调优是可以自动对算子进行性能优化，提升算子运行效率的工具。生成网络模型时，可以使能Auto Tune工具实现算子性能的自动优化，调优完成后，调优的结果会放入自定义知识库，则后续调用相关算子时便可以直接享受调优后的算子性能。

性能分析工具

性能分析工具是用于分析在训练阶段或运行在昇腾AI处理器上的APP工程各个运行阶段的关键性能瓶颈，并提出针对性能优化的建议，最终实现产品的极致性能。

AI Core Error分析工具

AI Core Error分析工具是用于在执行推理/训练发现AI Core Error问题时，可以自动快速准确地收集定位AI Core Error问题所需的关键信息，提升开发者对AI Core Error的排查效率。

分析迁移工具

分析迁移是可以将PyTorch/TensorFlow脚本迁移为迁移至昇腾NPU或MindSpore生态的工具，开发者可做到少量代码修改或零代码完成迁移。

算子及模型速查工具

算子和模型速查工具提供了查询当前版本CANN支持的模型和算子功能。

专家系统工具

专家系统（Advisor）是用于聚焦模型和算子的性能调优Top问题，识别性能瓶颈，重点构建模型和算子瓶颈分析并提供优化推荐，支撑开发效率提升的工具。

AutoML工具（Beta）

AutoML（Auto Machine Learning）包括模型自动性能调优、基于API方式的模型性能调优、训练工程超参数自动调优和大模型压缩调优四个模块。昇腾模型开发用户可以通过模型自动性能调优功能找到性能更好的模型。AI初学者可以通过AutoML工具结合数据集，生成满足需求的模型，对训练超参进行自动调优。

推理场景：

• AMCT工具（Caffe）
• AMCT工具（TensorFlow）
• AMCT工具（PyTorch）
• AMCT工具（ONNX）

在线推理场景：

• AMCT工具（TensorFlow,Ascend）

训练场景：

• AMCT工具（MindSpore）
• AMCT工具（AscendCL方式）

AMCT工具（昇腾模型压缩工具，Ascend Model Compression Toolkit）可以对原始网络模型进行量化。量化是指对模型的权重（weight）和数据（activation）进行低比特处理，让最终生成的网络模型更加轻量化，从而节省网络模型存储空间、降低传输时延、提高计算效率，达到性能提升与优化的目标。