开发工具简介

算子工具

算子开发工具

MindStudio算子开发工具是面向Ascend C编程语言的系列工具，通过完备的调试工具和多样的调优数据，简化用户编程难度，助力开发者低成本完成高性能算子开发。

算子编译工具

算子编译工具（op_compiler）是昇腾CANN提供的编译算子生成算子二进制文件的命令行工具。

训练推理开发工具

ATC工具

ATC（Ascend Tensor Compiler）是异构计算架构CANN体系下的模型转换工具， 它可以将开源框架的网络模型以及Ascend IR定义的单算子描述文件（json格式）转换为昇腾AI处理器支持的.om格式离线模型。

精度比对工具

精度比对是用于比对自有实现的算子运算结果与业界标准算子运算结果存在的差异，帮助开发人员快速定位算子精度问题的工具。

• 推理场景中，ATC在模型转换过程中对模型进行了优化，包括算子消除、算子融合、算子拆分，可能会造成算子精度问题。
• 训练场景中，用户原始网络可以迁移到Atlas 训练系列产品上执行训练，网络迁移可能会造成算子精度问题。

AOE工具

AOE（Ascend Optimize Engine）是一款自动调优工具，作用是充分利用有限的硬件资源，以满足算子和整网的性能要求。

AOE通过生成调优策略、编译、在运行环境上验证的闭环反馈机制，不断迭代出更优的调优策略，最终得到最佳的调优策略。从而可以更充分利用硬件资源，不断提升网络的性能，达到最优的效果。

性能分析工具

性能分析工具是用于分析在训练阶段或运行在昇腾AI处理器上的App工程各个运行阶段的关键性能瓶颈，并提出针对性能优化的建议，最终实现产品的极致性能。

分析迁移工具

分析迁移是可以将PyTorch/TensorFlow脚本迁移至昇腾NPU或MindSpore生态的工具，开发者可做到少量代码修改或零代码完成迁移。同时提供分析工具，帮助用户分析训练脚本的算子、三方库API、亲和库API和动态shape支持情况。

msModelSlim工具

ModelSlim，即昇腾模型压缩加速工具，一个以加速为目标、压缩为技术、昇腾为根本的亲和压缩工具。支持训练加速和推理加速两大场景，包括模型低秩分解、稀疏训练、训练后量化、量化感知训练等功能。

推理场景：

• AMCT工具（Caffe）
• AMCT工具（TensorFlow）
• AMCT工具（PyTorch）
• AMCT工具（ONNX）

在线推理场景：

• AMCT工具（TensorFlow,Ascend）

训练场景：

• AMCT工具（MindSpore）

AMCT工具（Ascend Model Compression Toolkit）是一个针对昇腾芯片亲和的深度学习模型压缩工具包，提供量化、稀疏等多种模型压缩特性，压缩后模型体积变小，部署到昇腾AI处理器上后可使能低比特运算，提高计算效率，达到性能提升的目标。

HCCL性能测试工具

介绍分布式训练场景下，通过HCCL性能测试工具测试HCCL集合通信的性能以及功能正确性。

算子及模型速查工具

算子和模型速查工具提供了查询当前版本CANN支持的模型和算子功能。

专家系统工具

专家系统（Advisor）是用于聚焦模型和算子的性能调优Top问题，识别性能瓶颈，重点构建模型和算子瓶颈分析并提供优化推荐，支撑开发效率提升的工具。