开发工具简介
昇腾产品软件主要有如下开发工具:
手册 |
介绍 |
---|---|
精度比对是用于比对自有实现的算子运算结果与业界标准算子运算结果存在的差异,帮助开发人员快速定位算子精度问题的工具。
|
|
AOE(Ascend Optimize Engine)是一款自动调优工具,作用是充分利用有限的硬件资源,以满足算子和整网的性能要求。 AOE通过生成调优策略、编译、在运行环境上验证的闭环反馈机制,不断迭代出更优的调优策略,最终得到最佳的调优策略。从而可以更充分利用硬件资源,不断提升网络的性能,达到最优的效果。 |
|
性能分析工具是用于分析在训练阶段或运行在昇腾AI处理器上的App工程各个运行阶段的关键性能瓶颈,并提出针对性能优化的建议,最终实现产品的极致性能。 |
|
分析迁移是可以将PyTorch/TensorFlow脚本迁移为迁移至昇腾NPU或MindSpore生态的工具,开发者可做到少量代码修改或零代码完成迁移。同时提供分析工具,帮助用户分析训练脚本的算子、三方库API、亲和库API和动态shape支持情况。 |
|
算子和模型速查工具提供了查询当前版本CANN支持的模型和算子功能。 |
|
专家系统(Advisor)是用于聚焦模型和算子的性能调优Top问题,识别性能瓶颈,重点构建模型和算子瓶颈分析并提供优化推荐,支撑开发效率提升的工具。 |
|
ModelSlim,即昇腾模型压缩加速工具,一个以加速为目标、压缩为技术、昇腾为根本的亲和压缩工具。支持训练加速和推理加速两大场景,包括模型低秩分解、稀疏训练、训练后量化、量化感知训练等功能。 |
|
推理场景: 在线推理场景: 训练场景: |
AMCT工具(Ascend Model Compression Toolkit),即AMCT。AMCT工具可以对原始网络模型进行量化。量化是指对模型的权重(weight)和数据(activation)进行低比特处理,让最终生成的网络模型更加轻量化,从而节省网络模型存储空间、降低传输时延、提高计算效率,达到性能提升与优化的目标。 |
介绍分布式训练场景下,通过HCCL性能测试工具测试HCCL集合通信的性能以及功能正确性。 |