MindStudio概述
功能架构
命令行工具
按照开发场景分类,MindStudio可以分为以下三种工具链:
- 算子开发工具:在完备的调试工具和多样的调优数据的帮助下,通过AscendC的多层接口抽象,简化用户编程难度,助力开发者低成本完成高性能算子开发。
算子工具包含算子开发工具和算子编译工具:算子开发工具是一款功能强大、易于使用的开发工具,它为Ascend C编程语言的开发者提供了全面的支持和帮助,使得高性能算子开发变得更加简单和高效。算子编译工具为昇腾CANN提供了算子编译的功能,使得开发者能够轻松地将自己的算子代码编译成可在昇腾AI处理器上运行的二进制文件。
- 训练开发工具:聚焦用户在模型迁移、模型开发中遇到的痛点问题,提供全流程的工具链。通过提供分析迁移工具、精度调试工具和性能调优工具三大主力工具包,帮助用户解决开发过程中迁移困难、精度不达标、性能不达标或劣化等问题,让用户轻松解决精度和性能问题,开启乐趣十足的极简开发之旅。
- 推理开发工具:作为昇腾统一推理工具库,提供用户一体化开发所需功能,包含模型转换、模型压缩、精度调试和性能调优能力,可快速完成多种主流推理框架在昇腾平台上的迁移,轻松解决精度和性能问题,助力用户实现极致推理性能。
可视化工具
MindStudio Insight是一款模型、算子性能调优可视化工具,大大提升了开发者进行模型和算子性能调优的效率。
- 模型调优场景:提供了多维度性能数据分析功能,包括内存、算子、调度、通信等分析功能,针对大模型集群场景,支持同时分析集群的性能timeline数据,使开发者快速识别通信慢卡慢链路等问题。
- 算子调优场景:支持算子内存和计算负载分析、代码性能度量及指令流水并行分析等功能,助力开发者快速实现算子性能调优。
图2 MindStudio Insight界面