MindStudio概述
MindStudio是华为面向昇腾AI开发者提供的一站式开发环境和工具集,致力于提供端到端的昇腾AI应用开发解决方案,使能开发者高效完成算子开发、训练开发和推理开发。
开发场景
按照开发场景分类,MindStudio可以分为以下三种工具链:
- 算子开发工具:在完备的调试工具和多样的调优数据的帮助下,通过AscendC的多层接口抽象,简化用户编程难度,助力开发者低成本完成高性能算子开发。
- 训练开发工具:聚焦用户在模型迁移、模型开发中遇到的痛点问题,提供全流程的工具链。通过提供分析迁移工具、精度调试工具和性能调优工具三大主力工具包,帮助用户解决开发过程中迁移困难、Loss跑飞、性能不达标或劣化等问题,让用户轻松解决精度和性能问题,开启乐趣十足的极简开发之旅。
- 推理开发工具:作为昇腾统一推理工具库,提供用户一体化开发所需功能,包含大模型和传统模型的一站式调试调优、迁移分析和压缩能力,可快速完成多种主流推理框架在昇腾平台上的迁移,助力用户实现极致推理性能。
工具呈现形式
按照工具呈现形式分类,MindStudio可以分为以下几种工具类型:
- 算子工具
算子工具有算子开发工具和算子编译工具两种:算子开发工具是一款功能强大、易于使用的开发工具,它为Ascend C编程语言的开发者提供了全面的支持和帮助,使得高性能算子开发变得更加简单和高效。算子编译工具为昇腾CANN提供了算子编译的功能,使得开发者能够轻松地将自己的算子代码编译成可在昇腾AI处理器上运行的二进制文件。
- 训练推理开发工具
训练和推理开发工具均为命令行工具,需要安装CANN软件包后在命令行视图下执行命令实现模型转换、精度比对、性能分析等功能。
- 可视化工具
MindStudio Insight是一款模型、算子性能调优可视化工具,大大提升了开发者进行模型和算子性能调优的效率。
- 模型调优场景:提供了多维度性能数据分析功能,包括内存、算子、调度、通信等分析功能,针对大模型集群场景,支持同时分析集群的性能timeline数据,使开发者快速识别通信慢卡慢链路等问题。
- 算子调优场景:支持算子内存和计算负载分析、代码性能度量及指令流水并行分析等功能,助力开发者快速实现算子性能调优。