简介

随着人工智能产业的快速发展，业界越来越多的企业发布了深度学习平台，提供数据集管理、模型训练、模型管理、模型部署推理等功能满足模型开发训练推理的全流程业务，能够加速企业和开发者交付人工智能业务所需的模型。

MindX DL（昇腾深度学习组件）是基于昇腾AI处理器（下文出现的NPU表示昇腾AI处理器），支持数据中心训练和推理硬件的深度学习组件参考设计，提供昇腾AI处理器调度、集群性能测试、模型保护等基础功能，为上层模型训练、模型评估、模型部署、模型推理等应用提供底层软件支持。深度学习平台开发厂商可以减少底层资源调度相关软件开发工作量，快速使能合作伙伴基于MindX DL开发深度学习平台。

如图 产品定位所示，MindX DL组件用于支持第三方深度学习平台完成训练推理流程，特性介绍如下：

图1 产品定位

• 集群调度：基于kubernetes增强对NPU的调度，并支持查看NPU和节点状态。
• 模型保护：提供模型全生命周期的加密和解密功能。
• ToolBox：为Atlas产品的标卡、板卡及模组类产品提供带宽测试、算力测试、功耗测试等功能。