Atlas 200T A2 Box16、Atlas 300T A2、Atlas 800T A2、Atlas 900 A2 PoD

Atlas 200T A2 Box16（Atlas 200T A2 Box16 异构子框）、Atlas 300T A2（Atlas 300T A2 训练卡）、Atlas 800T A2（Atlas 800T A2 训练服务器）、Atlas 900 A2 PoD（Atlas 900 A2 PoD 集群基础单元）开发或运行环境安装参考如下：

• 开发环境

  开发环境安装软件如图1所示，其中只有Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元支持虚拟机部署。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • toolkit：开发套件包。主要用于用户开发应用、自定义算子和模型转换。开发套件包包含开发应用程序所需的AscendCL库文件、开发工具（如ATC模型转换工具）等。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架：深度学习框架。如MindSpore、TensorFlow、PyTorch等。
  图1 开发环境
  
• 运行环境

  运行环境安装软件如图2所示，其中只有Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元支持虚拟机部署。

  软件包说明：

  • npu-firmware：固件安装包。
  • npu-driver：驱动安装包。
  • nnae：深度学习引擎包。支持离线推理、在线推理、训练。
  • kernels（可选）：二进制算子包。在包含动态shape网络或单算子API（例如aclnn类API）场景下使用。
  • tfplugin（可选）：插件包，对接上层框架TensorFlow的适配插件。在线推理或训练场景下若使用深度学习框架TensorFlow，需要安装该软件包。
  • AI框架：深度学习框架。如MindSpore、TensorFlow、PyTorch等。
  图2 运行环境
  
  

  • 离线推理：是基于原有AI框架模型转换OM模型，不依赖于AI框架执行推理的场景。
  • 在线推理：是将原有AI框架做推理的应用快速迁移至昇腾AI处理器上，依赖于AI框架执行推理的场景。