安装说明

本文主要向用户介绍基于Atlas 200I A2 加速模块，如何快速完成CANN（Compute Architecture for Neural Networks，AI异构计算架构）软件物理机和容器场景的安装。

表1 昇腾软件介绍
软件类型	软件介绍
昇腾NPU固件	固件包含昇腾AI处理器自带的OS 、电源器件和功耗管理器件控制软件，分别用于后续加载到AI处理器的模型计算、芯片启动控制和功耗控制。
昇腾NPU驱动	部署在昇腾服务器，管理查询昇腾AI处理器，同时为上层CANN软件提供芯片控制、资源分配等接口。
CANN	部署在昇腾服务器，包含Runtime、算子库、图引擎、媒体数据处理等组件，通过AscendCL（Ascend Computing Language，昇腾计算语言）对外提供Device管理、Context管理、Stream管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等API，帮助开发者实现在昇腾软硬件平台上开发和运行AI业务。 CANN软件按照功能主要分为Toolkit（开发套件）、NNAE（深度学习引擎）、NNRT（离线推理引擎）、TFPlugin（TensorFlow框架插件）几种软件包，各软件包支持功能范围如下： Toolkit：支持训练和推理业务、模型转换、算子/应用/模型开发和编译。 NNAE：支持训练和推理业务。 NNRT：仅支持离线推理。 TFPlugin：用于运行训练业务时和TensorFlow框架进行对接，帮助TensorFlow框架调用底层CANN接口运行训练业务。说明： Atlas 200I A2 加速模块不涉及NNAE和TFPlugin软件。

在Atlas 200I A2 加速模块部署的CANN软件为NNRT，用于运行推理应用，且NNRT软件包较小，不需要占用太多存储空间。

在物理机和容器部署软件的架构如图1所示。

图1 物理机和容器场景

NPU驱动固件在Atlas 200I A2 加速模块制作文件系统时已合入，不需要用户手工安装。

本文介绍的各安装场景硬件配套和OS范围以表2所示为例。

表2 各安装场景硬件配套和OS范围
硬件款型	安装场景	OS范围
Atlas 200I A2 加速模块	物理机场景	Ubuntu 22.04 openEuler 22.03 LTS
Atlas 200I A2 加速模块	容器场景	宿主机OS：Ubuntu 22.04、openEuler 22.03 LTS 容器内OS：Ubuntu 22.04