准备软件包
软件包下载
单击获取链接，选择“硬件信息”和“解决方案”后，筛选配套的软件包，确认版本信息后获取如表1所示软件包。
下载本软件即表示您同意华为企业业务最终用户许可协议（EULA）的条款和条件。
软件类型 |
软件包说明 |
软件包名称 |
|---|---|---|
昇腾NPU驱动 |
部署在昇腾AI处理器，用于管理查询昇腾AI处理器，同时为上层CANN软件提供处理器控制、资源分配等接口。 |
Ascend-hdk-<chip_type>-npu-driver_<version>_linux-<arch>.run |
昇腾NPU固件 |
固件包含昇腾AI处理器自带的OS 、电源器件和功耗管理器件控制软件，分别用于后续加载到AI处理器的模型计算、处理器启动控制和功耗控制。 |
Ascend-hdk-<chip_type>-npu-firmware_<version>.run |
Toolkit |
CANN开发套件包，在训练&推理&开发调试场景下安装，主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。 |
Ascend-cann-toolkit_<version>_linux-<arch>.run |
NNAE |
CANN深度学习引擎包，在训练&推理场景下安装，主要用于训练和推理业务。 |
Ascend-cann-nnae_<version>_linux-<arch>.run |
NNRT |
CANN离线推理引擎包，在边缘推理场景下安装，仅支持离线推理，主要用于应用程序的模型推理。 |
Ascend-cann-nnrt_<version>_linux-<arch>.run |
Kernels |
CANN算子包，能够节省算子编译时间，在大模型推理、训练场景和运行包含动态shape网络或单算子API（例如aclnn类API）相关业务时安装。 安装时需已安装Toolkit或NNRT或NNAE软件包，请选择运行设备对应处理器类型的Kernels。 |
Ascend-cann-kernels-<chip_type>_<version>_linux.run |
NNAL |
CANN加速库，包含面向大模型领域的ATB（Ascend Transformer Boost）加速库，可以提升大模型训练和推理性能。 安装时需已安装Toolkit或NNAE软件包。 |
Ascend-cann-nnal_<version>_linux-<arch>.run |
- <version>表示软件版本号
- <arch>表示CPU架构
- <chip_type>表示处理器类型
