快速上线

本章节主要向用户介绍基于Atlas 800I A2 推理服务器快速完成昇腾NPU（Neural-Network Processing Unit，神经网络处理器单元）驱动固件、CANN（Compute Architecture for Neural Networks，AI异构计算架构）软件，实现推理任务的上线。

准备安装环境

安装依赖前确保服务器能够连接外网，已配置可用的软件源和pip源。如果需要更换软件源可参考检查源，配置pip源可参考配置pip源。
安装驱动前需要创建驱动运行用户HwHiAiUser（运行驱动进程的用户），安装驱动时无需指定运行用户，默认即为HwHiAiUser。
```
groupadd HwHiAiUser
useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash
```

下载软件

下载本软件即表示您同意华为企业业务最终用户许可协议（EULA）的条款和条件。

若用户需要查询昇腾软件版本配套关系，可单击链接进行查询。

表1 软件下载链接
软件类型	软件包名称和下载链接
驱动	单击软件包链接，下载软件包“Ascend-hdk-xxx-npu-driver_24.1.rc1_linux-aarch64.run”。
固件	单击软件包链接，下载软件包“Ascend-hdk-xxx-npu-firmware_7.1.0.6.220.run”。
Toolkit（开发套件包）	单击软件包链接，下载软件包“Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run”。
kernels（二进制算子包）	单击软件包链接，下载软件包“Ascend-cann-kernels-xxx_8.0.RC1_linux.run”。

上传安装包并添加权限

将下载的安装包上传至服务器任意目录（以“/home”为例）。

给安装包添加权限。

chmod +x Ascend-hdk-xxx-npu-driver_24.1.rc1_linux-aarch64.run
chmod +x Ascend-hdk-xxx-npu-firmware_7.1.0.6.220.run
chmod +x Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run
chmod +x Ascend-cann-kernels-xxx_8.0.RC1_linux.run

安装NPU驱动固件

执行uname -r命令查看操作系统内核版本。

表2 内核版本要求
host操作系统版本	软件包默认的host操作系统内核版本	安装方式
Ubuntu 22.04	5.15.0-25-generic	二进制安装。直接安装NPU驱动固件。
CTyunOS 22.06	4.19.90-2102.2.0.0066.ctl2.aarch64	源码编译安装。需要先参见安装驱动源码编译所需依赖安装dkms等依赖。再按照安装驱动固件内容安装驱动固件。

# 安装NPU驱动 
./Ascend-hdk-xxx-npu-driver_24.1.rc1_linux-aarch64.run --full --install-for-all
# 查看驱动加载是否成功，回显芯片信息表示加载成功
npu-smi info
# 安装NPU固件
./Ascend-hdk-xxx-npu-firmware_7.1.0.6.220.run --full
# 重启OS
reboot

物理机安装

安装依赖。

安装依赖以CTyunOS 22.06为例，其他操作系统安装依赖方法请参见安装依赖。

# 安装OS依赖
yum install -y gcc gcc-c++ make cmake unzip zlib-devel libffi-devel openssl-devel pciutils net-tools sqlite-devel lapack-devel gcc-gfortran python3-devel

# 检查Python版本是否满足要求，PyTorch框架支持Python3.7.x（3.7.5~3.7.11）、Python3.8.x（3.8.0~3.8.11）、Python3.9.x（3.9.0~3.9.2）。
执行命令python3 --version，如果Python版本不满足要求，请用户参见安装步骤（CTyunOS 22.06）中的步骤编译安装Python

# 安装Python3依赖
pip3 install --upgrade pip
pip3 install attrs cython numpy decorator sympy cffi pyyaml pathlib2 psutil protobuf scipy requests absl-py

安装CANN。

# 在/home目录下执行如下命令安装
./Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run --install --install-for-all --quiet

# 执行如下命令配置环境变量。若需要设置环境变量永久生效，可在~/.bashrc文件最后一行后面添加以下命令，执行source ~/.bashrc命令
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# 二进制算子包依赖CANN软件包Toolkit，执行安装时，当前环境需已安装配套版本的Toolkit，并使用同一用户安装
./Ascend-cann-kernels-xxx_8.0.RC1_linux.run --install --install-for-all --quiet