文档HOT
下载
中文
注册

快速上线

本章节主要向用户介绍基于Atlas 800I A2 推理服务器快速完成昇腾NPU（Neural-Network Processing Unit，神经网络处理器单元）驱动固件、CANN（Compute Architecture for Neural Networks，AI异构计算架构）软件，实现推理任务的上线。

准备安装环境

  • 安装依赖前确保服务器能够连接外网，已配置可用的软件源和pip源。如果需要更换软件源可参考检查源，配置pip源可参考配置pip源。
  • 安装驱动前需要创建驱动运行用户HwHiAiUser（运行驱动进程的用户），安装驱动时无需指定运行用户，默认即为HwHiAiUser。
    groupadd HwHiAiUser
useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash

下载软件

下载本软件即表示您同意华为企业业务最终用户许可协议（EULA）的条款和条件。

若用户需要查询昇腾软件版本配套关系，可单击链接进行查询。

表1 软件下载链接

软件类型

软件包名称和下载链接

驱动

单击软件包链接，下载软件包“Ascend-hdk-xxx-npu-driver_24.1.rc1_linux-aarch64.run”。

固件

单击软件包链接，下载软件包“Ascend-hdk-xxx-npu-firmware_7.1.0.6.220.run”。

Toolkit（开发套件包）

单击软件包链接，下载软件包“Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run”。

kernels（二进制算子包）

单击软件包链接，下载软件包“Ascend-cann-kernels-xxx_8.0.RC1_linux.run”。

上传安装包并添加权限

  1. 将下载的安装包上传至服务器任意目录（以“/home”为例）。
  2. 给安装包添加权限。
    chmod +x Ascend-hdk-xxx-npu-driver_24.1.rc1_linux-aarch64.run
chmod +x Ascend-hdk-xxx-npu-firmware_7.1.0.6.220.run
chmod +x Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run
chmod +x Ascend-cann-kernels-xxx_8.0.RC1_linux.run

安装NPU驱动固件

执行uname -r命令查看操作系统内核版本。

表2 内核版本要求

host操作系统版本

软件包默认的host操作系统内核版本

安装方式

Ubuntu 22.04

5.15.0-25-generic

二进制安装。

直接安装NPU驱动固件。

CTyunOS 22.06

4.19.90-2102.2.0.0066.ctl2.aarch64

源码编译安装。

  1. 需要先参见安装驱动源码编译所需依赖安装dkms等依赖。
  2. 再按照安装驱动固件内容安装驱动固件。
 
# 安装NPU驱动 
./Ascend-hdk-xxx-npu-driver_24.1.rc1_linux-aarch64.run --full --install-for-all
# 查看驱动加载是否成功，回显芯片信息表示加载成功
npu-smi info
# 安装NPU固件
./Ascend-hdk-xxx-npu-firmware_7.1.0.6.220.run --full
# 重启OS
reboot

物理机安装

  1. 安装依赖。
    安装依赖以CTyunOS 22.06为例，其他操作系统安装依赖方法请参见安装依赖。
    # 安装OS依赖
yum install -y gcc gcc-c++ make cmake unzip zlib-devel libffi-devel openssl-devel pciutils net-tools sqlite-devel lapack-devel gcc-gfortran python3-devel

# 检查Python版本是否满足要求，PyTorch框架支持Python3.7.x（3.7.5~3.7.11）、Python3.8.x（3.8.0~3.8.11）、Python3.9.x（3.9.0~3.9.2）。
执行命令python3 --version，如果Python版本不满足要求，请用户参见安装步骤（CTyunOS 22.06）中的步骤编译安装Python

# 安装Python3依赖
pip3 install --upgrade pip
pip3 install attrs cython numpy decorator sympy cffi pyyaml pathlib2 psutil protobuf scipy requests absl-py
  2. 安装CANN。
    # 在/home目录下执行如下命令安装
./Ascend-cann-toolkit_8.0.RC1_linux-aarch64.run --install --install-for-all --quiet

# 执行如下命令配置环境变量。若需要设置环境变量永久生效，可在~/.bashrc文件最后一行后面添加以下命令，执行source ~/.bashrc命令
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# 二进制算子包依赖CANN软件包Toolkit，执行安装时，当前环境需已安装配套版本的Toolkit，并使用同一用户安装
./Ascend-cann-kernels-xxx_8.0.RC1_linux.run --install --install-for-all --quiet