安装前必读
为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力,昇腾开发Ascend Extension for PyTorch(即torch_npu插件)用于适配PyTorch框架,本章节指导用户在昇腾环境安装PyTorch框架和torch_npu插件。
若用户仅进行离线推理,请跳过此章节。
前提条件
- 安装配套版本的NPU驱动固件、CANN软件(Toolkit、Kernels和NNAL)并配置CANN环境变量,具体请参见《CANN 软件安装指南》。
CANN软件提供进程级环境变量设置脚本,训练或推理场景下使用NPU执行业务代码前需要调用该脚本,否则业务代码将无法执行。
source /usr/local/Ascend/ascend-toolkit/set_env.sh
以上命令以Toolkit包为例,其他CANN软件请用户根据set_env.sh的实际路径执行命令。
- 容器场景下源码编译安装torch_npu插件,涉及从外部网络获取社区提供基础镜像、Python三方库以及编译使用源码,代理配置等相关网络问题请参考Docker官方文档。
- 安装对应框架版本的torchvision,请参见下表。
表1 torchvision版本配套 PyTorch版本
torchvision版本
2.1.0
0.16.0
2.3.1
0.18.0
2.4.0
0.19.0
执行如下命令安装torchvision,以0.16.0版本为例:pip3 install torchvision==0.16.0
- 通过源码编译安装torch_npu插件时,安装如下环境依赖。
安装步骤
在昇腾环境安装PyTorch步骤如下:
- 安装PyTorch框架。
- 安装torch_npu插件:可以直接下载whl包快速安装也可以通过源码编译安装。
- (可选)编译libtorch_npu:需要进行libtorch推理测试时执行。
- (可选)安装APEX模块:混合精度训练时安装。