文档
注册

安装前必读

为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力,昇腾开发Ascend Extension for PyTorch(torch_npu)用于适配PyTorch框架,本章节指导用户在昇腾环境安装PyTorch框架torch_npu插件

若用户仅进行离线推理,请跳过此章节。

前提条件

  • 安装配套版本的CANN软件并配置CANN环境变量,具体请参考CANN 软件安装指南

    CANN软件提供进程级环境变量设置脚本,供用户在进程中引用,以自动完成环境变量设置。用户进程结束后自动失效。示例如下(以root用户默认安装路径为例):

    . /usr/local/Ascend/ascend-toolkit/set_env.sh
    用户也可以通过修改~/.bashrc文件方式设置永久环境变量,操作如下:
    1. 以运行用户在任意目录下执行vi ~/.bashrc命令,打开.bashrc文件,在文件最后一行后面添加上述内容。
    2. 执行:wq!命令保存文件并退出。
    3. 执行source ~/.bashrc命令使其立即生效。
  • 训练场景下须安装二进制算子包,具体请参考CANN 软件安装指南中的“安装二进制算子包”。

    二进制算子包依赖CANN开发套件包Ascend-cann-toolkit_xxx.run,安装时确保已安装配套版本的toolkit,并使用同一用户安装。

  • 安装对应框架版本的torchvision,PyTorch 1.11.0版本需安装0.12.0版本,PyTorch 2.1.0版本需安装0.16.0版本,PyTorch 2.2.0版本需安装0.17.0版本。
    执行如下命令安装torchvision,以0.12.0版本为例:
    pip3 install torchvision==0.12.0 
  • 通过源码编译安装torch_npu插件时,安装如下环境依赖。
    执行如下命令安装。如果使用非root用户安装,需要在命令后加--user,例如:pip3 install pyyaml --user
    pip3 install pyyaml
    pip3 install wheel
    pip3 install setuptools

安装步骤

在昇腾环境安装PyTorch步骤如下:

  1. 安装PyTorch框架
  2. 安装torch_npu插件:可以直接下载whl包快速安装也可以通过源码编译安装。
  3. (可选)编译libtorch_npu:需要进行libtorch推理测试时执行。
  4. (可选)安装APEX模块:混合精度训练时安装。

安全提示:建议使用非管理员账户安装运行torch_npu,且建议对安装程序的目录文件做好权限管控,建议文件夹权限设置为750,文件权限设置为 640。可以通过设置umask控制安装后文件的权限,如设置umask为0027。更多安全相关内容请参考安全声明中各组件关于“文件权限控制”的说明。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词