软件安装

版本配套表

为了便于用户理解和选择合适的Ascend Extension for PyTorch(即torch_npu)版本,我们提供了详细的版本配套表,如表1所示。

该表详细列出了Ascend Extension for PyTorch版本与对应的PyTorch及昇腾CANN版本之间的匹配关系,确保用户能够根据自身软件环境准确选择相匹配的版本,以实现最优的性能与功能支持。其中,Ascend Extension for PyTorch版本号采用{PyTorch版本}-{昇腾版本}命名规则,前者为Ascend Extension for PyTorch匹配的PyTorch版本,后者用于匹配CANN版本。

表1 版本配套表

MindSpeed版本

1.0.RC1

CANN版本

8.0.RC1

PyTorch版本

2.1.0

Ascend Extension for PyTorch版本

6.0.rc1

Ascend Extension for PyTorch安装包版本

2.1.0.post3

Python版本

Python3.8.x, Python3.9.x, Python3.10.x

更多关于PyTorch和CANN的版本信息可点击昇腾辅助软件查看。

安装操作

  1. 安装依赖。

    表2 依赖列表

    依赖软件

    软件版本

    Driver

    建议您下载并安装左侧软件栈的最新版本,具体可参考配置与安装

    Firmware

    CANN

    Kernel

    PyTorch

    torch_npu

    apex

  2. 安装MindSpeed

    如有旧版本MindSpeed,请先卸载,再进行安装操作。

    下载源码安装:

    git clone -b 1.0.RC1 https://gitee.com/ascend/MindSpeed.git
    pip install -e MindSpeed

    如需使用ATB算子,请在安装前添加环境变量ENABLE_ATB=1,例如:

    git clone -b 1.0.RC1 https://gitee.com/ascend/MindSpeed.git
    ENABLE_ATB=1 pip install -e MindSpeed

  3. 获取Megatron-LM并指定commit id。

    git clone https://github.com/NVIDIA/Megatron-LM.git
    cd Megatron-LM
    git checkout bcce6f54e075e3c3374ea67adefe54f3f2da2b07