软件安装

版本配套表

为了便于用户理解和选择合适的MindSpeed版本,我们提供了详细的版本配套表,如表1所示。

该表详细列出了MindSpeed版本与对应的PyTorch、Ascend Extension for PyTorch版本及CANN版本之间的匹配关系,确保用户能够根据自身软件环境准确选择相匹配的版本,以实现最优的性能与功能支持。其中,Ascend Extension for PyTorch(即torch_npu插件)版本号采用{PyTorch版本}-{昇腾版本}命名规则,前者为Ascend Extension for PyTorch匹配的PyTorch版本,后者用于匹配CANN版本。

表1 版本配套表

MindSpeed版本

1.0.RC2

CANN版本

8.0.RC2

PyTorch版本

2.1.0

Ascend Extension for PyTorch版本

6.0.rc2

Ascend Extension for PyTorch安装包版本

2.1.0.post6

Python版本

Python3.8.x,Python3.9.x,Python3.10.x

更多关于PyTorch和CANN的版本信息可点击昇腾辅助软件查看。

安装操作

  1. 安装依赖。

    表2 依赖列表

    依赖软件

    软件版本

    昇腾NPU驱动

    建议您下载并安装左侧软件栈的最新版本,具体请参见CANN 软件安装指南

    昇腾NPU固件

    Toolkit(开发套件)

    Kernels(算子包)

    NNAL(Ascend Transformer Boost加速库)

    PyTorch

    建议您下载并安装左侧软件栈的最新版本,具体可参考Ascend Extension for PyTorch 配置与安装

    torch_npu插件

    apex

  2. 下载MindSpeed源码。

    git clone -b 1.0.RC2 https://gitee.com/ascend/MindSpeed.git

  3. 安装MindSpeed

    如有旧版本MindSpeed,请先卸载,再进行安装操作。

    pip install -e MindSpeed

    如需使用ATB(Ascend Transformer Boost)算子,请在安装前添加环境变量ENABLE_ATB=1,例如:

    ENABLE_ATB=1 pip install -e MindSpeed

  4. 获取Megatron-LM并指定commit id。

    git clone https://github.com/NVIDIA/Megatron-LM.git
    cd Megatron-LM
    git checkout core_r0.6.0