软件安装

版本配套表

为了便于用户理解和选择合适的MindSpeed版本,我们提供了详细的版本配套表,如表1所示。

该表详细列出了MindSpeed版本与对应的PyTorch、Ascend Extension for PyTorch版本以及CANN版本之间的匹配关系,确保用户能够根据自身软件环境准确选择相匹配的版本,以实现最优的性能与功能支持。

表1 版本配套表

MindSpeed版本

1.0.0

MindSpeed代码分支名称

1.0.0_core_r0.6.0

说明:

配套Megatron-LM的core_r0.6.0分支。

1.0.0_core_r0.7.0

说明:

配套Megatron-LM的core_r0.7.0分支。

CANN版本

8.0.0

PyTorch版本

2.1.0

Ascend Extension for PyTorch版本

6.0.0

Ascend Extension for PyTorch安装包版本

2.1.0.post10

Python版本

Python3.8.x,Python3.9.x,Python3.10.x

  • 用户请根据需要选择MindSpeed代码分支下载源码并进行安装。
  • 更多关于PyTorch和CANN的版本信息可点击昇腾辅助软件查看。

安装操作

  1. 安装依赖的软件。

    表2 软件列表

    依赖软件

    软件版本

    昇腾NPU驱动

    建议您下载并安装左侧软件栈的最新版本,具体请参见CANN 软件安装指南

    昇腾NPU固件

    Toolkit(开发套件)

    Kernels(算子包)

    NNAL(Ascend Transformer Boost加速库)

    PyTorch框架

    建议您下载并安装左侧软件栈的最新版本,具体请参见Ascend Extension for PyTorch 配置与安装

    torch_npu插件

    apex

  2. 下载MindSpeed源码。

    • 1.0.0_core_r0.6.0分支
      git clone -b 1.0.0_core_r0.6.0 https://gitee.com/ascend/MindSpeed.git
    • 1.0.0_core_r0.7.0分支
      git clone -b 1.0.0_core_r0.7.0 https://gitee.com/ascend/MindSpeed.git

  3. 安装MindSpeed

    pip3 install -e MindSpeed

    如有旧版本MindSpeed,请先卸载,再进行安装操作。

  4. 获取Megatron-LM并指定分支。

    • core_r0.6.0分支
      git clone https://github.com/NVIDIA/Megatron-LM.git
      cd Megatron-LM
      git checkout core_r0.6.0
    • core_r0.7.0分支
      git clone https://github.com/NVIDIA/Megatron-LM.git
      cd Megatron-LM
      git checkout core_r0.7.0

卸载

可参考如下命令:

pip3 uninstall -y mindspeed