为了便于用户理解和选择合适的MindSpeed版本,我们提供了详细的版本配套表,如表1所示。
该表详细列出了MindSpeed版本与对应的PyTorch、Ascend Extension for PyTorch版本及CANN版本之间的匹配关系,确保用户能够根据自身软件环境准确选择相匹配的版本,以实现最优的性能与功能支持。其中,Ascend Extension for PyTorch(即torch_npu插件)版本号采用{PyTorch版本}-{昇腾版本}命名规则,前者为Ascend Extension for PyTorch匹配的PyTorch版本,后者用于匹配CANN版本。
依赖软件 |
软件版本 |
---|---|
昇腾NPU驱动 |
建议您下载并安装左侧软件栈的最新版本,具体请参见《CANN 软件安装指南》。 |
昇腾NPU固件 |
|
Toolkit(开发套件) |
|
Kernels(算子包) |
|
NNAL(Ascend Transformer Boost加速库) |
|
PyTorch |
建议您下载并安装左侧软件栈的最新版本,具体可参考《Ascend Extension for PyTorch 配置与安装》。 |
torch_npu插件 |
|
apex |
git clone -b 1.0.RC2 https://gitee.com/ascend/MindSpeed.git
如有旧版本MindSpeed,请先卸载,再进行安装操作。
pip install -e MindSpeed
如需使用ATB(Ascend Transformer Boost)算子,请在安装前添加环境变量ENABLE_ATB=1,例如:
ENABLE_ATB=1 pip install -e MindSpeed
git clone https://github.com/NVIDIA/Megatron-LM.git cd Megatron-LM git checkout core_r0.6.0