清单列表
为扩展Ascend Extension for PyTorch能力,昇腾自研的插件清单如下所示。
名称 |
介绍 |
版本要求 |
适配说明 |
---|---|---|---|
TorchAir |
TorchAir是为torch_npu提供图模式能力的扩展库,支持用户使用PyTorch和torch_npu在昇腾设备上进行图模式的训练和推理。TorchAir对外提供昇腾设备的图模式编译后端,对接PyTorch的dynamo特性,将PyTorch的FX计算图转换为昇腾的GE计算图,并提供在昇腾设备上启动GE计算图编译和执行的能力。 |
PyTorch版本为2.1.0或2.3.1。 Ascend Extension for PyTorch插件版本为6.0.RC3。 |
|
OpPlugin |
OPPlugin插件提供了将PyTorch算子映射到昇腾AI处理器的功能,为使用PyTorch框架的开发者提供了便捷的NPU算子库调用能力。 |
OpPlugin的版本为master。 |
请参考LINK安装该库,具体单算子模式下的适配OpPlugin插件开发流程和使用样例可参考单算子适配OpPlugin插件开发。 |
Torchvision Adapter |
Torchvision Adapter插件用于昇腾适配Torchvision框架。 目前该框架增加了对Torchvision所提供的常用算子的支持,基于cv2和昇腾NPU的图像处理加速后端提供图像处理加速能力。 |
Torchvision版本为 0.16.0,PyTorch版本为2.1.0。 |
|
Apex Patch |
Apex Patch以代码patch的形式发布,用户通过对原始Apex进行patch,可以在华为昇腾AI处理器上,使用Apex的自动混合精度训练功能进行模型训练,提升AI模型的训练效率,同时保持模型的精度和稳定性。此外,Apex-patch额外提供了如梯度融合、融合优化器等,以提升部分场景下模型在昇腾NPU上的训练效率,供用户选择使用。 |
- |
|
deepspeed_npu |
Atlas 训练系列产品时需通过安装deepspeed_npu后才可以在昇腾上使用deepspeed,并基于deepspeed进行开发。 |
要求deepspeed版本为0.9.2。 |