概述
昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用,PyTorch GPU2Ascend工具提供了将基于GPU的脚本迁移为基于NPU的脚本的自动化方法,节省了人工手动进行脚本迁移的学习成本与工作量,大幅提升了迁移效率。
- PyTorch GPU2Ascend工具支持对包括但不限于表1列出的模型进行迁移,迁移成功后可直接运行,部分模型需要根据实际情况进行少量适配。
- 若原始代码中调用了三方库/组件,迁移过程可能会存在适配问题,所以在迁移原始代码前,需要自行安装昇腾已适配的三方库/组件版本。
- PyTorch GPU2Ascend工具当前支持PyTorch1.5.0和1.8.1版本的训练脚本的迁移。
- 原脚本需要在GPU环境下且基于python3.7及以上能够跑通。
- 分析迁移后的执行逻辑与迁移前保持一致。
- 开启相似API替换功能时,会在输出目录下生成ascend_function目录,用于存放当前框架尚不支持的API接口的近似替换接口,迁移后的脚本依赖该目录执行。
父主题: PyTorch GPU2Ascend