文档
注册

使用前必读

概述

昇腾NPU是AI算力的后起之秀,但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异,基于GPU的训练和在线推理脚本不能直接在NPU上使用,msFmkTransplt工具提供了0代码迁移工具和PyTorch GPU2Ascend脚本迁移工具两种方式,将基于GPU的脚本迁移为基于NPU的脚本的自动化方法,节省了人工手动进行脚本迁移的学习成本与工作量,大幅提升了迁移效率。

  • msFmkTransplt工具支持对包括但不限于模型列表列出的模型进行迁移,迁移成功后可直接运行,部分模型需要根据实际情况进行少量适配。
  • 若原始代码中调用了三方库/组件,迁移过程可能会存在适配问题,所以在迁移原始代码前,需要自行安装昇腾已适配的三方库/组件版本。
  • msFmkTransplt工具当前支持PyTorch1.5.0和1.8.1版本的训练脚本的分析和迁移。
  • 原脚本需要在GPU环境下且基于python3.7及以上能够跑通。
  • 分析迁移后的执行逻辑与迁移前保持一致。
  • 开启相似API替换功能时,会在输出目录下生成ascend_function目录,用于保存当前框架尚不支持的API接口的近似替换接口,迁移后的脚本执行时依赖该目录。

环境准备

  • 安装开发套件包,具体操作请参考CANN 软件安装指南的“安装开发环境”章节。
  • 使用PyTorch GPU2Ascend工具,执行PyTorch训练脚本迁移前须安装如下依赖(以root用户安装为例,非root用户需加--user参数)。
    pip3 install pandas         #pandas版本号需大于或等于1.2.4
    pip3 install libcst
    pip3 install jedi           #可选,用于跨文件解析,建议安装

配置环境变量

  1. 以运行用户登录,在任意目录下执行vi ~/.bashrc命令,打开.bashrc文件,在文件最后一行后面添加以下内容(以非root用户的默认安装路径为例)。
    # Ascend-cann-toolkit环境变量(请根据实际路径修改)
    source ~/Ascend/ascend-toolkit/set_env.sh
  2. 执行:wq!命令保存文件并退出。
  3. 执行source ~/.bashrc命令使其立即生效。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词