迁移分析工具
在执行迁移操作前,需借助msFmkTransplt工具,分析基于其他平台(如GPU)的PyTorch训练脚本中算子、三方库套件、亲和API分析以及动态shape在昇腾AI处理器上的支持情况,工具使用详细指导可参见《CANN 分析迁移工具指南》。
分析内容主要包括:
- 算子支持情况分析:用户提供待分析的PyTorch训练脚本,可快速获得该训练脚本中不支持的torch API和cuda API信息,并输出训练脚本中API精度和性能调优的专家建议。
- 三方库套件分析:用户提供待分析的三方库套件源码,可快速获得源码中不支持的三方库API和cuda信息。
三方库API是指在三方库代码中的函数,如果某函数的函数体内使用了不支持的torch算子或者cuda自定义算子,则此函数就是三方库不支持的API。如果第三方库中其他函数调用了这些不支持的API,则这些调用函数也为不支持的API。
- 动态shape分析:用户提供待分析的PyTorch训练脚本,可快速获得该训练脚本中包含的动态shape信息。
- 亲和API分析:用户提供待分析的PyTorch训练脚本,可快速获得该训练脚本中可替换的亲和API信息。
在迁移可行性分析中如果存在平台未支持的算子,可通过修改模型脚本,使用等价支持的算子替换的方式解决,或者参考《套件与三方库支持清单》中的“单算子适配OpPlugin插件开发”章节进行算子适配,也可联系华为工程师提出开发适配诉求。
父主题: 支持度分析