PyTorch模型开发

产品概述

快速了解Ascend Extension for PyTorch的架构及关键功能特性。

《产品概述》

快速体验

以一个简单的模型迁移样例，采用了最简单的自动迁移方法，帮助用户快速体验其他平台的模型脚本迁移到昇腾NPU上的流程，并通过修改脚本代码，使其可以迁移到昇腾NPU上进行训练。

《快速体验》

模型开发

包含了PyTorch模型的迁移及调优、精度问题定位、性能问题解决等指导，并提供了常见模型案例库。

• 训练模型迁移调优

  主要目标是引导具有一定PyTorch模型训练基础的读者，了解如何将原本在其他平台（例如GPU）上训练的模型迁移到昇腾平台（NPU）。

  主要介绍多种类、全流程的迁移过程：无论是针对小规模模型还是大型模型，都提供了详尽的指导。重点关注如何有效地将PyTorch训练模型进行迁移，在昇腾平台上进行训练功能。

• 精度调试

  介绍了大模型训练过程中常见的问题及其调试方法，帮助用户将问题消除在训练开始之前，以及缩短模型精度问题定位的时间。

• 性能调优

  主要介绍NPU性能的拆解和分析以及优化方法。

• 模型案例

  介绍了多模态模型、LLM大模型以及自动驾驶模型的迁移案例。

《PyTorch模型迁移调优指南》

套件与三方库

包含了套件与三方库支持清单以及TorchAir图模式使用和MindSpeed迁移开发的指导。

• 套件与三方库支持清单

  主要介绍昇腾设备支持的模型套件列表、第三方库原生支持和适配清单。

• TorchAir

  主要介绍将PyTorch的FX图转换为GE计算图，并提供了GE计算图的编译与执行接口。

• MindSpeed

  MindSpeed是针对华为昇腾设备的大模型加速库。昇腾提供该加速库，使能客户大模型业务快速迁移至昇腾设备，并且支持昇腾专有算法，确保开箱可用。

• 《套件与三方库支持清单》
• 《PyTorch图模式使用指南（TorchAir）》
• 《MindSpeed迁移开发指南》