下载
中文
注册

使用导读

帮助开发者认识、了解昇腾模型,以及如何基于昇腾Ascend Extension for PyTorch进行模型开发。

文档总览

文档

内容介绍

关键资源获取

产品概述

了解Ascend Extension for PyTorch的架构及关键功能特性。

产品概述

配置与安装

在昇腾设备安装PyTorch框架训练环境,以及升级、卸载等操作。

Ascend Extension for PyTorch 配置与安装

快速体验

以Atlas 800T A2 训练服务器为例,介绍从硬件环境检查、固件与驱动安装、CANN软件安装、PyTorch框架与插件安装、CNN模型迁移与训练的端到端操作过程。

快速体验

模型开发

包含模型的迁移及调优、精度问题定位、性能问题解决等指导,并提供了常用模型案例库。

  • 训练模型迁移调优

    引导具有一定PyTorch模型训练基础的读者,将原本在其他平台(例如GPU)上训练的模型迁移到昇腾平台(NPU)。

  • 精度调试

    介绍大模型训练过程中的精度常见问题、调试方法和典型案例。

  • 性能调优

    介绍NPU性能调优的流程、方法和典型案例。

  • 模型案例

    介绍多模态模型、LLM大模型以及自动驾驶模型的迁移案例。

PyTorch 训练模型迁移调优指南

套件与三方库

包含套件与三方库支持清单,提供基于TorchAir的PyTorch图模式使用和MindSpeed迁移开发的指导。

  • 套件与三方库支持清单

    介绍昇腾设备支持的模型套件与加速库、昇腾已原生支持的第三方库和昇腾自研插件。

  • TorchAir

    介绍将PyTorch的FX图转换为GE计算图,以及GE计算图的编译与执行接口。

  • MindSpeed

    MindSpeed是针对华为昇腾设备的大模型加速库。昇腾提供该加速库,使能客户大模型业务快速迁移至昇腾设备,并且支持昇腾专有算法,确保开箱可用。

API参考

提供PyTorch2.4.0/2.3.1/2.1.0版本原生API接口在昇腾设备上的支持情况与限制说明,以及Ascend Extension for PyTorch自定义API的接口原型、功能描述、参数说明与调用示例等。

API 参考

环境变量

基于Ascend Extension for PyTorch构建AI应用和训练执行中可使用的环境变量。

环境变量参考

相关资源

软件资源

CANN软件及其配套的PyTorch适配插件的下载。

Link

在线课程

提供丰富的在线视频课程供开发者学习,包括PyTorch大模型迁移调优系列课程。

Link