下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

PyTorch模型开发

帮助开发者认识、了解昇腾模型,以及如何基于昇腾Ascend Extension for PyTorch进行模型开发。

文档总览

文档

内容介绍

关键资源获取

产品概述

快速了解Ascend Extension for PyTorch的架构及关键功能特性。

产品概述

配置与安装

详细介绍不同昇腾硬件产品形态的安装方案、环境搭建流程,以及卸载、其他常用操作等。

Ascend Extension for PyTorch 配置与安装

快速体验

以一个简单的模型迁移样例,采用了最简单的自动迁移方法,帮助用户快速体验其他平台的模型脚本迁移到昇腾NPU上的流程,并通过修改脚本代码,使其可以迁移到昇腾NPU上进行训练。

快速体验

模型开发

包含了大模型的迁移及调优、精度问题定位、性能问题解决等指导,并提供了常见模型案例库。

  • 训练模型迁移调优

    主要目标是引导具有一定PyTorch模型训练基础的读者,了解如何将原本在其他平台(例如GPU)上训练的模型迁移到昇腾平台(NPU)。

    主要介绍多种类、全流程的迁移过程:无论是针对小规模模型还是大型模型,都提供了详尽的指导。重点关注如何有效地将PyTorch训练模型进行迁移,在昇腾平台上进行训练功能。

  • 精度调试

    介绍了大模型训练过程中常见的问题及其调试方法,帮助用户将问题消除在训练开始之前,以及缩短模型精度问题定位的时间。

  • 性能调优

    主要介绍NPU性能的拆解和分析以及优化方法。

  • 模型案例

    介绍了多模态模型、LLM大模型以及自动驾驶模型的迁移案例。

PyTorch 训练模型迁移调优指南

套件与三方库

包含了套件与三方库支持清单,提供了基于TorchAir的PyTorch图模式使用和MindSpeed迁移开发的指导。

  • 套件与三方库支持清单

    主要介绍昇腾设备支持的模型套件列表、第三方库原生支持和适配清单。

  • TorchAir

    主要介绍将PyTorch的FX图转换为GE计算图,并提供了GE计算图的编译与执行接口。

  • MindSpeed

    MindSpeed是针对华为昇腾设备的大模型加速库。昇腾提供该加速库,使能客户大模型业务快速迁移至昇腾设备,并且支持昇腾专有算法,确保开箱可用。

API参考

主要介绍原生PyTorch框架2.3.1/2.2.0/2.1.0/1.11.0的API接口支持情况与限制说明以及Ascend Extension for PyTorch自定义API的接口说明、功能描述、参数说明与使用示例。

API 参考

环境变量

包含了开发者基于CANN及Ascend Extension for PyTorch构建AI应用和训练执行中可使用的环境变量。

《CANN 环境变量参考》中的“Ascend Extension for PyTorch”章节

相关资源

软件资源

CANN软件及其配套的PyTorch适配插件的下载。

Link

在线课程

提供丰富的在线视频课程供开发者学习,包括PyTorch大模型迁移调优系列课程。

Link

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词