下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

使用导读

帮助开发者认识、了解昇腾模型,以及如何基于昇腾Ascend Extension for PyTorch进行模型开发。

文档总览

文档

内容介绍

关键资源获取

产品概述

快速了解Ascend Extension for PyTorch的架构及关键功能特性。

产品概述

配置与安装

详细介绍不同昇腾硬件产品形态的安装方案、环境搭建流程,以及卸载、其他常用操作等。

配置与安装

快速体验

以一个简单的模型迁移样例,采用了最简单的自动迁移方法,帮助用户快速体验其他平台的模型脚本迁移到昇腾NPU上的流程,并通过修改脚本代码,使其可以迁移到昇腾NPU上进行训练。

快速体验

模型开发

包含了大模型的迁移及调优、精度问题定位、性能问题解决等指导,并提供了常见模型案例库。

  • 训练模型迁移调优

    主要目标是引导具有一定PyTorch模型训练基础的读者,了解如何将原本在其他平台(例如GPU)上训练的模型迁移到昇腾平台(NPU)。

    主要介绍多种类、全流程的迁移过程:无论是针对小规模模型还是大型模型,都提供了详尽的指导。重点关注如何有效地将PyTorch训练模型进行迁移,在昇腾平台上进行训练功能。

  • 精度调试

    介绍了大模型训练过程中常见的问题及其调试方法,帮助用户将问题消除在训练开始之前,以及缩短模型精度问题定位的时间。

  • 性能调优

    主要介绍NPU性能的拆解和分析以及优化方法。

  • 模型案例

    介绍了多模态模型、LLM大模型以及自动驾驶模型的迁移案例。

PyTorch 训练模型迁移调优指南

套件与三方库

包含了套件与三方库支持清单,提供了基于TorchAir的PyTorch图模式使用和MindSpeed迁移开发的指导。

  • 套件与三方库支持清单

    主要介绍昇腾设备支持的模型套件列表、第三方库原生支持和适配清单。

  • TorchAir

    主要介绍将PyTorch的FX图转换为GE计算图,并提供了GE计算图的编译与执行接口。

  • MindSpeed

    MindSpeed是针对华为昇腾设备的大模型加速库。昇腾提供该加速库,使能客户大模型业务快速迁移至昇腾设备,并且支持昇腾专有算法,确保开箱可用。

API参考

主要介绍原生PyTorch框架2.2.0/2.1.0/1.11.0的API接口支持情况与限制说明以及Ascend Extension for PyTorch自定义API的接口说明、功能描述、参数说明与使用示例。

API 参考

环境变量

包含了开发者基于CANN及Ascend Extension for PyTorch构建AI应用和训练执行中可使用的环境变量。

《CANN 环境变量参考》中的“Ascend Extension for PyTorch”章节

相关资源

软件资源

CANN软件及其配套的PyTorch适配插件的下载。

Link

在线课程

提供丰富的在线视频课程供开发者学习,包括PyTorch大模型迁移调优系列课程。

Link

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词