基本概念

什么是PyTorch？

PyTorch是一种用于构建深度学习模型的功能完备框架，是一种通常用于图像识别和语言处理等应用程序的机器学习。PyTorch使用Python编写，因此对于大多数机器学习开发者而言，PyTorch学习和使用起来相对简单。

昇腾PyTorch适配了哪些版本？

目前昇腾PyTorch主要推荐使用的是PyTorch 1.11.0、PyTorch 2.1.0和PyTorch 2.2.0版本。

PyTorch与CANN是什么关系？如何配套使用？

CANN（Compute Architecture for Neural Networks）是华为针对AI场景推出的异构计算架构，对上支持多种AI框架，对下服务AI处理器与编程，发挥承上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台。PyTorch适配于昇腾AI处理器的运行是基于CANN软件安装的基础上，部分内容会调用CANN软件的底层内容，来实现PyTorch的功能。

什么是torch_npu？

torch_npu是昇腾开发的Ascend Extension for PyTorch插件，用于适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。

PyTorch框架如何实现算子适配？

PyTorch1.8.1及以上版本官方提供的native_functions.yaml文件定义了PyTorch Native Functions的具体算子定义和分发细节。因此在NPU设备上适配官方已定义算子时，我们不需要重新定义，只需要注册NPU分发即可。因为我们可以根据已支持的算子（supported，autograd）对应解析官方yaml文件得到每个函数的具体格式，所以对应的函数声明和注册分发可以自动化完成，算子迁移和开发的时候只需要关注对应的实现细节即可。

什么是混合精度？

混合精度训练是在训练时混合使用单精度（float32）与半精度（float16）数据类型，将两者结合在一起，并使用相同的超参数实现了与float32几乎相同的精度。由于Atlas 训练系列产品的架构特性，在迁移完成、训练开始之前，用户需要开启混合精度，可以提升模型的性能。在Atlas 训练系列产品上，用户可以选择在迁移完成、训练开始之前开启混合精度，以提升模型性能。