概述

AMP功能在昇腾PyTorch1.8.1版本及以上可用，类似于APEX开启动态Loss Scale下的O1模式，AMP也是通过将部分算子的输入转换为FP16类型来实现混合精度的训练。