运行流程

图1 运行流程
表1 运行流程关键操作步骤说明

关键步骤

说明

搭建带NPU设备的训练环境

参见CANN 软件安装指南手册搭建对应环境。

安装AMCT

参见工具安装安装AMCT。安装之前需要完成获取软件包,创建AMCT安装用户、环境检查、安装依赖、上传软件包等一系列准备动作。

执行量化

使用AMCTamct_acl将模型量化为.air模型,具体量化操作请参见执行量化

(后续处理)量化后模型的推理

借助CANN软件包提供的ATC工具,将量化后的.air模型转换成适配昇腾AI处理器的离线模型。使用转换后的离线模型,在昇腾AI处理器完成推理业务。