工具运行流程

具体运行流程如图1所示。

图1 运行流程
表1 运行流程关键操作步骤说明

关键步骤

说明

搭建带NPU设备的训练环境

参见CANN 软件安装指南手册搭建对应环境。

安装MindSpore

参见https://www.mindspore.cn/install路径安装相应版本的MindSpore,并完成安装验证。

安装AMCT

参见工具安装安装MindSpore框架的AMCT。安装之前需要完成获取软件包,创建AMCT安装用户、环境检查、安装依赖、上传软件包等一系列准备动作。

执行量化

  1. 执行量化前,需要设置环境变量,请参见安装后处理
  2. 准备模型,数据集以及校准集,然后参见训练后量化量化感知训练,利用AMCT进行MindSpore网络模型的量化。

(后续处理)量化后模型的推理

借助CANN软件包提供的ATC工具,将量化后的.air模型转换成适配昇腾AI处理器的离线模型。使用转换后的om离线模型,在昇腾AI处理器完成推理业务。