restore_quant_retrain_model
功能说明
量化感知训练接口,训练中断后,基于量化感知训练保存的checkpoint和量化配置文件,进行网络模型的修改;加载输入的checkpoint file,输出修改后的retrain network,用户基于该retrain network可以继续进行量化感知训练。
约束说明
checkpoint file是通过量化感知训练保存得到的。
函数原型
retrain_network = restore_quant_retrain_model(config_file, network, checkpoint_path, *input_data)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
|---|---|---|---|
config_file |
输入 |
用户生成的量化感知训练配置文件路径。 |
数据类型:string 使用约束:该接口输入的config.json必须和create_quant_retrain_model接口输入的config.json一致。 |
network |
输入 |
需要进行量化感知训练的MindSpore原始网络。 |
数据类型:MindSpore的Cell对象 |
checkpoint_path |
输入 |
进行量化感知训练得到的checkpoint文件的路径 |
数据类型:string |
input_data |
输入 |
用户网络输入数据(仅要求数据的 format 和shape 正确,数据本身可以是随机生成的),用于图编译。 |
数据类型:可以转化为 MindSpore Tensor 的对象,比如numpy.ndarray 对象。 该参数为可变参数,支持用户网络有多个输入的情况。 |
retrain_network |
返回值 |
修改后的可以用于量化感知训练的网络模型。 |
数据类型:MindSpore的Cell对象 |
返回值说明
修改后的可以用于量化感知训练的网络模型。
函数输出
无。
调用示例
import amct_mindspore as amct
from amct_mindspore.initializer import UlqInitializer
import numpy as np
network = resnet(10)
network.set_train(True)
ckpt_path = os.path.join(CUR_DIR, './ckpt/resnet50.ckpt')
param_dict =load_checkpoint(ckpt_path)
load_param_into_net(network, param_dict)
input_data = np.random.uniform(0.0, 1.0, size=[32, 3, 224, 224]).astype(np.float32)
config_file = os.path.join(CUR_DIR, './retrain_quant_config.json')
# 1. create the quant config
amct.create_quant_retrain_config(config_file,
network,
input_data)
# scale_offset_record.txt is the record file of calibration
initializer = UlqInitializer('./scale_offset_record.txt')
# 2. get the quant aware traing retrain_network
retrain_network = amct.create_quant_retrain_model(config_file, network, initializer, input_data)
# 3. train the retrain_network and save checkpoint file
......
# 4. restore the retrain_model from a checkpoint and keep on training
checkpoint_path = './resnet50_1-1562.ckpt'
retrain_network = amct.restore_quant_retrain_model(config_file, network, checkpoint_path, input_data)
父主题: 量化感知训练