restore_quant_retrain_model
功能说明
量化感知训练接口,将输入的待量化的图结构按照给定的量化感知训练配置文件进行量化处理,在传入的图结构中插入量化感知训练相关的算子(数据和权重的量化感知训练层以及找N的层),生成量化因子记录文件record_file,加载训练过程中保存的checkpoint权重参数,返回修改后的torch.nn.module量化感知训练模型。
函数原型
quant_retrain_model = restore_quant_retrain_model (config_file, model, record_file, input_data, pth_file, state_dict_name=None)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
---|---|---|---|
config_file |
输入 |
用户生成的量化感知训练配置文件,用于指定模型network中量化层的配置情况。 |
数据类型:string 使用约束:该接口输入的config.json必须和create_quant_retrain_model接口输入的config.json一致。 |
model |
输入 |
待进行量化感知训练的原始模型,未加载权重。 |
数据类型:torch.nn.module |
record_file |
输入 |
量化因子记录文件路径及名称。 |
数据类型:string |
input_data |
输入 |
模型的输入数据。一个torch.tensor会被等价为tuple(torch.tensor)。 |
数据类型:tuple |
pth_file |
输入 |
训练过程中保存的权重文件。 |
数据类型:string |
state_dict_name |
输入 |
权重文件中的权重对应的键值。 |
默认值:None 数据类型:string |
quant_retrain_model |
返回值 |
修改后的torch.nn.module量化感知训练模型。 |
默认值:None 数据类型:torch.nn.module |
返回值说明
量化感知训练的模型。
函数输出
无。
调用示例
import amct_pytorch as amct # 建立待量化的网络图结构 model = build_model() input_data = tuple([torch.randn(input_shape)]) scale_offset_record_file = os.path.join(TMP, 'scale_offset_record.txt') # 插入量化API quant_retrain_model = amct.restore_quant_retrain_model( config_json_file, model, scale_offset_record_file, input_data, pth_file)