quantize_model
功能说明
训练后量化接口,根据用户设置的量化配置文件对图结构进行量化处理,该函数在config_file指定的层插入权重量化层,完成权重量化,并插入数据量化层,将修改后的网络存为新的模型文件。
函数原型
quantize_model(graph, modified_model_file, modified_weights_file)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
---|---|---|---|
graph |
输入 |
用户模型经过init接口解析出来的图结构。 |
数据类型:工具自定义的数据结构Graph |
modified_model_file |
输入 |
文件名,用于存储插入量化层的Caffe模型定义文件(格式为.prototxt)。 |
数据类型:string |
modified_weights_file |
输入 |
文件名,用于存储插入量化层的Caffe模型权重文件(格式为.caffemodel)。 |
数据类型:string |
返回值说明
无。
函数输出
- 量化因子:在init接口中的scale_offset_record_file中写入量化层的权重量化因子(scale_w,offset_w)。
- modified_model_file:修改后模型的定义文件,在原始模型上插入了量化层。
- modified_weights_file:修改后模型的权重文件,在原始模型上插入了量化层。
重新执行量化时,该接口输出的文件将会被覆盖。
调用示例
1 2 3 4 5 |
from amct_caffe import quantize_model # 插入量化API quantize_model(graph=graph, modified_model_file="./quantized_model/modified_model.prototxt", modified_weights_file="./quantized_model/modified_model.caffemodel") |
父主题: 训练后量化接口