下载
中文
注册

create_compressed_retrain_model

功能说明

静态组合压缩接口,根据用户设置的压缩配置文件对图结构先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后插入量化相关的算子,并返回修改后的图。

约束说明

组合压缩配置文件至少存在一个配置:稀疏配置或者量化配置。

函数原型

quant_add_ops = create_compressed_retrain_model(graph, config_defination, outputs, record_file)

参数说明

参数名

输入/返回值

含义

使用限制

graph

输入

待稀疏的tf.Graph图。

数据类型:tf.Graph

config_defination

输入

静态组合压缩简易配置文件路径。

用户提供的组合压缩配置文件,用于指定模型tf.Graph图中各层压缩配置情况。

基于retrain_config_tf.proto文件生成的简易配置文件compressed.cfg,retrain_config_tf.proto文件所在路径为:AMCT安装目录/amct_tensorflow/proto/retrain_config_tf.proto。

retrain_config_tf.proto文件参数解释以及生成的compressed.cfg简易配置文件样例请参见量化感知训练简易配置文件

数据类型:string

outputs

输入

模型输出节点的名称。

数据类型:list,列表中元素类型为string

record_file

输入

待记录稀疏和量化因子文件路径及名称。

数据类型:string

quant_add_ops

返回值

组合压缩插入的算子变量列表。

数据类型:list,列表中元素类型为tf.Variable

返回值说明

组合压缩的层名变量列表。

函数输出

  • 插入稀疏和量化算子的图。
  • 记录稀疏信息和量化因子的record文件。

调用示例

1
2
import amct_tensorflow as amct
amct.create_compressed_retrain_model(graph, './tmp/sample.cfg', [operation_name_1, operation_name_2], './tmp/record.txt')