create_compressed_retrain_model
功能说明
静态组合压缩接口,根据用户设置的压缩配置文件对图结构先进行稀疏(通道稀疏或者4选2结构化稀疏,二选一),后插入量化相关的算子,并返回修改后的图。
约束说明
组合压缩配置文件至少存在一个配置:稀疏配置或者量化配置。
函数原型
quant_add_ops = create_compressed_retrain_model(graph, config_defination, outputs, record_file)
参数说明
参数名 |
输入/返回值 |
含义 |
使用限制 |
---|---|---|---|
graph |
输入 |
待稀疏的tf.Graph图。 |
数据类型:tf.Graph |
config_defination |
输入 |
静态组合压缩简易配置文件路径。 用户提供的组合压缩配置文件,用于指定模型tf.Graph图中各层压缩配置情况。 基于retrain_config_tf.proto文件生成的简易配置文件compressed.cfg,retrain_config_tf.proto文件所在路径为:AMCT安装目录/amct_tensorflow/proto/retrain_config_tf.proto。 retrain_config_tf.proto文件参数解释以及生成的compressed.cfg简易配置文件样例请参见量化感知训练简易配置文件。 |
数据类型:string |
outputs |
输入 |
模型输出节点的名称。 |
数据类型:list,列表中元素类型为string |
record_file |
输入 |
待记录稀疏和量化因子文件路径及名称。 |
数据类型:string |
quant_add_ops |
返回值 |
组合压缩插入的算子变量列表。 |
数据类型:list,列表中元素类型为tf.Variable |
返回值说明
组合压缩的层名变量列表。
函数输出
- 插入稀疏和量化算子的图。
- 记录稀疏信息和量化因子的record文件。
调用示例
1 2 |
import amct_tensorflow as amct amct.create_compressed_retrain_model(graph, './tmp/sample.cfg', [operation_name_1, operation_name_2], './tmp/record.txt') |
父主题: 组合压缩接口