--compression_optimize_conf

功能说明

模型压缩功能配置文件路径以及文件名，通过该参数使能配置文件中指定的模型压缩特性，从而提升网络性能。

关联参数

无。

参数取值

参数值：配置文件路径以及文件名。

参数值格式：路径和文件名：支持大小写字母（a-z，A-Z）、数字（0-9）、下划线（_）、中划线（-）、句点（.）、中文字符。

参数值约束：当前配置文件仅支持calibration特性，用于使能graph压缩功能。配置文件中冒号前面表示模型压缩特征，冒号后面表示该特性对应的参数。具体请参考示例。当前版本calibration特性为试用特性，后续版本会进一步优化，不支持应用于商用产品中。

参数默认值：无。

推荐配置及收益

无

示例

假设模型压缩功能配置文件名称为compression_optimize.cfg，文件内容配置示例如下：

calibration: 
{
    input_data_dir: ./data.bin,d2.bin
    input_shape: "in:16,16;in1:16,16"
    config_file: simple_config.cfg
    infer_soc: Ascend310P3
    log: info
}

• calibration：模型压缩特性名称，不需要修改。表示训练后量化，各参数说明如下，配置该压缩特性时，只有昇腾310P AI处理器、昇腾910 AI处理器场景下可用。
  • input_data_dir：必选配置，模型输入校准数据的bin文件名称。若模型有多个输入，则多个输入的bin数据文件以英文逗号分隔。
  • input_shape：必选配置，模型输入校准数据的shape信息，例如：input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2。指定的节点必须放在双引号中，节点中间使用英文分号分隔。
  • config_file：可选配置，训练后量化简易配置文件。关于该文件的详细说明请参见《AMCT工具（AscendCL接口方式）》>简易配置文件章节。
  • infer_soc：必选配置，进行训练后量化校准推理时，所使用的芯片名称，当前只支持配置为Ascend310P3、AscendxxxA、AscendxxxB。
  • log：可选配置，设置训练后量化时的日志等级，该参数只控制训练后量化过程中显示的日志级别，默认显示info级别。该参数支持如下选项：
    • debug：输出debug/info/warning/error/event级别的日志信息。
    • info：输出info/warning/error/event级别的日志信息。
    • warning：输出warning/error/event级别的日志信息。
    • error：输出error/event级别的日志信息。
    此外，训练后量化过程中的日志打屏以及日志落盘信息由AMCT_LOG_DUMP环境变量进行控制：

    • export AMCT_LOG_DUMP=1：表示日志打印到屏幕。
    • export AMCT_LOG_DUMP=2：保存量化因子record文件，并将日志落盘到当前路径的amct_log_时间戳/amct_acl.log文件中。
    • export AMCT_LOG_DUMP=3：保存量化因子record文件和graph文件，并将日志落盘到当前路径的amct_log_时间戳/amct_acl.log文件中。

将该文件上传到AOE工具所在服务器，例如上传到$HOME/module，使用示例如下：

--compression_optimize_conf=$HOME/module/compression_optimize.cfg

依赖约束

无。