下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

--calibration_config

功能说明

训练后量化简易配置文件路径与文件名。

如果用户自己构造了训练后量化简易配置文件:即用户自行决定哪些层进行量化,哪些层不量化,则需要使用该参数。

关联参数

该参数不能与--batch_num参数同时使用。

参数取值

参数值:量化简易配置文件路径与文件名。

参数值约束:路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)、中文字符。

参数默认值:None

推荐配置及收益

无。

示例

--calibration_config=./config.cfg

文件样例如下所示,参数说明请参见表1。(如下文件中的所有参数取值都为示例,请根据实际情况进行修改)

# global quantize parameter
batch_num : 2
activation_offset : true
joint_quant : false
skip_layers : "conv_1"
skip_layer_types:"Conv2D"
do_fusion: true
skip_fusion_layers : "conv_1"
common_config : {
    arq_quantize : {
        channel_wise : true
    }
    ifmr_quantize : {
        search_range_start : 0.7
        search_range_end : 1.3
        search_step : 0.01
        max_percentile : 0.999999
        min_percentile : 0.999999
    }
}
 
override_layer_types : {
    layer_type : "MatMul"
    calibration_config : {
        arq_quantize : {
            channel_wise : false
        }
        ifmr_quantize : {
            search_range_start : 0.8
            search_range_end : 1.2
            search_step : 0.02
            max_percentile : 0.999999
            min_percentile : 0.999999
        }
    }
}

使用约束

该参数只在训练后量化场景使用。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词