--fusion_switch_file
功能说明
融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。
关联参数
无。
参数取值
参数值:融合开关配置文件路径以及文件名。
参数值格式:路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)、中文字符。
参数值约束:如果用户想使用经过模型小型化工具量化后的模型,进行精度比对,则该参数必填。通过配置该文件,关闭融合功能。
推荐配置及收益
无。
示例
配置文件样例如下,冒号前面为融合规则名,后面字段表示融合规则是否开启(文件名举例为fusion_switch.cfg,关于融合规则详细介绍请参见《图融合和UB融合规则参考》:
RequantFusionPass:off TbeConvDequantVaddReluQuantFusionPass:off TbeConvDequantQuantFusionPass:off TbePool2dQuantFusionPass:off
将配置好的fusion_switch.cfg文件上传到调优引擎所在服务器任意目录,例如上传到/home/Davinci/,使用示例如下:
--fusion_switch_file=/home/Davinci/fusion_switch.cfg
依赖约束
使用约束:若网络模型中Convolution算子的“group”属性取值==模型文件prototxt中“num_output”属性的取值,则上述配置文件中“RequantFusionPass”必须打开。
父主题: 高级功能