文档
注册

--fusion_switch_file

功能说明

融合规则(包括图融合和UB融合)开关配置文件路径以及文件名,通过该参数关闭配置文件中指定的融合规则。

关联参数

无。

参数取值

参数值:融合开关配置文件路径以及文件名。

参数值格式:路径和文件名:支持大小写字母(a-z,A-Z)、数字(0-9)、下划线(_)、中划线(-)、句点(.)、中文字符。

参数值约束:如果用户想使用经过模型小型化工具量化后的模型,进行精度比对,则该参数必填。通过配置该文件,关闭融合功能。

推荐配置及收益

无。

示例

配置文件样例如下,冒号前面为融合规则名,后面字段表示融合规则是否开启(文件名举例为fusion_switch.cfg,关于融合规则详细介绍请参见图融合和UB融合规则参考

RequantFusionPass:off
TbeConvDequantVaddReluQuantFusionPass:off
TbeConvDequantQuantFusionPass:off
TbePool2dQuantFusionPass:off

将配置好的fusion_switch.cfg文件上传到调优引擎所在服务器任意目录,例如上传到/home/Davinci/,使用示例如下:

--fusion_switch_file=/home/Davinci/fusion_switch.cfg

依赖约束

使用约束:若网络模型中Convolution算子的“group”属性取值==模型文件prototxt中“num_output”属性的取值,则上述配置文件中“RequantFusionPass”必须打开。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词