下载
中文
注册

PrecisionReduceFlag

函数功能

此字段用于进行ATC模型转换或者进行网络调测时,控制算子的精度模式。只有当精度模式("precision_mode")配置为混合精度("allow_mix_precision")前提下生效。

函数原型

OpAICoreConfig& PrecisionReduceFlag(bool flag);

参数说明

参数

输入/输出

说明

flag

输入

  • 若配置为"false",则认为是黑名单,算子必须保持算子本身的原始数据类型。
  • 若配置为"true",则认为是白名单,如果算子既支持float32又支持float16数据类型,同时算子的原图格式是float32或者float16的情况下,优先为算子选择float16数据类型。
  • 若未配置这个字段,则认为是灰名单,在有上一个算子的情况下, 选择和上一个算子相同的数据类型,否则选择当前算子的原始数据类型。

返回值说明

OpAICoreConfig类,请参考OpAICoreConfig

约束说明