下载
EN
注册

SetFixPipeClipRelu

功能说明

DataCopy(CO1->GM)过程中进行随路量化后,通过调用该接口设置ClipRelu操作的最大值。

ClipRelu计算公式为min(clipReluMaxVal,srcData),clipReluMaxVal为通过该接口设置的最大值,srcData为源数据。

函数原型

1
__aicore__ inline void SetFixPipeClipRelu(uint64_t config)

参数说明

表1 参数说明

参数名称

输入/输出

含义

config

输入

clipReluMaxVal,ClipRelu操作中的最大值。clipReluMaxVal只占用0-15bit,必须大于0,不能为INF/NAN。

支持的型号

Atlas 200I/500 A2 推理产品

注意事项

使能Relu的情况下,先进行Relu操作,之后再进行ClipRelu。

返回值

调用示例

完整示例可参考完整示例

1
2
uint64_t clipReluMaxVal = 0x3c00; // value 1, half类型转换成uint64_t类型
SetFixPipeClipRelu(clipReluMaxVal);