SetFixPipeClipRelu
功能说明
DataCopy(CO1->GM)过程中进行随路量化后,通过调用该接口设置ClipRelu操作的最大值。
ClipRelu计算公式为min(clipReluMaxVal,srcData),clipReluMaxVal为通过该接口设置的最大值,srcData为源数据。
函数原型
1 | __aicore__ inline void SetFixPipeClipRelu(uint64_t config) |
参数说明
参数名称 |
输入/输出 |
含义 |
---|---|---|
config |
输入 |
clipReluMaxVal, ClipRelu操作中的最大值。clipReluMaxVal只占用0-15bit,必须大于0,不能为INF/NAN。 |
支持的型号
Atlas 200/500 A2推理产品
注意事项
使能Relu的情况下,先进行Relu操作,之后再进行ClipRelu。
返回值
无
调用示例
完整示例可参考完整示例。
1 2 | uint64_t clipReluMaxVal = 0x3c00; // value 1, half类型转换成uint64_t类型 SetFixPipeClipRelu(clipReluMaxVal); |
父主题: 矩阵计算