下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

SetFixPipeClipRelu

功能说明

DataCopy(CO1->GM)过程中进行随路量化后,通过调用该接口设置ClipRelu操作的最大值。

ClipRelu计算公式为min(clipReluMaxVal,srcData),clipReluMaxVal为通过该接口设置的最大值,srcData为源数据。

函数原型

1
__aicore__ inline void SetFixPipeClipRelu(uint64_t config)

参数说明

表1 参数说明

参数名称

输入/输出

含义

config

输入

clipReluMaxVal, ClipRelu操作中的最大值。clipReluMaxVal只占用0-15bit,必须大于0,不能为INF/NAN。

支持的型号

Atlas 200/500 A2推理产品

注意事项

使能Relu的情况下,先进行Relu操作,之后再进行ClipRelu。

返回值

调用示例

完整示例可参考完整示例

1
2
uint64_t clipReluMaxVal = 0x3c00; // value 1, half类型转换成uint64_t类型
SetFixPipeClipRelu(clipReluMaxVal);
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词