aclnnGeGluV3
支持的产品型号
- Atlas 推理系列产品。
- Atlas 训练系列产品。
- Atlas A2训练系列产品/Atlas 800I A2推理产品。
接口原型
每个算子分为undefined,必须先调用“aclnnGeGluV3GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnGeGluV3”接口执行计算。
aclnnStatus aclnnGeGluV3GetWorkspaceSize(const aclTensor *self, int64_t dim, int64_t approximate, bool activateLeft, aclTensor *out, aclTensor *outGelu, uint64_t *workspaceSize, aclOpExecutor **executor)
aclnnStatus aclnnGeGluV3(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)
功能描述
- 算子功能:高斯误差线性单元激活门函数。
- 计算公式:
其中,表示的前半部分,表示的后半部分。
aclnnGeGluV3GetWorkspaceSize
参数说明:
self(aclTensor *, 计算输入):计算的入参,Device侧的aclTensor,数据类型支持FLOAT32、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),支持undefined,undefined支持ND。
dim(int64_t, 计算输入):可选入参,设定的slice轴,需要对self对应的轴进行对半切,数据类型支持INT64,同时dim对应的self的轴必须是双数。
approximate(int64_t, 计算输入):可选入参,计算使用的激活函数索引,0表示使用
none
,1表示使用tanh
,数据类型支持INT64。activateLeft(bool, 计算输入):计算属性,host侧的布尔值,表示激活函数操作数据块的方向,默认值为false,表示对右边做activate。
out(aclTensor *, 计算输出):GeGlu计算的出参,Device侧的aclTensor,数据类型支持FLOAT32、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),支持undefined,undefined支持ND, out的shape跟self的shape除了dim指定的轴外需要保持一致,dim指定的轴为self的shape对应轴的一半。
outGelu(aclTensor *, 计算输出): Gelu计算的出参,Device侧的aclTensor,数据类型支持FLOAT32、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),支持undefined,undefined支持ND, outGelu的shape跟self的shape除了dim指定的轴外需要保持一致,dim指定的轴为self的shape对应轴的一半。
workspaceSize(uint64_t *, 出参):返回需要在Device侧申请的workspace大小。
executor(aclOpExecutor **, 出参):返回op执行器,包含了算子计算流程。
返回值:
aclnnStatus:返回状态码,具体参见undefined。
[object Object]
aclnnGeGluV3
参数说明:
workspace(void *, 入参):在Device侧申请的workspace内存地址。
workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnGeGluV3GetWorkspaceSize获取。
executor(aclOpExecutor *, 入参):op执行器,包含了算子计算流程。
stream(aclrtStream, 入参):指定执行任务的 AscendCL Stream流。
返回值:
aclnnStatus:返回状态码,具体参见undefined。
约束与限制
无。
调用示例
示例代码如下,仅供参考,具体编译和执行过程请参考undefined。