昇腾社区首页
中文
注册

aclnnGeGluV3

支持的产品型号

  • Atlas 推理系列产品。
  • Atlas 训练系列产品。
  • Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined,必须先调用“aclnnGeGluV3GetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnGeGluV3”接口执行计算。

  • aclnnStatus aclnnGeGluV3GetWorkspaceSize(const aclTensor *self, int64_t dim, int64_t approximate, bool activateLeft, aclTensor *out, aclTensor *outGelu, uint64_t *workspaceSize, aclOpExecutor **executor)
  • aclnnStatus aclnnGeGluV3(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

  • 算子功能:高斯误差线性单元激活门函数。
  • 计算公式:
outi=GeGlu(selfi)=AGelu(B)out_{i}=GeGlu(self_{i}) = A \cdot Gelu(B)

​ 其中,AA表示selfself的前半部分,BB表示selfself的后半部分。

aclnnGeGluV3GetWorkspaceSize

  • 参数说明:

    • self(aclTensor *, 计算输入):计算的入参,Device侧的aclTensor,数据类型支持FLOAT32、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),支持undefinedundefined支持ND。

    • dim(int64_t, 计算输入):可选入参,设定的slice轴,需要对self对应的轴进行对半切,数据类型支持INT64,同时dim对应的self的轴必须是双数。

    • approximate(int64_t, 计算输入):可选入参,计算使用的激活函数索引,0表示使用none,1表示使用tanh,数据类型支持INT64。

    • activateLeft(bool, 计算输入):计算属性,host侧的布尔值,表示激活函数操作数据块的方向,默认值为false,表示对右边做activate。

    • out(aclTensor *, 计算输出):GeGlu计算的出参,Device侧的aclTensor,数据类型支持FLOAT32、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),支持undefinedundefined支持ND, out的shape跟self的shape除了dim指定的轴外需要保持一致,dim指定的轴为self的shape对应轴的一半。

    • outGelu(aclTensor *, 计算输出): Gelu计算的出参,Device侧的aclTensor,数据类型支持FLOAT32、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),支持undefinedundefined支持ND, outGelu的shape跟self的shape除了dim指定的轴外需要保持一致,dim指定的轴为self的shape对应轴的一半。

    • workspaceSize(uint64_t *, 出参):返回需要在Device侧申请的workspace大小。

    • executor(aclOpExecutor **, 出参):返回op执行器,包含了算子计算流程。

  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

    [object Object]

aclnnGeGluV3

  • 参数说明:

    • workspace(void *, 入参):在Device侧申请的workspace内存地址。

    • workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnGeGluV3GetWorkspaceSize获取。

    • executor(aclOpExecutor *, 入参):op执行器,包含了算子计算流程。

    • stream(aclrtStream, 入参):指定执行任务的 AscendCL Stream流。

  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

约束与限制

无。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考undefined

[object Object]