昇腾社区首页
中文
注册

aclnnLayerNormBackward

支持的产品型号

  • Atlas 推理系列产品。
  • Atlas 训练系列产品。
  • Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined,必须先调用“aclnnLayerNormBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnLayerNormBackward”接口执行计算。

  • aclnnStatus aclnnLayerNormBackwardGetWorkspaceSize(const aclTensor *gradOut, const aclTensor *input, const aclIntArray *normalizedShape, const aclTensor *mean, const aclTensor *rstd, const aclTensor *weightOptional, const aclTensor *biasOptional, const aclBoolArray *outputMask, aclTensor *gradInputOut, aclTensor *gradWeightOut, aclTensor *gradBiasOut, uint64_t *workspaceSize, aclOpExecutor **executor)
  • aclnnStatus aclnnLayerNormBackward(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

算子功能:native_layer_norm的反向传播。

aclnnLayerNormBackwardGetWorkspaceSize

  • 参数说明:

    • gradOut(aclTensor*,计算输入):反向计算的梯度tensor,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入input的数据类型相同。shape与input的shape相等,为[A1,...,Ai,R1,...,Rj], shape长度大于等于normalizedShape的长度。支持undefinedundefined支持ND。

    • input(aclTensor*,计算输入):正向计算的首个输入,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入gradOut的数据类型相同。shape与gradOut的shape相等,为[A1,...,Ai,R1,...,Rj], shape长度大于等于normalizedShape的长度。支持undefinedundefined支持ND。

    • normalizedShape(aclIntArray*,计算输入):表示需要进行norm计算的维度,数据类型支持INT64,shape为[R1,...,Rj], 长度小于等于输入input的长度,不支持为空。

    • mean(aclTensor*,计算输入):正向计算的第二个输出,表示input的均值,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入rstd的数据类型相同且位宽不低于输入input的数据类型。shape与rstd的shape相等,为[A1,...,Ai,1,...,1],Ai后共有j个1,与需要norm的轴长度保持相同。支持undefinedundefined支持ND。

    • rstd(aclTensor*,计算输入):正向计算的第三个输出,表示input的标准差的倒数,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入mean的数据类型相同且位宽不低于输入input的数据类型。shape与mean的shape相等,为[A1,...,Ai,1,...,1],Ai后共有j个1,与需要norm的轴长度保持相同。支持undefinedundefined支持ND。

    • weightOptional(aclTensor*,计算输入):权重tensor,可选参数。weightOptional非空时,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品),数据类型与输入input一致或为FLOAT类型,且当biasOptional存在时与biasOptional的数据类型相同。shape与normalizedShape相等,为[R1,...,Rj]。支持undefinedundefined支持ND。weightOptional为空时,需要构造一个shape为[R1,...,Rj],数据类型与输入input相同,数据全为1的tensor。

    • biasOptional(aclTensor*,计算输入):偏置tensor,可选参数。biasOptional非空时,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),数据类型与输入input一致或为FLOAT类型,且当weightOptional存在时与weightOptional的数据类型相同。shape与normalizedShape相等,为[R1,...,Rj]。支持undefinedundefined支持ND。biasOptional为空时,不做任何处理。

    • outputMask(aclBoolArray*,计算输入):数据类型支持BOOL,长度固定为3,取值为True时表示对应位置的输出非空。

    • gradInputOut(aclTensor*,可选输出):由outputMask的第0个元素控制是否输出,outputMask第0个元素为True时会进行输出,此时数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入input的数据类型相同。shape与input的shape相等,为[A1,...,Ai,R1,...,Rj]。支持undefinedundefined支持ND。

    • gradWeightOut(aclTensor*,可选输出):由outputMask的第1个元素控制是否输出,outputMask第1个元素为True时会进行输出,此时数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入weightOptional的数据类型相同。shape与gradBiasOut的shape相等,为[R1,...,Rj]。支持undefinedundefined支持ND。

    • gradBiasOut(aclTensor*,可选输出):由outputMask的第2个元素控制是否输出,outputMask第2个元素为True时会进行输出,此时数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入weightOptional的数据类型相同。shape与gradWeightOut的shape相等,为[R1,...,Rj]。支持undefinedundefined支持ND。

    • workspaceSize(uint64_t*, 出参):返回需要在Device侧申请的workspace大小。

    • executor(aclOpExecutor**, 出参):返回op执行器,包含了算子计算流程。

  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

[object Object]

aclnnLayerNormBackward

  • 参数说明:

    • workspace(void*, 入参):在Device侧申请的workspace内存地址。

    • workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnLayerNormBackwardGetWorkspaceSize获取。

    • executor(aclOpExecutor*, 入参):op执行器,包含了算子计算流程。

    • stream(aclrtStream, 入参):指定执行任务的 AscendCL Stream流。

  • 返回值:

    aclnnStatus:返回状态码,具体参见undefined

约束与限制

无。

调用示例

示例代码如下,仅供参考,具体编译和执行过程请参考undefined

[object Object]