aclnnLayerNormBackward
支持的产品型号
- Atlas 推理系列产品。
- Atlas 训练系列产品。
- Atlas A2训练系列产品/Atlas 800I A2推理产品。
接口原型
每个算子分为undefined,必须先调用“aclnnLayerNormBackwardGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器,再调用“aclnnLayerNormBackward”接口执行计算。
aclnnStatus aclnnLayerNormBackwardGetWorkspaceSize(const aclTensor *gradOut, const aclTensor *input, const aclIntArray *normalizedShape, const aclTensor *mean, const aclTensor *rstd, const aclTensor *weightOptional, const aclTensor *biasOptional, const aclBoolArray *outputMask, aclTensor *gradInputOut, aclTensor *gradWeightOut, aclTensor *gradBiasOut, uint64_t *workspaceSize, aclOpExecutor **executor)
aclnnStatus aclnnLayerNormBackward(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)
功能描述
算子功能:native_layer_norm的反向传播。
aclnnLayerNormBackwardGetWorkspaceSize
参数说明:
gradOut(aclTensor*,计算输入):反向计算的梯度tensor,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入input的数据类型相同。shape与input的shape相等,为[A1,...,Ai,R1,...,Rj], shape长度大于等于normalizedShape的长度。支持undefined,undefined支持ND。
input(aclTensor*,计算输入):正向计算的首个输入,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入gradOut的数据类型相同。shape与gradOut的shape相等,为[A1,...,Ai,R1,...,Rj], shape长度大于等于normalizedShape的长度。支持undefined,undefined支持ND。
normalizedShape(aclIntArray*,计算输入):表示需要进行norm计算的维度,数据类型支持INT64,shape为[R1,...,Rj], 长度小于等于输入input的长度,不支持为空。
mean(aclTensor*,计算输入):正向计算的第二个输出,表示input的均值,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入rstd的数据类型相同且位宽不低于输入input的数据类型。shape与rstd的shape相等,为[A1,...,Ai,1,...,1],Ai后共有j个1,与需要norm的轴长度保持相同。支持undefined,undefined支持ND。
rstd(aclTensor*,计算输入):正向计算的第三个输出,表示input的标准差的倒数,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入mean的数据类型相同且位宽不低于输入input的数据类型。shape与mean的shape相等,为[A1,...,Ai,1,...,1],Ai后共有j个1,与需要norm的轴长度保持相同。支持undefined,undefined支持ND。
weightOptional(aclTensor*,计算输入):权重tensor,可选参数。weightOptional非空时,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品),数据类型与输入input一致或为FLOAT类型,且当biasOptional存在时与biasOptional的数据类型相同。shape与normalizedShape相等,为[R1,...,Rj]。支持undefined,undefined支持ND。weightOptional为空时,需要构造一个shape为[R1,...,Rj],数据类型与输入input相同,数据全为1的tensor。
biasOptional(aclTensor*,计算输入):偏置tensor,可选参数。biasOptional非空时,数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),数据类型与输入input一致或为FLOAT类型,且当weightOptional存在时与weightOptional的数据类型相同。shape与normalizedShape相等,为[R1,...,Rj]。支持undefined,undefined支持ND。biasOptional为空时,不做任何处理。
outputMask(aclBoolArray*,计算输入):数据类型支持BOOL,长度固定为3,取值为True时表示对应位置的输出非空。
gradInputOut(aclTensor*,可选输出):由outputMask的第0个元素控制是否输出,outputMask第0个元素为True时会进行输出,此时数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入input的数据类型相同。shape与input的shape相等,为[A1,...,Ai,R1,...,Rj]。支持undefined,undefined支持ND。
gradWeightOut(aclTensor*,可选输出):由outputMask的第1个元素控制是否输出,outputMask第1个元素为True时会进行输出,此时数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入weightOptional的数据类型相同。shape与gradBiasOut的shape相等,为[R1,...,Rj]。支持undefined,undefined支持ND。
gradBiasOut(aclTensor*,可选输出):由outputMask的第2个元素控制是否输出,outputMask第2个元素为True时会进行输出,此时数据类型支持FLOAT、FLOAT16、BFLOAT16(仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持),与输入weightOptional的数据类型相同。shape与gradWeightOut的shape相等,为[R1,...,Rj]。支持undefined,undefined支持ND。
workspaceSize(uint64_t*, 出参):返回需要在Device侧申请的workspace大小。
executor(aclOpExecutor**, 出参):返回op执行器,包含了算子计算流程。
返回值:
aclnnStatus:返回状态码,具体参见undefined。
aclnnLayerNormBackward
参数说明:
workspace(void*, 入参):在Device侧申请的workspace内存地址。
workspaceSize(uint64_t, 入参):在Device侧申请的workspace大小,由第一段接口aclnnLayerNormBackwardGetWorkspaceSize获取。
executor(aclOpExecutor*, 入参):op执行器,包含了算子计算流程。
stream(aclrtStream, 入参):指定执行任务的 AscendCL Stream流。
返回值:
aclnnStatus:返回状态码,具体参见undefined。
约束与限制
无。
调用示例
示例代码如下,仅供参考,具体编译和执行过程请参考undefined。