aclnnGroupedBiasAddGrad

支持的产品型号

• Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined，必须先调用“aclnnGroupedBiasAddGradGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnGroupedBiasAddGrad”接口执行计算。

• aclnnStatus aclnnGroupedBiasAddGradGetWorkspaceSize(const aclTensor *gradY, const aclTensor *groupIdxOptional, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor)
• aclnnStatus aclnnGroupedBiasAddGrad(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream)

功能描述

• 算子功能：实现groupBiasAdd的反向计算。
• 计算公式：[object Object] (1) 有可选输入groupIdxOptional时：

$$out(G,H) = \begin{cases} \sum_{i=groupIdxOptional(j-1)}^{groupIdxOptional(j)} gradY(i, H), & 1 \leq j \leq G-1 \\ \sum_{i=0}^{groupIdxOptional(j)} gradY(i, H), & j = 0 \end{cases}$$

  其中，gradY共2维，H表示gradY最后一维的大小，G表示groupIdxOptional第0维的大小，即groupIdxOptional有G个数，groupIdxOptional(j)表示第j个数的大小，计算后out为2维，shape为(G, H)。[object Object]   (2) 无可选输入groupIdxOptional时：

$$out(G, H) = \sum_{i=0}^{C} gradY(G, i, H)$$

  其中，gradY共3维，G, C, H依次表示gradY第0-2维的大小，计算后out为2维，shape为(G, H)。

• 示例：[object Object] (1) 有可选输入groupIdxOptional时：[object Object] gradY的shape为(1000, 30)，groupIdxOptional为(400, 600, 1000)，将gradY分为3组，每组累加的行数依次为400、200、400，计算后out的shape为(3, 30)。[object Object] (2) 无可选输入groupIdxOptional时：[object Object] gradY的shape为(10, 100, 30)，将gradY分为10组，每组累加的行数均为100，计算后out的shape为(10, 30)。

aclnnGroupedBiasAddGradGetWorkspaceSize

• 参数说明：

  • gradY（aclTensor*，计算输入）: 必选参数，反向传播梯度，公式中的gradY，Device侧的aclTensor，数据类型支持FLOAT,FLOAT16,BFLOAT16。有可选输入groupIdxOptional时，shape仅支持2维，无可选输入groupIdxOptional时，shape仅支持3维，支持undefined，undefined支持ND。
  • groupIdxOptional（aclTensor*，计算输入）: 可选参数，每个分组结束位置，公式中的groupIdxOptional，Device侧的aclTensor，数据类型支持INT32，INT64，shape仅支持1维，支持undefined，undefined支持ND。
  • out（aclTensor*，计算输出）: bias的梯度，公式中的out，Device侧的aclTensor，数据类型支持FLOAT,FLOAT16,BFLOAT16，数据类型必须与gradY的数据类型一致，shape仅支持2维，支持undefined，undefined支持ND。
  • workspaceSize（uint64_t*，出参）: 返回需要在Device侧申请的workspace大小。
  • executor（aclOpExecutor**，出参）: 返回op执行器，包含了算子计算流程。

• 返回值：

  aclnnStatus: 返回状态码，具体参见undefined。

  [object Object]

aclnnGroupedBiasAddGrad

• 参数说明：

  • workspace（void*，入参）: 在Device侧申请的workspace内存地址。
  • workspaceSize（uint64_t，入参）: 在Device侧申请的workspace大小，由第一段接口aclnnGroupedBiasAddGradGetWorkspaceSize获取。
  • executor（aclOpExecutor*，入参）: op执行器，包含了算子计算流程。
  • stream（aclrtStream，入参）: 指定执行任务的 AscendCL Stream流。

• 返回值：

  aclnnStatus: 返回状态码，具体参见undefined。

约束与限制

• groupIdxOptional最大支持2048个数。
• 有可选输入groupIdxOptional时，需要保证Tensor数据是递增排列，且最后一个数值需要等于gradY第0维的大小。
• 有可选输入groupIdxOptional时，需要保证Tensor数值不超过INT32最大值，并且是非负数。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。