aclnnInplaceQuantScatter

支持的产品型号

• Atlas A2训练系列产品/Atlas 800I A2推理产品。
• Atlas 推理系列产品。

接口原型

每个算子分为undefined，必须先调用“aclnnInplaceQuantScatterGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnInplaceQuantScatter”接口执行计算。

• aclnnStatus aclnnInplaceQuantScatterGetWorkspaceSize(aclTensor* selfRef, const aclTensor* indices, const aclTensor* updates, const aclTensor* quantScales, const aclTensor* quantZeroPoints, int64_t axis, int64_t quantAxis, int64_t reduction, uint64_t* workspaceSize, aclOpExecutor** executor)
• aclnnStatus aclnnInplaceQuantScatter(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

功能描述

先将updates进行量化，然后将updates中的值按指定的轴axis和索引indices逐个更新selfRef中的值。

aclnnInplaceQuantScatterGetWorkspaceSize

• 参数说明：

  • selfRef(aclTensor*, 计算输入|计算输出)：Device侧的Tensor，源数据张量，数据类型支持INT8，支持3-8维，undefined支持ND，支持undefined；其最后一维的大小必须32B对齐。
  • indices(aclTensor*, 计算输入)：Device侧的Tensor，索引张量，数据类型支持INT32、INT64类型，仅支持1维或2维；当indices shape为1维时取值范围为[0, selfRef.shape(axis) - updates.shape(axis)); 当indices shape为2维时，indices每项的第0个数据取值范围[0, selfRef.shape(0)), indices每项的第1个数据取值范围[0, selfRef.shape(axis) - updates.shape(axis)); undefined支持ND，支持undefined。
  • updates(aclTensor*, 计算输入)：Device侧的Tensor，更新数据张量，updates的维数需要与selfRef的维数一样；其第1维的大小等于indices的第1维的大小，且不大于selfRef的第1维的大小；其axis轴的大小不大于selfRef的axis轴的大小；其余维度的大小要跟selfRef对应维度的大小相等；数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、FLOAT16类型，undefined支持ND，支持undefined。
  • quantScales(aclTensor*, 计算输入)：Device侧的Tensor，量化缩放张量，支持1-8维，quantScales的元素个数需要等于updates在quantAxis轴的大小；数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、FLOAT32类型，支持undefined，undefined支持ND。
  • quantZeroPoints(aclTensor*, 计算输入)：Device侧的Tensor，量化偏移张量，支持1-8维，quantZeroPoints的元素个数需要等于updates在quantAxis轴的大小；数据类型支持BFLOAT16（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）、INT32类型，支持undefined，undefined支持ND，可选参数。
  • axis(int64_t, 计算输入)：updates上用来更新的轴，数据类型为INT64，取值范围[-len(updates.shape) + 1, -1)或者[1, len(updates.shape) - 1)。
  • quantAxis(int64_t, 计算输入)：updates上用来量化的轴，数据类型为INT64，取值支持-1或者len(updates.shape) - 1。
  • reduction(int64_t, 计算输入)：指定数据操作方式，数据类型为INT64，取值1。
  • workspaceSize(uint64_t *，出参)：返回需要在Device侧申请的workspace大小。
  • executor(aclOpExecutor **，出参)：返回op执行器，包含了算子计算流程。

• 返回值：

  返回aclnnStatus状态码，具体参见undefined。

  [object Object]

aclnnInplaceQuantScatter

• 参数说明：

  • workspace(void*，入参)：在Device侧申请的workspace内存地址。
  • workspaceSize(uint64_t，入参)：在Device侧申请的workspace大小，由第一段接口aclnnInplaceQuantScatterGetWorkspaceSize获取。
  • executor(aclOpExecutor *，入参)：op执行器，包含了算子计算流程。
  • stream(aclrtStream，入参)：指定执行任务的AscendCL stream流。

• 返回值：

  返回aclnnStatus状态码，具体参见undefined。

约束与限制

• selfRef的维数只能是3~8维。
• indices的维数只能是1维或者2维；如果是2维，其第2维的大小必须是2；不支持索引越界，索引越界不校验；indices映射的selfRef数据段不能重合，若重合则会因为多核并发原因导致多次执行结果不一样。
• updates的维数需要与selfRef的维数一样；其第1维的大小等于indices的第1维的大小，且不大于selfRef的第1维的大小；其axis轴的大小不大于selfRef的axis轴的大小；其余维度的大小要跟selfRef对应维度的大小相等；其最后一维的大小必须32B对齐。
• quantScales的元素个数需要等于updates在quantAxis轴的大小。
• quantZeroPoints的元素个数需要等于updates在quantAxis轴的大小。
• axis不能为updates的第1维或者最后1维。
• quantAxis只能为updates的最后1维。
• reduction当前只支持1('update')。
• selfRef,indices,updates,quantScales,quantZeroPoints数据类型输入组合包括：(INT8, INT32，BFLOAT16, BFLOAT16, BFLOAT16)、(INT8, INT64，BFLOAT16, BFLOAT16, BFLOAT16)、(INT8, INT32，FLOAT16, FLOAT32, INT32)、(INT8, INT64，FLOAT16, FLOAT32, INT32)，其中涉及BFLOAT16的组合（仅Atlas A2训练系列产品/Atlas 800I A2推理产品支持）。

调用示例

仅供参考，具体编译和执行过程请参考undefined。