aclnnQuantize

支持的产品型号

• Atlas 推理系列产品。
• Atlas A2训练系列产品/Atlas 800I A2推理产品。

接口原型

每个算子分为undefined，必须先调用“aclnnQuantizeGetWorkspaceSize”接口获取计算所需workspace大小以及包含了算子计算流程的执行器，再调用“aclnnQuantize”接口执行计算。

• aclnnStatus aclnnQuantizeGetWorkspaceSize(const aclTensor* x, const aclTensor* scales, const aclTensor* zeroPoints, aclDataType dtype, int32_t axis, aclTensor* out, uint64_t* workspaceSize, aclOpExecutor** executor)
• aclnnStatus aclnnQuantize(void* workspace, uint64_t workspaceSize, aclOpExecutor* executor, aclrtStream stream)

功能描述

• 算子功能：对输入张量进行量化处理。
• 计算公式：

$$out=round((x/scales)+zero\_points)$$

aclnnQuantizeGetWorkspaceSize

• 参数说明

  • x（aclTensor*, 计算输入）：必选参数，表示需要进行量化的源数据张量，公式中的x，Device侧的aclTensor，undefined支持ND，支持undefined。
    • Atlas 推理系列产品：数据类型支持FLOAT、FLOAT16。
    • Atlas A2训练系列产品/Atlas 800I A2推理产品：数据类型支持FLOAT、FLOAT16、BFLOAT16。
  • scales（aclTensor*, 计算输入）：必选参数，表示量化过程中对x进行scales的张量，公式中的scales，Device侧的aclTensor，维度需要为1维，undefined支持ND，支持undefined，size需要为1或和输入x中axis轴的size相等。
    • Atlas 推理系列产品：数据类型支持FLOAT、FLOAT16。
    • Atlas A2训练系列产品/Atlas 800I A2推理产品：数据类型支持FLOAT、FLOAT16、BFLOAT16。
  • zeroPoints（aclTensor*, 计算输入）：可选参数，表示量化过程中对x进行offset的张量，公式中的zero_points，Device侧的aclTensor，维度需要为1维，undefined支持ND，支持undefined，size需要为1或和输入x中axis轴的size相等，并与scales的size相等。
    • Atlas 推理系列产品：数据类型支持INT32、INT8、UINT8。
    • Atlas A2训练系列产品/Atlas 800I A2推理产品：数据类型支持INT32、INT8、UINT8、BFLOAT16。
  • axis（int32_t，入参）：必选参数，Host侧的整型，表示需要进行量化的elewise轴，其他的轴做broadcast，指定的轴不能超过输入x的维度数，当输入的scales和zeroPoints的size均为1时，该参数实际不使用。
  • dtype（aclDataType，入参）：必选参数，表示量化输出Tensor的数据类型，支持ACL_INT8、ACL_UINT8、ACL_INT32。
  • out（aclTensor*，计算输出）：必选参数，表示量化输出Tensor，公式中的out，Device侧的aclTensor，数据类型支持INT8、UINT8、INT32，undefined支持ND，支持undefined。
  • workspaceSize（uint64_t*, 出参）：返回需要在Device侧申请的workspace大小。
  • executor（aclOpExecutor**, 出参）：返回op执行器，包含了算子计算流程。

• 返回值

  aclnnStatus：返回状态码，具体参见undefined。

  [object Object]

aclnnQuantize

• 参数说明

  • workspace（void*, 入参）：在Device侧申请的workspace内存地址。
  • workspaceSize（uint64_t, 入参）：在Device侧申请的workspace大小，由第一段接口aclnnQuantizeGetWorkspaceSize获取。
  • executor（aclOpExecutor*, 入参）：op执行器，包含了算子计算流程。
  • stream（aclrtStream, 入参）：指定执行任务的AscendCL Stream流。

• 返回值

  aclnnStatus：返回状态码，具体参见undefined。

约束与限制

当输入scales或zeroPoints任意一个数据类型为BFLOAT16时，要求x、scales、zeroPoints的数据类型均为BFLOAT16。

调用示例

示例代码如下，仅供参考，具体编译和执行过程请参考undefined。