算子分析

在开发算子代码之前需要分析算子的数学表达式、输入、输出以及计算逻辑的实现，明确需要调用的Ascend C接口。

1. 明确算子的数学表达式及计算逻辑。

   Add算子的数学表达式为：

   z = x + y

   计算逻辑是：Ascend C提供的矢量计算接口的操作元素都为LocalTensor，输入数据需要先搬运进片上存储，然后使用计算接口完成两个输入参数相加，得到最终结果，再搬出到外部存储上。Ascend C Add算子的计算逻辑如下图所示。

   图1 算子计算逻辑
   

2. 明确输入和输出。
   • Add算子有两个输入：x与y，输出为z。
   • 本样例中算子的输入支持的数据类型为half（float16），算子输出的数据类型与输入数据类型相同。
   • 算子输入支持shape（8，2048），输出shape与输入shape相同。
   • 算子输入支持的format为：ND。

3. 确定核函数名称和参数。
   • 您可以自定义核函数名称，本样例中核函数命名为add_custom。
   • 根据对算子输入输出的分析，确定核函数有3个参数x，y，z；x，y为输入在Global Memory上的内存地址，z为输出在Global Memory上的内存地址。

4. 确定算子实现所需接口。
   • 实现涉及外部存储和内部存储间的数据搬运，查看Ascend C API参考中的数据搬移接口，需要使用DataCopy来实现数据搬移。
   • 本样例只涉及矢量计算的加法操作，查看Ascend C API参考中的矢量计算接口矢量计算，初步分析可使用双目指令Add接口Add实现x+y。
   • 计算中使用到的Tensor数据结构，使用Queue队列进行管理，会使用到EnQue、DeQue等接口。

通过以上分析，得到Ascend C Add算子的设计规格如下：