调用Ascend CL单算子

前提条件

单击LINK获取样例工程，为进行算子调试做准备。

下载代码样例时，需执行以下命令指定分支版本。

git clone https://gitee.com/ascend/samples.git -b v0.3-8.0.0.alpha003

操作步骤

执行以下命令，生成自定义算子工程，并提供了host侧和kernel侧的算子实现。
```
bash install.sh -v Ascendxxxyy    # xxxyy为用户实际使用的具体芯片类型
```

在${install_path}/samples/operator/ascendc/0_introduction/1_add_frameworklaunch/CustomOp目录下修改CMakePresets.json文件的cacheVariables的配置项，将"Release"修改为"Debug"。

      "cacheVariables": {               
             "CMAKE_BUILD_TYPE": {                    
                 "type": "STRING",                    
                 "value": "Debug"               
       },

参考算子编译部署，完成算子的编译部署。

参考前提条件，获取验证代码的样例工程。

├──input                                                 // 存放脚本生成的输入数据目录
├──output                                                // 存放算子运行输出数据和真值数据的目录
├── inc                           // 头文件目录 
│   ├── common.h                 // 声明公共方法类，用于读取二进制文件 
│   ├── operator_desc.h          // 算子描述声明文件，包含算子输入/输出，算子类型以及输入描述与输出描述 
│   ├── op_runner.h              // 算子运行相关信息声明文件，包含算子输入/输出个数，输入/输出大小等 
├── src 
│   ├── CMakeLists.txt    // 编译规则文件
│   ├── common.cpp         // 公共函数，读取二进制文件函数的实现文件
│   ├── main.cpp    // 单算子调用应用的入口
│   ├── operator_desc.cpp     // 构造算子的输入与输出描述 
│   ├── op_runner.cpp   // 单算子调用主体流程实现文件
├── scripts
│   ├── verify_result.py    // 真值对比文件
│   ├── gen_data.py    // 输入数据和真值数据生成脚本文件
│   ├── acl.json    // acl配置文件

编译单算子调用应用并得到可执行文件execute_add_op。

以AddCustom自定义算子调用为例，可参考单算子API调用，编写算子调用的代码逻辑，并完成编译。
导入算子动态加载路径。
将自定义算子工程编译后输出在build_out目录下kernel侧的.o文件路径导入环境变量。
```
export LAUNCH_KERNEL_PATH=/{path_to_kernel}/kernel_name.o  //{path_to_kernel}表示对算子kernel侧实现编译后生成的算子二进制文件*.o所在路径，请根据实际情况进行替换
```
算子的多个dtype在Kernel侧可能会编译出多个.o文件，请选择步骤3示例中所调用的.o文件进行导入。

使用msDebug工具加载步骤5中得到的单算子可执行文件execute_add_op。

export LD_LIBRARY_PATH=$ASCEND_HOME_PATH/opp/vendors/customize/op_api/lib:$LD_LIBRARY_PATH
cd AclNNInvocation/output
msdebug execute_add_op
(msdebug) target create "execute_add_op"
Current executable set to '/home/AclNNInvocation/output/execute_add_op' (aarch64).
(msdebug)

断点设置。
```
b add_custom.cpp:55
```

运行算子程序，等待直到命中断点。

(msdebug) r
Process 1385976 launched: '$home/shelltest/test/samples/operator/ascendc/0_introduction/1_add_frameworklaunch/AclNNInvocationNaive/build/execute_add_op' (aarch64)
[Launch of Kernel anonymous on Device 0]
Process 1385976 stopped
[Switching to focus on Kernel anonymous, CoreId 24, Type aiv]
* thread #1, name = 'execute_add_op', stop reason = breakpoint 1.1
    frame #0: 0x0000000000001564 AddCustom_1e04ee05ab491cc5ae9c3d5c9ee8950b.o`KernelAdd::Compute(this=0x000000000028f8a8, progress=0) (.vector) at add_custom.cpp:55:19
   52  	        LocalTensor<DTYPE_Y> yLocal = inQueueY.DeQue<DTYPE_Y>();
   53  	        LocalTensor<DTYPE_Z> zLocal = outQueueZ.AllocTensor<DTYPE_Z>();
   54  	        Add(zLocal, xLocal, yLocal, this->tileLength);
-> 55  	        outQueueZ.EnQue<DTYPE_Z>(zLocal);
   56  	        inQueueX.FreeTensor(xLocal);
   57  	        inQueueY.FreeTensor(yLocal);
   58  	    }
(msdebug)

后续调试过程可参考导入调试信息、内存与变量打印及核切换等，与其操作一致。

父主题： 典型案例