快速入门
对于标准自定义算子工程场景,调测流程如图1所示,支持的调测功能有Tiling调测、CPU孪生调试、NPU编译生成kernel bin文件、NPU上板精度比对、NPU上板Profiling数据采集、性能仿真流水图等。
- 环境准备的具体步骤参见环境准备。
- 基于标准自定义算子工程,完成Ascend C自定义算子的开发和部署,具体指导参见《Ascend C自定义算子开发指南》中“算子开发 > 矢量编程(基于自定义算子工程)”章节。
- 准备好输入数据和标杆数据。可使用现成的bin格式数据文件,也可使用torch/numpy生成Tensor数据(具体参见API方式下数据准备说明)。
- 构建算子信息。
调用ascendebug.create_debug_op接口构造算子DebugOp对象 ,并设置输入/输出信息,示例如下:
import ascendebug debug_op = ascendebug.create_debug_op('AddCustom', 'VectorCore', 'Ascendxxx') \ .custom_input('x', 'int32', [32], '/path_to/x.bin') \ .custom_input('y', 'int32', [32], '/path_to/y.bin') \ .custom_output('z', 'int32', [32], '/path_to/z.bin') \ .attr('mask', 'list_int', [0,0]) \ .attr('memory', 'int', 0)
- 创建算子调试器对象,示例如下:
op_executor = ascendebug.create_op_executor(debug_op=debug_op, work_dir='./debug_workspace', install_path='/usr/local/Ascend')
- 构造输入参数,调用调测功能API,以Tiling调测接口为例。
customize_path ="/usr/local/Ascend/latest/opp/vendors/${custom_name}" tiling_info = op_executor.run_custom_tiling(customize_path)
使用的API接口列表
本场景涉及的所有调测API如表1所示。
父主题: 标准自定义算子工程场景的算子调测示例