上板Profiling数据采集
本场景以AddCustom算子为例,Profiling数据采集和分析过程如下。请根据自身实际情况,按需修改示例代码。
import torch import numpy as np import ascendebug # 设置和清理日志文件 ascendebug.set_log_file('test.log', clean=True) # 1.生成输入/标杆数据 x = torch.rand(size=(1, 16384), dtype=torch.float16) y = torch.rand(size=(1, 16384), dtype=torch.float16) z = x + y # 2.构建算子信息 debug_op = ascendebug.create_debug_op('add_custom', 'VectorCore', 'Ascend910B1') \ .scalar_input('tileNumIn', 'uint32', 10) \ .tensor_input('x', x) \ .tensor_input('y', y) \ .tensor_output('z', z) # 3.创建调试对象并初始化工作空间 install_pkg = "/home/run_pkg/" op_executor = ascendebug.create_op_executor(install_path=install_pkg) # 4.配置核函数源码信息 kernel_info = ascendebug.OpKernelInfo("/path_to/add_custom.cpp", 'add_custom', []) # 5.调用NPU编译接口生成kernel.o文件 npu_option = ascendebug.CompileNpuOptions() kernel_name, kernel_file, extern = op_executor.compile_call_kernel_npu(kernel_info, npu_option) # 6.完成Profiling的Options配置,调用Profiling运行接口 npu_compile_info = ascendebug.NpuCompileInfo(syncall=extern['cross_core_sync'], task_ration=extern['task_ration']) profiling_options = ascendebug.RunProfilingOptions(block_num=32, loop=10) op_executor.run_profiling(kernel_file, profiling_options, npu_compile_info=npu_compile_info)
关于算子在NPU板端执行Profiling以及最终采集结果的分析,可以参见“Profiling数据采集功能 > 调测产物”。
父主题: 性能调优