CANN Profiling

cann_profiling_path = './cann_profiling'
if not os.path.exists(cann_profiling_path):
    os.makedirs(cann_profiling_path)
with torch.npu.profile(cann_profiling_path):
    out = model(input_tensor)
    loss = loss_func(out,target)
    loss.backward()
    optimizer.zero_grad()
    optimizer.step()
exit()

使用上述方式采集数据，会在每个step中使用with语句开启Profiling，如果在多个step循环中执行with语句开启Profiling功能，就会存在多次启动Profiling功能，会多次初始化和去初始化Profiling，在性能统计时会引入性能膨胀问题。为了解决该问题，可以在with语句内执行多个step，该操作只启动一次Profiling，初始化一次Profiling，但这种方式采集到的Profiling数据是多个step连在一起的，无法区分某个step的数据，如果需要区分step数据，可以通过step标识方式解决该问题。

若示例代码中未设置Profiling数据的落盘路径（cann_profiling_path = './cann_profiling'），那么默认路径为当前路径，也可以通过环境变量ASCEND_WORK_PATH设置（此时Profiling数据的落盘路径为${ASCEND_WORK_PATH}/profiling_data），自定义设置的落盘路径优先级高于环境变量高于默认路径。

step标识方式可参考以下方法进行修改。

for i in range(steps):
    if i >=10 and i <= 100:  # 表示获取第10到第100个step之间的性能数据
        if i == 10:  # 在第10个step时，开始使能该功能
            torch_npu.npu.prof_init(cann_profiling_path) # cann_profiling_path与前述cann_profiling_path参数作用一致,需提前在脚本运行目录创建。
            torch_npu.npu.prof_start(config=torch_npu.npu.profileConfig(ACL_PROF_ACL_API=True, \
                         ACL_PROF_TASK_TIME=True, ACL_PROF_AICORE_METRICS=True, \
                         ACL_PROF_AICPU=True, ACL_PROF_L2CACHE=False, \
                         ACL_PROF_HCCL_TRACE=True, ACL_PROF_TRAINING_TRACE=False, \
                         aiCoreMetricsType=0)) # config为可配置参数,可设置为默认值,详细参数修改请参见表1。
        torch_npu.npu.iteration_start()  # 进入每个step时打上开始标记
        train_one_step()
        torch_npu.npu.iteration_end()    # 每个step结束时打上结束标记
        if i == 100:   # 在第100个step时，关闭该功能
            torch_npu.npu.prof_stop()
            torch_npu.npu.prof_finalize()