采集数据说明

配置调用AscendCL API方式采集后请参见数据解析与导出将原始数据文件解析并导出为可视化的timeline和summary文件。

生成的Profiling数据如表1表2所示。

表1 timeline文件介绍

timeline文件名

相关参数

说明

msprof*.json

所有可生成数据的参数均会在此文件写入数据。

timeline数据总表。对采集到的timeline性能数据按照迭代粒度进行性能展示。详情请参见timeline数据总表

ai_stack_time_*.json

ACL_PROF_ACL_API

ACL_PROF_RUNTIME_API

ACL_PROF_TASK_TIME

以上参数至少开启一个。

各个组件(AscendCL、GE、Runtime、Task Scheduler)的耗时。详情请参见AscendCL、GE、Runtime、Task Schduler组件耗时数据概览

thread_group_*.json

ACL_PROF_ACL_API

ACL_PROF_RUNTIME_API

ACL_PROF_TASK_TIME

以上参数至少开启一个。

AscendCL、GE、Runtime组件耗时数据。该文件内的各组件数据按照线程(Thread)粒度进行排列,方便查看各线程下各组件的耗时数据。当模型为动态Shape时自动采集并生成该文件。文件详情请参见AscendCL、GE、Runtime组件耗时完整数据(按线程粒度展示)

task_time_*.json

ACL_PROF_TASK_TIME

Task Scheduler任务调度信息。文件详情请参见Task Scheduler任务调度信息数据

acl_*.json

ACL_PROF_ACL_API

AscendCL接口耗时数据。文件详情请参见AscendCL接口耗时数据

runtime_api_*.json

ACL_PROF_RUNTIME_API

Runtime接口耗时数据。文件详情请参见Runtime接口耗时数据

ge_*.json

ACL_PROF_TASK_TIME

GE接口耗时数据。文件详情请参见GE接口耗时数据

step_trace_*.json

ACL_PROF_TASK_TIME

迭代轨迹数据,每轮迭代的耗时。文件详情请参见迭代轨迹数据

hccl_*.json

ACL_PROF_HCCL

HCCL数据。文件详情请参见HCCL数据

msproftx数据

ACL_PROF_MSPROFTX

msproftx数据,通过Profiling AscendCL API for Extension(Profiling AscendCL API扩展接口)采集用户和上层框架程序的性能数据,并由ACL_PROF_MSPROFTX参数进行数据导出。

注:“*”表示{device_id}_{model_id}_{iter_id},其中{device_id}表示设备ID,{model_id}表示模型ID,{iter_id}表示某轮迭代的ID。这些字段可以使用数据解析与导出完成数据解析后,使用数据解析与导出中的“查询Profiling数据文件信息查询功能”对结果文件进行查询得出,若查询某些字段显示为N/A(为空)则在导出的结果文件名中不展示。

表2 summary文件介绍

summary文件名

相关参数

说明

acl_*.csv

ACL_PROF_ACL_API

AscendCL接口的耗时。详情请参见AscendCL接口耗时数据

acl_statistic_*.csv

ACL_PROF_ACL_API

AscendCL接口调用次数及耗时。详情请参见AscendCL接口调用次数及耗时数据

op_summary_*.csv

ACL_PROF_TASK_TIME

AI Core和AI CPU算子数据。详情请参见AI Core和AI CPU算子数据

op_statistic_*.csv

ACL_PROF_TASK_TIME

AI Core和AI CPU算子调用次数及耗时,从算子类型维度找出耗时最大的算子类型。详情请参见AI Core和AI CPU算子调用次数及耗时数据

step_trace_*.csv

ACL_PROF_TASK_TIME

迭代轨迹数据。文件详情请参见迭代轨迹数据

ai_stack_time_*.csv

ACL_PROF_ACL_API

ACL_PROF_RUNTIME_API

ACL_PROF_TASK_TIME

以上参数至少开启一个。

每个组件(AscendCL、GE、Runtime、Task Scheduler)的耗时。详情请参见各个组件的耗时数据

runtime_api_*.csv

ACL_PROF_RUNTIME_API

每个runtime api的调用时长。详情请参见Runtime接口耗时数据

fusion_op_*.csv

ACL_PROF_TASK_TIME

模型中算子融合前后信息。详情请参见模型中算子融合前后信息数据

task_time_*.csv

ACL_PROF_TASK_TIME

Task Scheduler的任务调度信息数据。详情请参见:

aicpu_*.csv

ACL_PROF_AICPU

AI CPU数据,生成该csv文件需要采集的Profiling数据中包含DATA_PREPROCESS.dev.AICPU.开头的文件。文件详情请参见AI CPU数据

l2_cache_*.csv

ACL_PROF_L2CACHE

L2Cache数据。详情请参见L2Cache数据。(Atlas 推理系列产品)(Atlas 训练系列产品

prof_rule_0.json

-

调优建议。无需指定Profiling参数自动生成,完成后打屏显示结果,详细介绍请参见性能调优建议

注:“*”表示{device_id}_{model_id}_{iter_id},其中{device_id}表示设备ID,{model_id}表示模型ID,{iter_id}表示某轮迭代的ID。这些字段可以使用数据解析与导出完成数据解析后,使用数据解析与导出中的“查询Profiling数据文件信息查询功能”对结果文件进行查询得出,若查询某些字段显示为N/A(为空)则在导出的结果文件名中不展示。