msproftx数据说明
支持的型号
Atlas 200/300/500 推理产品
Atlas 200/500 A2推理产品
Atlas 推理系列产品
Atlas 训练系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
总体说明
msproftx采集的是用户和上层框架程序输出性能数据,数据保存在mindstudio_profiler_output目录下。
相关数据如表1所示。
文件名 |
说明 |
---|---|
msprof_*.json |
timeline汇总数据。详情请参见msproftx timeline数据汇总。 |
msprof_tx_*.json |
msproftx timeline数据。可直接查看msprof_*.json。 |
msprof_tx_*.csv |
msproftx summary数据。对采集到的host msproftx summary数据按线程进行拼接,并进行数据关联性展示。详情请参见msprof_tx summary数据。 |
msproftx timeline数据汇总
msproftx的timeline汇总数据在msprof_*.json展示。如下所示。
如图1所示,timeline汇总数据主要展示如下区域:
- 区域1:msproftx数据,即上层应用数据,包含上层应用算子的耗时信息。
- 区域2:CANN层数据,主要包含AscendCL、Runtime组件以及Node(算子)的耗时数据。
- 区域3:底层NPU数据,主要包含Task Scheduler组件耗时数据和迭代轨迹数据以及其他昇腾AI处理器系统数据。
- 区域4:展示timeline中各算子、接口的详细信息。单击各个timeline时展示。
- 当前图中区域4展示的字段信息为区域1 msproftx采集的上层应用算子的信息,字段含义详见表2。
- 在tracing中查看.json文件时,开启“Flow events”下的选项MsTx,呈现推理训练进程打点任务 > Ascend Hardware的NPU打点算子的下发执行关系。由调用aclprofMarkEx接口打点时生成。
msprof_tx summary数据
msprof_tx summary数据文件为msprof_tx.csv。
msprof_tx.csv文件内容格式示例如下:
字段名 |
字段含义 |
---|---|
Device_id |
设备ID。 |
pid |
进程ID。 |
tid |
Thread ID,AscendCL API所在线程ID。 |
category |
Profiling msproftx采集进程类别,用于标识msproftx采集进程的采集内容。(预留字段,暂未开放) |
event_type |
事件类型。 |
payload_type |
Profiling msproftx采集进程中携带额外的信息Payload的数据类型。(预留字段,暂未开放) |
payload_value |
Profiling msproftx采集进程中携带额外的信息Payload的指针。(预留字段,暂未开放) |
Start_time(us) |
Profiling msproftx采集进程开始时间,单位us。 |
End_time(us) |
Profiling msproftx采集进程结束时间,单位us。 |
message_type |
Profiling msproftx采集进程中携带字符串类型。(预留字段,暂未开放) |
message |
Profiling msproftx采集进程中携带的字符串描述。 |