msprof（timeline数据总表）

查看算子下发方向

在tracing中查看.json文件时，开启“Flow events”下的选项后，应用层算子到NPU算子之间通过连线方式展示下发到执行的对应关系。如图2所示。

主要包括的对应关系有：

• async_npu：应用层算子 > Ascend Hardware的NPU算子的下发执行关系。
• MsTx：训练或推理进程打点任务 > Ascend Hardware的NPU打点算子的下发执行关系。调用aclprofMarkEx接口打点时生成。
• async_task_queue：应用层Enqueue > Dequeue的入队列到出队列对应关系。
• HostToDevice：CANN层Node（算子） > AscendHardware的NPU算子的下发执行关系（Host到Device）。
• HostToDevice：CANN层Node（算子） > HCCL通信算子的下发执行关系（Host到Device）。
• fwdbwd：前向API > 反向API。

通过单击连线两端的算子或接口，即可查看算子下发的方向。如图3所示。

其中Event(s)列查看该算子或接口的出入方向，Link列查看映射关系两端的信息。

查看AI Core频率

支持的型号：

• Atlas 200I/500 A2推理产品
• Atlas A2训练系列产品/Atlas 800I A2推理产品

msprof*.json下的“AI Core Freq”层级展示AI Core芯片在执行AI任务的过程中频率的变化情况，如图4所示。

在148089.72045898438时刻下，AI Core处于高频状态，而在170178.44116210938时刻频率降低，那么在该时间段下AI任务的性能必然下降。AI Core芯片可能因温度升高，触发保护机制，降低频率；也可能因当前无AI任务运行，AI Core进入低功耗状态而降频。

在发生变频时，实际变频时间与软件监测到的时间存在0~1ms的延时，该延时可能导致变频前后统计出的算子执行时间与实际不符。

QoS数据分析

msprof*.json下的“QoS”层级展示设备QoS带宽信息。

支持的型号：

• Atlas A2训练系列产品/Atlas 800I A2推理产品

图中色块横坐标对应时间Time，单位ms，纵坐标对应带宽Value，单位MB/s。

未被定义的业务流或加速器的带宽数据会被统计在OTHERS内；对于用户定义的业务流或加速器的带宽数据，将会单独显示其带宽数据，如图6所示。