NPU内存占用数据timeline信息在msprof_*.json文件的NPU_MEM层级展示,summary信息在npu_mem_*.csv文件汇总。
Atlas 200/300/500 推理产品
Atlas 200/500 A2推理产品
Atlas 推理系列产品(Ascend 310P处理器)
Atlas 训练系列产品
Atlas A2训练系列产品
msprof_*.json文件NPU_MEM层级数据如下图所示。
字段名 |
字段含义 |
---|---|
APP/DDR |
进程级DDR内存占用,单位KB。 |
APP/HBM |
进程级HBM内存占用,单位KB。 |
APP/Memory |
进程级DDR和HBM内存占用和,单位KB。 |
Device/DDR |
设备级DDR内存占用,单位KB。 |
Device/HBM |
设备级HBM内存占用,单位KB。 |
Device/Memory |
设备级DDR和HBM内存占用和,单位KB。 |
不支持的字段显示为0。 执行采集昇腾AI处理器系统数据时,不展示APP/DDR、APP/HBM和APP/Memory字段。 |
npu_mem_*.csv文件内容格式示例如下。
字段名 |
字段含义 |
---|---|
event |
事件类型。 |
ddr(KB) |
DDR内存占用。Atlas A2训练系列产品不支持该字段,显示为0。 |
hbm(KB) |
HBM内存占用。Atlas 200/500 A2推理产品不支持该字段,显示为0。 |
memory(KB) |
DDR和HBM内存占用和。 |
timestamp(us) |
时间戳,单位us。 |