npu_mem(NPU内存占用数据)

NPU内存占用数据timeline信息在msprof_*.json文件的NPU_MEM层级展示,summary信息在npu_mem_*.csv文件汇总。

支持的型号

Atlas 200/300/500 推理产品

Atlas 200/500 A2推理产品

Atlas 推理系列产品(Ascend 310P处理器)

Atlas 训练系列产品

Atlas A2训练系列产品

msprof_*.json文件的NPU_MEM层级数据说明

msprof_*.json文件NPU_MEM层级数据如下图所示。

表1 字段说明

字段名

字段含义

APP/DDR

进程级DDR内存占用,单位KB。

APP/HBM

进程级HBM内存占用,单位KB。

APP/Memory

进程级DDR和HBM内存占用和,单位KB。

Device/DDR

设备级DDR内存占用,单位KB。

Device/HBM

设备级HBM内存占用,单位KB。

Device/Memory

设备级DDR和HBM内存占用和,单位KB。

不支持的字段显示为0。

执行采集昇腾AI处理器系统数据时,不展示APP/DDR、APP/HBM和APP/Memory字段。

npu_mem_*.csv文件说明

npu_mem_*.csv文件内容格式示例如下。

表2 字段说明

字段名

字段含义

event

事件类型。

ddr(KB)

DDR内存占用。Atlas A2训练系列产品不支持该字段,显示为0。

hbm(KB)

HBM内存占用。Atlas 200/500 A2推理产品不支持该字段,显示为0。

memory(KB)

DDR和HBM内存占用和。

timestamp(us)

时间戳,单位us。