文档HOT
下载
中文
注册

l2_cache（L2 Cache命中率）

L2 Cache数据无timeline信息，summary信息在l2_cache_*.csv文件汇总。

支持的型号

Atlas 200I/500 A2 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品

l2_cache_*.csv文件说明

L2 Cache数据l2_cache_*.csv文件内容格式示例如下：

图1 l2_cache_*.csv

Atlas 推理系列产品Atlas 训练系列产品该文件中第一个算子的Hit Rate和Victim Rate数据不作为参考；Atlas 200I/500 A2 推理产品Atlas A2 训练系列产品/Atlas 800I A2 推理产品该文件中第一个算子数据缺失。不影响整体的性能分析。

表1 字段说明

字段名

字段含义

Device_id

设备ID。

Stream Id

该Task所处的Stream ID。

Task Id

Task任务的ID。

Hit Rate

内存访问请求命中L2次数与内存访问请求总次数的比值。

对于Atlas 200I/500 A2 推理产品，Hit Rate数据推荐使用aic_metrics的L2 Cache分组实现，此采集方式下Hit Rate数据在op_summary_*.csv文件中呈现。

对于Atlas A2 训练系列产品/Atlas 800I A2 推理产品，Hit Rate数据推荐使用aic_metrics的L2 Cache分组实现，此采集方式下Hit Rate数据在op_summary_*.csv文件中呈现。

Victim Rate

内存访问请求未命中并触发Cache中数据被换出的次数与内存访问请求总次数的比值。

对于Atlas 200I/500 A2 推理产品，Victim Rate数据可能出现大于1的情况。

对于Atlas A2 训练系列产品/Atlas 800I A2 推理产品，Victim Rate数据可能出现大于1的情况。

Op Name

算子名称。