l2_cache(L2 Cache命中率)
L2 Cache数据无timeline信息,summary信息在l2_cache_*.csv文件汇总。
支持的型号
Atlas 200/500 A2推理产品
Atlas 推理系列产品
Atlas 训练系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
l2_cache_*.csv文件说明
L2 Cache数据l2_cache_*.csv文件内容格式示例如下:
Atlas 推理系列产品Atlas 训练系列产品该文件中第一个算子的Hit Rate和Victim Rate数据不作为参考;Atlas 200/500 A2推理产品Atlas A2训练系列产品/Atlas 800I A2推理产品该文件中第一个算子数据缺失。不影响整体的性能分析。
参数名 |
参数解释 |
---|---|
Device_id |
设备ID。 |
Stream Id |
该Task所处的Stream ID。 |
Task Id |
Task任务的ID。 |
Hit Rate |
内存访问请求命中L2次数与内存访问请求总次数的比值。 对于Atlas 200/500 A2推理产品,Hit Rate数据推荐使用aic_metrics的L2 Cache分组实现,此采集方式下Hit Rate数据在op_summary_*.csv文件中呈现。 对于Atlas A2训练系列产品/Atlas 800I A2推理产品,Hit Rate数据推荐使用aic_metrics的L2 Cache分组实现,此采集方式下Hit Rate数据在op_summary_*.csv文件中呈现。 |
Victim Rate |
内存访问请求未命中并触发Cache中数据被换出的次数与内存访问请求总次数的比值。 对于Atlas 200/500 A2推理产品,Victim Rate数据可能出现大于1的情况。 对于Atlas A2训练系列产品/Atlas 800I A2推理产品,Victim Rate数据可能出现大于1的情况。 |
Op Name |
算子名称。 |