AI Vector Core指令占比数据无timeline信息,summary信息在ai_vector_core_utilization_*.csv文件汇总。
Atlas 200/500 A2推理产品
Atlas A2训练系列产品
ai_vector_core_utilization_*.csv文件内容格式示例如下:
参数名 |
参数解释 |
---|---|
Core ID |
Core ID。 |
vec_ratio |
代表vec类型指令(向量类运算指令)的cycle数在total cycle数中的占用比。 |
mac_ratio |
代表cube类型指令(fp16及s16矩阵类运算指令)的cycle数在total cycle数中的占用比。 |
scalar_ratio |
代表scalar类型指令(标量类运算指令)的cycle数在total cycle数中的占用比。 |
mte1_ratio |
代表mte1类型指令(L1->L0A/L0B搬运类指令)的cycle数在total cycle数中的占用比。 |
mte2_ratio |
代表mte2类型指令(DDR->AICORE搬运类指令)的cycle数在total cycle数中的占用比。(Atlas 200/500 A2推理产品) |
mte2_ratio |
代表mte2类型指令(HBM->AICORE搬运类指令)的cycle数在total cycle数中的占用比。(Atlas A2训练系列产品) |
mte3_ratio |
代表mte3类型指令(AICORE->DDR搬运类指令)的cycle数在total cycle数中的占用比。(Atlas 200/500 A2推理产品) |
mte3_ratio |
代表mte3类型指令(AICORE->HBM搬运类指令)的cycle数在total cycle数中的占用比。(Atlas A2训练系列产品) |
icache_miss_rate |
代表icache缺失率,即未命中instruction的L1 cache,数值越小越好。 |
memory_bound |
用于识别AICore执行算子计算过程是否存在Memory瓶颈,由mte2_ratio/max(mac_ratio, vec_ratio)计算得出。计算结果小于1,表示没有Memory瓶颈;计算结果大于1 则表示有Memory瓶颈,且数值越大越瓶颈严重。 |
此处以AI Vector Core性能指标采集项以sample-based场景的PipeUtilization为例,更多参数解析参见op_summary(AI Core、AI Vector Core和AI CPU算子数据)。 |