AI Core和AI CPU算子数据
AI Core和AI CPU算子数据op_summary_*.csv。
op_summary_*.csv文件内容格式示例(示例仅展示部分参数,详情请参见表1)如下。
字段名 |
字段解释 |
---|---|
Model Name |
模型名称。如果Model Name值为空,则可能为获取的数据中该值为空。(单算子场景无此参数) |
Model ID |
模型ID。 |
Task ID |
Task任务的ID。 |
Stream ID |
Stream任务的ID。 |
Infer ID |
标识第几轮推理数据。(单算子场景无此参数) |
Op Name |
算子名称。 |
OP Type |
算子类型。 |
Task Type |
Task类型。 |
Task Start Time |
Task开始时间,单位ns。 |
Task Duration |
Task耗时。包含调度时间,第一个核上最先开始时间到核上最晚结束时间,单位us。 |
Task Wait Time |
上一个Task的结束时间与当前Task的开始时间间隔,单位us。 |
Block Dim |
Task运行切分数量,对应Task运行时核数。 |
Input Shapes |
算子的输入维度。 |
Input Data Types |
算子输入数据类型。 |
Input Formats |
算子输入数据格式。 |
Output Shapes |
算子的输出维度。 |
Output Data Types |
算子输出数据类型。 |
Output Formats |
算子输出数据格式。 |
aicore_time |
aicore上task执行耗时平均值,根据total_cycles与block dim计算,单位us。手动调频、功耗超出默认功耗值时动态调频以及Atlas 300V/Atlas 300I Pro情况下该数据不准确,不建议参考。 |
total_cycles |
该Task的所有指令的cycle总数。 |
AI Core性能指标采集项说明请参考AI Core/AI Vector Core性能指标采集项说明。 |
算子的输入维度Input Shapes取值为空,即表示为“; ; ; ;”格式时,表示当前输入的为标量,其中“;”为每个维度的分隔符。算子的输出维度同理。