文档
注册

AI Core和AI CPU算子数据

AI Core和AI CPU算子数据op_summary_*.csv。

op_summary_*.csv文件内容格式示例(示例仅展示部分参数,详情请参见表1)如下。

关键字段说明如下。
表1 字段说明

字段名

字段解释

Model Name

模型名称。如果Model Name值为空,则可能为获取的数据中该值为空。(单算子场景无此参数)

Model ID

模型ID。

Task ID

Task任务的ID。

Stream ID

Stream任务的ID。

Infer ID

标识第几轮推理数据。(单算子场景无此参数)

Op Name

算子名称。

OP Type

算子类型。

Task Type

Task类型。

Task Start Time

Task开始时间,单位us。

Task Duration

Task耗时。包含调度时间,第一个核上最先开始时间到核上最晚结束时间,单位us。

Task Wait Time

上一个Task的结束时间与当前Task的开始时间间隔,单位us。

Block Dim

Task运行切分数量,对应Task运行时核数。

Input Shapes

算子的输入维度。

Input Data Types

算子输入数据类型。

Input Formats

算子输入数据格式。

Output Shapes

算子的输出维度。

Output Data Types

算子输出数据类型。

Output Formats

算子输出数据格式。

aicore_time

aicore上task执行耗时平均值,根据total_cycles与block dim计算,单位us。手动调频、功耗超出默认功耗值时动态调频以及Atlas 300V/Atlas 300I Pro情况下该数据不准确,不建议参考。

total_cycles

该Task的所有指令的cycle总数。

AI Core性能指标采集项说明请参考AI Core性能指标采集项说明

算子的输入维度Input Shapes取值为空,即表示为“; ; ; ;”格式时,表示当前输入的为标量,其中“;”为每个维度的分隔符。算子的输出维度同理。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词