fusion_op(模型中算子融合前后信息数据)
模型中算子融合前后信息数据无timeline信息,summary信息在fusion_op_*.csv文件汇总。
单算子场景(如PyTorch场景)下无此性能数据文件。
支持的型号
Atlas 200/300/500 推理产品
Atlas 200I/500 A2推理产品
Atlas 推理系列产品
Atlas 训练系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
fusion_op_*.csv文件说明
模型中算子融合前后信息数据fusion_op_*.csv文件内容格式示例如下:
参数名 |
参数解释 |
---|---|
Device_id |
设备ID。 |
Model Name |
模型名称。 |
Model ID |
模型ID。 |
Fusion Op |
融合算子名称。 |
Original Ops |
被融合算子名称。 |
Memory Input(KB) |
输入Tensor内存大小,单位KB。 |
Memory Output(KB) |
输出Tensor内存大小,单位KB。 |
Memory Weight(KB) |
权值内存大小,单位KB。 |
Memory Workspace(KB) |
Workspace内存大小,单位KB。 |
Memory Total(KB) |
总内存,Memory Input、Memory Output、Memory Weight、Memory Workspace四项之和,单位KB。 |
父主题: json和csv文件性能数据说明