Atlas 200/500 A2推理产品的Ascend RC场景不支持在设备上直接解析,需要将采集到的PROF_XXX目录拷贝到安装了Ascend-cann-toolkit开发套件包的环境下进行解析并导出。
执行导出命令。
命令示例如下:
msprof --export=on --output=<dir> [--iteration-id=<number>] [--model-id=<number>] [--summary-format=<csv/json>] [--clear=on]
参数 |
说明 |
可选/必选 |
---|---|---|
--export |
解析并导出性能数据。可选on或off,默认值为off。 若需导出个别迭代(Iteration ID)/模型(Model ID)的数据,可在msprof采集命令执行完成后重新执行msprof --export命令配置--model-id、--iteration-id参数。 对于未解析的PROF_XXX文件,自动解析后再导出。 示例:./msprof --export=on --output=/home/HwHiAiUser |
必选 |
--output |
性能数据文件目录。须指定为PROF_XXX目录,例如:/home/HwHiAiUser/profiler_data/PROF_XXX。 |
必选 |
--type |
设置性能数据解析结果文件格式,即可以选择msprof命令行执行采集后自动解析的结果文件格式,取值为:
默认为text。 |
可选 |
--iteration-id |
迭代ID。需配置为正整数。与--model-id必须同时配置。
|
可选 |
--model-id |
模型ID。需配置为正整数。与--iteration-id必须同时配置。
|
可选 |
--summary-format |
summary数据文件的导出格式,取值为:
|
可选 |
--python-path |
指定解析使用的Python解释器路径,要求Python3.7.5及以上版本。 |
可选 |
--clear |
数据精简模式,开启后将在导出性能数据后删除PROF_XXX目录下的sqlite目录,以节省存储空间。可选on或off,默认值为off。 |
可选 |
注1:Atlas 200/300/500 推理产品默认情况下,即未配置--iteration-id和--model-id时,导出迭代数最多的模型ID(Model ID)的性能数据;其他芯片默认情况下,导出所有性能数据。 注2:单算子场景和仅执行采集昇腾AI处理器系统数据场景,不支持--iteration-id和--model-id参数。 |
执行完上述命令后,会在collection-dir目录下的PROF_XXX目录下生成mindstudio_profiler_output目录。
生成的性能数据目录结构如下所示。
└── PROF_XXX ├── device_0 │ └── data ├── device_1 │ └── data ├── host │ └── data └── mindstudio_profiler_output ├── msprof_{timestamp}.json ├── step_trace_{timestamp}.json ├── xx_*.csv ... └── README.txt
└── PROF_XXX1 ├── device_0 │ └── data ├── host │ └── data └── mindstudio_profiler_output ├── msprof_{timestamp}.json ├── step_trace_{timestamp}.json ├── xx_*.csv ... └── README.txt └── PROF_XXX2 ├── device_1 │ └── data ├── host │ └── data └── mindstudio_profiler_output ├── msprof_{timestamp}.json ├── step_trace_{timestamp}.json ├── xx_*.csv ... └── README.txt