工具介绍
插件性能统计工具,可以快速测试分析MindX SDK的推理性能(所有性能统计数据涉及的时间单位都是微秒)。性能统计指标请见表1:
图1 MindX SDK推理简易流程图
性能 |
介绍 |
---|---|
端到端耗时 |
从appsrc输入插件的srcpad输出数据(t1时刻)开始计时统计,到appsink输出插件的sinkpad接收数据(t4时刻)结束计时统计。 端到端耗时 = 结束时间(t4) - 开始时间(t1) |
单插件耗时 |
统计单个插件(只涉及SDK开发的插件,即插件名以mxpi_开头,不包含Gstreamer插件)的耗时。 如mxpi_modelinfer插件的耗时,从这个插件sinkpad(t2时刻)开始计时,到这个插件srcpad(t3时刻)结束计时。 单插件耗时 = 结束时间(t3) - 开始时间(t2) |
模型推理耗时 |
模型推理只在模型插件中存在,因此在模型推理插件内部会统计模型推理耗时。 |
后处理耗时 |
后处理只在modelinfer框架模型推理插件中存在,因此在modelinfer框架模型推理插件内部会统计后处理耗时。 |
吞吐率 |
appsink输出插件每次从sinkpad接收一次数据,做一次统计。 |
队列长度 |
每隔“ps_queue_size_interval_time”时间,获取一次队列的当前长度,获取“ps_queue_size_times”次数后,做一次队列长度的统计。 |
父主题: 插件性能统计工具