下载
中文
注册

工具介绍

插件性能统计工具,可以快速测试分析MindX SDK的推理性能(所有性能统计数据涉及的时间单位都是微秒)。性能统计指标请见表1
图1 MindX SDK推理简易流程图

表1 性能统计指标

性能

介绍

端到端耗时

从appsrc输入插件的srcpad输出数据(t1时刻)开始计时统计,到appsink输出插件的sinkpad接收数据(t4时刻)结束计时统计。

端到端耗时 = 结束时间(t4) - 开始时间(t1)

单插件耗时

统计单个插件(只涉及SDK开发的插件,即插件名以mxpi_开头,不包含Gstreamer插件)的耗时。

如mxpi_modelinfer插件的耗时,从这个插件sinkpad(t2时刻)开始计时,到这个插件srcpad(t3时刻)结束计时。

单插件耗时 = 结束时间(t3) - 开始时间(t2)

模型推理耗时

模型推理只在模型插件中存在,因此在模型推理插件内部会统计模型推理耗时。

后处理耗时

后处理只在modelinfer框架模型推理插件中存在,因此在modelinfer框架模型推理插件内部会统计后处理耗时。

吞吐率

appsink输出插件每次从sinkpad接收一次数据,做一次统计。

队列长度

每隔“ps_queue_size_interval_time”时间,获取一次队列的当前长度,获取“ps_queue_size_times”次数后,做一次队列长度的统计。