观测结果

观察性能统计日志文件的生成。

查看“ps_log_dir”配置项设置的目录下，是否生成插件性能统计日志。

当配置项ps_interval_time=6时，程序会在启动6秒后，生成端到端日志文件、单插件日志文件、吞吐率日志文件。

当配置项ps_queue_size_interval_time=50、ps_queue_size_times=100时，程序会在启动50 × 100毫秒（即5秒）后，生成队列长度日志文件。如下图：

表1 文件类型解释
文件名	文件类型
performance—statistics.log.e2e.20210329-183958.877032	端到端日志文件。
performance—statistics.log.plugin.20210329-183958.877905	单插件日志文件。
performance—statistics.log.queue.20210329-183957.893092	队列长度日志文件。
performance—statistics.log.tpr.20210329-183958.883263	吞吐率日志文件。

观察端到端日志文件。

以下为端到端日志文件的示例内容。

{"average":"45138","frequency":"3","maxTime":"73058","minTime":"30511","streamName":"classification+detection","totalTime":"135416","type":"e2e","updateTime":"2021-03-29 20:13:59.717927"}

表2 日志参数解释
参数	介绍
average	端到端平均耗时。单位：微秒。
frequency	端到端统计次数。
maxTime	最大的一次端到端耗时。单位：微秒。
minTime	最小的一次端到端耗时。单位：微秒。
streamName	pipeline中的“streamName”。
totalTime	端到端总耗时。单位：微秒。
type	统计类型，端到端类型为e2e。
updateTime	本次统计的当前时间。

观察单插件日志文件。

以下为单插件日志文件的示例内容。

{"average":"18546","elementName":"mxpi_modelinfer0","factory":"mxpi_modelinfer","frequency":"3","maxTime":"18608","minTime":"18493","streamName":"classification+detection","totalTime":"55638","type":"plugin","updateTime":"2021-03-29 20:13:59.720010"}

表3 日志参数解释
参数	介绍
average	统计的单个插件平均耗时。单位：微秒。
elementName	插件元件名称。
factory	插件类型。
frequency	插件处理的推理次数。
maxTime	最大的一次耗时。单位：微秒。
minTime	最小的一次耗时。单位：微秒。
streamName	pipeline中的“streamName”。
totalTime	单插件总耗时。单位：微秒。
type	统计类型，单插件统计类型为“plugin”，模型推理统计类型为“modelInference”，后处理统计类型为“postProcessor”。
updateTime	本次统计的当前时间。

观察吞吐率日志文件。

以下为吞吐率日志文件的示例内容。

{"streamName":"classification+detection","throughput":3,"throughputRate":0.5,"type":"throughputRate","updateTime":"2021-03-29 20:13:59.721819"}

表4 日志参数解释
参数	介绍
streamName	pipeline中的“streamName”。
throughput	吞吐量。
throughputRate	吞吐率。
type	统计类型，吞吐率统计类型为“throughputRate”。
updateTime	本次统计的当前时间。

观察队列长度日志文件。

以下为队列长度日志文件的示例内容。

队列长度的数据一直显示为0，即使在推理过程中，统计到的队列长度依然为0。说明在推理过程中，数据留在队列中的时间非常短，很快就被下游插件取走，导致统计队列长度时，获取到的队列长度为0。只有当推理过程中，出现阻塞现象，数据留在队列才会出现队列长度不为0的情况。

{"curSize":0,"elementName":"queue0","intervalTime":50000,"maxSize":0,"maxSizeBuffers":200,"recentSize":[0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0],"streamName":"classification+detection","type":"queueSize","updateTime":"2021-03-29 20:14:45.953312"}

表5 日志参数解释
参数	介绍
curSize	当前的队列长度，即“recentSize”列表中的最后一个值。
elementName	插件元件名称。
intervalTime	统计间隔时间，即与配置项“ps_queue_size_interval_time”含义相同。
maxSize	统计的这段时间内，最大的队列长度，即“recentSize”列表中的最大值。
maxSizeBuffers	队列总长度。
recentSize	每隔“ps_queue_size_interval_time”毫秒，统计“ps_queue_size_times”次数的队列长度数据列表。
streamName	pipeline中的“streamName”。
type	统计类型，队列长度统计类型为“queueSize”。
updateTime	本次统计的当前时间。

父主题： 插件性能统计工具