下载
中文
注册

配置项介绍

插件性能统计功能新增了MindSDK的配置文件“${MX_SDK_HOME}/config/sdk.conf”。如图1所示,配置项注释中如果注明了“[dynamic config]”,说明这个配置项是动态可配置。(如果配置项的值小于最小值,则会设置成最小值。如果配置项的值大于最大值,则会设置成最大值。)配置项说明请参见表1

队列长度统计的时间间隔 * 队列长度统计次数需小于推理总时间,如未生成.queue日志,可通过降低时间间隔(ps_queue_size_interval_time)或统计次数(ps_queue_size_times)的方式进行调试。

图1 SDK配置文件示例

表1 配置项说明

配置项

说明

enable_ps

性能统计开关,默认为“false”

ps_log_dir

性能统计日志目录,请在使用工具前配置到具体目录。

ps_log_filename

性能统计日志文件名。端到端日志文件会添加后缀.e2e。单插件、模型推理、后处理的日志文件会添加后缀.plugin。吞吐率日志文件会添加后缀.tpr。队列长度日志文件会添加后缀.queue。

ps_max_log_size

性能统计日志文件最大长度,日志文件大小超过这个值,将切换新的日志文件,单位MB,默认为10,取值范围为[1, 20]。

ps_queue_size_warn_percent

队列长度告警值百分比。当队列当前长度达到了队列总长度的告警值,将会打印告警日志,默认为80,取值范围为[1, 100]。

ps_interval_time

性能统计时间间隔,端到端、单插件、模型推理、后处理的性能统计时间间隔,默认为60,取值范围为[1, 24*3600]。

ps_queue_size_interval_time

队列长度统计的时间间隔,默认为50,取值范围为[10, 1000]。

ps_queue_size_times

队列长度统计次数,默认为100,取值范围为[1, 1000]。

malloc_max_data_size

设置申请内存的上限字节数,默认为1GByte,最大可支持至4GByte。