合理设置队列深度,减少硬件资源浪费,提升性能

背景说明

Atlas 推理系列产品(Ascend 310P处理器)上,可使用媒体数据处理V2版本接口,配置VPC队列深度,队列深度范围[10,350]之间。用户业务下发任务时,若VPC队列满后,会反压阻塞任务下发,影响性能。

基本原理

适当加大VPC队列深度,可以缓解用户业务下发任务与VPC内部任务处理相互之间性能波动的影响。

用户可基于业务下发任务的速度与VPC单通道处理的性能适当调整队列任务深度:

VPC单通道处理的性能,请参见性能指标说明

使用说明

调用hi_mpi_vpc_create_chn接口或hi_mpi_vpc_sys_create_chn接口创建VPC通道时,通过hi_vpc_chn_attr结构体内的attr参数设置队列深度。

关于VPC队列深度设置示例代码,参见sample_vpc.cpp中queue_len参数。