一级流水优化是一种通用有效的优化方法,主要是将部分算子适配任务迁移至二级流水,使两级流水负载更均衡,并减少dequeue唤醒时间。
使能说明
该特性可以通过环境变量设置,一般用于以下场景:host-bound严重的网络场景。
使用方法如下:
export TASK_QUEUE_ENABLE=2
该环境变量的实现细节请参考《环境变量参考》中的“TASK_QUEUE_ENABLE”章节。