下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

TASK_QUEUE_ENABLE

功能描述

此环境变量用于控制开启task_queue算子下发队列优化的等级。

  • 配置为0时:关闭task_queue算子下发队列优化。
  • 配置为1或未配置时:开启task_queue算子下发队列Level 1优化。

    Level 1优化:使能task_queue算子下发队列优化,将算子下发任务分为两段,一部分放在新增的二级流水上,一、二级流水通过队列传递任务,相互并行,通过部分掩盖减少整体的下发耗时,提升端到端性能。

  • 配置为2时:开启task_queue算子下发队列Level 2优化。

    Level 2优化:包含Level 1的优化并增加了一、二级流水负载均衡和二级流水唤醒加速优化。仅在二进制场景生效,建议配置值为Level 2优化。

此环境变量默认配置为1。

ASCEND_LAUNCH_BLOCKING设置为“1”时,task_queue算子队列关闭,TASK_QUEUE_ENABLE设置不生效。

配置示例

export TASK_QUEUE_ENABLE=2

使用约束

环境变量仅适用于PyTorch网络的场景。

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词