MAX_RUNTIME_CORE_NUMBER
功能描述
训练与在线推理场景下,针对动态shape图模式执行的网络,可通过设置此环境变量开启图执行器(Host侧)的多线程任务调度。
该环境变量需要配置为整数,当取值大于等于2时,表示Host侧图执行调度任务开启多线程,多线程数量与此环境变量取值相同。
建议此环境变量取值不超过当前环境的CPU核数,否则会造成性能劣化。
配置示例
export MAX_RUNTIME_CORE_NUMBER=5
使用约束
- 当前版本此环境变量仅用于图模式场景。
- 配置此环境变量时,Host侧可用于执行的CPU核数需要大于等于2。
支持的型号
Atlas 训练系列产品
Atlas 推理系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
父主题: 图执行