--ac_parallel_enable
功能说明
动态shape图中,是否允许AI CPU算子和AI Core算子并行运行。
动态shape图中,开关开启时,系统自动识别图中可以和AI Core并发的AI CPU算子,不同引擎的算子下发到不同流上,实现多引擎间的并行,从而提升资源利用效率和动态shape执行性能。
关联参数
无。
参数取值
参数值:
- 1:允许AI CPU和AI Core算子间的并行运行。
- 0:AI CPU算子不会单独分流。默认为0。
推荐配置及收益
无。
示例
--ac_parallel_enable=1
支持的型号
Atlas 推理系列产品
Atlas 训练系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
父主题: 模型调优选项