--enable_single_stream
功能说明
是否使能一个模型推理时只能使用一条Stream。
其中,Stream用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。
关联参数
无。
参数取值
参数值:
- true:表示使能,模型推理时只使用一条Stream。
- false:表示关闭,模型推理时允许使用多Stream。默认为false。
参数值约束:
模型中存在Cmo算子和如下控制类算子时,不能使用单Stream特性,只能使用默认值false。
- Merge
- Switch
- Enter
- Exit
- LoopCond
- NextIteration
- Case
- If
- While
- PartitionedCall
推荐配置及收益
无。
示例
--enable_single_stream=true
支持的型号
Atlas 训练系列产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
使用约束
无。
父主题: 模型调优选项