--enable_single_stream
功能说明
是否使能一个模型推理时只能使用一条Stream。
其中,Stream用于维护一些异步操作的执行顺序,确保按照应用程序中的代码调用顺序在Device上执行。
关联参数
无。
参数取值
参数值:
- true:表示使能,模型推理时只使用一条Stream。
- false:表示关闭,模型推理时允许使用多Stream。默认为false。
参数值约束:
模型中存在Cmo算子和如下控制类算子时,不能使用单Stream特性,只能使用默认值false。
- Merge
- Switch
- Enter
- RefEnter
推荐配置及收益
无。
示例
--enable_single_stream=true
支持的型号
使用约束
无。
父主题: 模型调优选项