--oo_level
功能说明
调试功能扩展参数,当前不支持应用于商用产品中,后续版本会作为正式功能更新发布。
图编译多级优化选项,包括子图优化、整图优化、静态shape模型下沉等。
静态shape模型下沉:静态shape模型在编译时即可确定所有算子的输入输出shape,完成模型级内存编排、算子的Tiling计算等Host侧计算,在模型加载时整体下发到Device流上,但不立即执行,通过下发模型执行Task触发模型中所有Task的执行。
关联参数
无。
参数取值
- O1:只做促成静态下沉的相关优化,如InferShape(进行输出tensor的shape推导)、常量折叠、死边消除等。
- O3:开启所有优化,默认为O3。
推荐配置及收益
无。
示例
--oo_level=O1
支持的型号
Atlas 200/300/500 推理产品
Atlas 推理系列产品
Atlas 训练系列产品
Atlas 200/500 A2推理产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
使用约束
无
父主题: 模型调优选项