文档
注册
评分
提单
论坛
小AI

--oo_level

功能说明

图编译多级优化选项,包括子图优化、整图优化、静态shape模型下沉等。

静态shape模型下沉:静态shape模型在编译时即可确定所有算子的输入输出shape,完成模型级内存编排、算子的Tiling计算等Host侧计算,在模型加载时整体下发到Device流上,但不立即执行,通过下发模型执行Task触发模型中所有Task的执行。

关联参数

无。

参数取值

  • O1:只做促成静态下沉的相关优化,如InferShape(进行输出tensor的shape推导)、常量折叠、死边消除等。
  • O3:开启所有优化,默认为O3。

推荐配置及收益

无。

示例

--oo_level=O1

支持的型号

Atlas 200/300/500 推理产品

Atlas 推理系列产品(Ascend 310P处理器)

Atlas 训练系列产品

Atlas 200/500 A2推理产品

Atlas A2训练系列产品/Atlas 800I A2推理产品

使用约束

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词