文档
注册

--shape_generalized_build_mode

功能说明

图编译时Shape的编译方式。

该参数后续版本会废弃,请勿使用。

关联参数

该参数不能与--input_shape_range--dynamic_batch_size--dynamic_image_size--dynamic_dims同时使用。

参数取值

参数值:

  • shape_generalized:模糊编译:在编译时系统内部对可变维度做了泛化后再进行编译。如果算子Shape是固定,则可变维度会修改为-1(维度不变,例如原来Shape为4维,模糊编译后仍为4维)进行编译。

    该参数使用场景为:用户想编译一次达到多次执行推理的目的时,可以使用模糊编译特性。

  • shape_precise:精确编译:是指按照用户指定的维度信息、在编译时系统内部不做任何转义直接编译。

参数值约束:如果算子本身不支持动态Shape、只支持固定Shape(无可变维度),此时按照固定Shape编译算子,不按模糊编译做泛化。

参数默认值:shape_precise

图1为编译的两种方式。
图1 编译模式

推荐配置及收益

无。

示例

--shape_generalized_build_mode=shape_generalized

支持的芯片型号

Atlas 200/300/500 推理产品

Atlas 推理系列产品(Ascend 310P处理器)

Atlas 训练系列产品

Atlas A2训练系列产品

使用约束

如果模型转换时通过该参数设置了模糊编译,则使用应用工程进行模型推理时,需要在aclmdlExecute接口之前,增加aclmdlSetDatasetTensorDesc接口,用于设置真实的shape取值。

关于aclmdlSetDatasetTensorDesc接口的具体使用方法,请参见应用软件开发指南(C&C++)手册“AscendCL API参考”

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词