下载
中文
注册

--external_weight

功能说明

生成om模型文件时,是否将原始网络中的Const/Constant节点的权重外置,同时将节点类型转换为FileConstant类型。

离线场景,如果模型权重较大且环境对om大小有限制,建议开启外置权重将权重单独保存,来减小om大小。

关联参数

需要和--output参数配合使用,生成的权重文件保存在与om文件同层级的weight目录下,权重文件以weight_+hash值命名。

参数取值

  • 0:权重不外置,直接保存在om模型文件中。默认为0。
  • 1:权重外置,将网络中所有的Const/Constant节点的权重文件落盘,并将节点类型转换为FileConstant类型;权重文件以weight_+hash值命名。

推荐配置及收益

无。

示例

以ONNX网络模型为例:

atc --framework=5 --model=$HOME/module/resnet50.onnx --output=$HOME/module/out/onnx_resnet50 --soc_version=<soc_version>  --external_weight=1

支持的型号

Atlas 200/300/500 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

Atlas 200I/500 A2 推理产品

Atlas A2 训练系列产品/Atlas 800I A2 推理产品

依赖约束

权重外置场景,在使用AscendCL接口开发推理应用、加载模型时:

  • 若使用aclmdlLoadFromFile接口加载模型,需将权重文件保存在与om文件同层级的weight目录下。
  • 若使用aclmdlSetConfigOpt和aclmdlLoadWithConfig接口加载模型,对权重外置目录没有要求,后续加载模型时,通过aclmdlLoadWithConfig接口指定权重外置目录。

接口详细说明请参见模型加载和卸载章节。