--mode
功能说明
运行模式。
关联参数
- 若--mode取值为1或5,则需要与--om、--json参数配合使用。如果将原始模型文件转换成带shape信息的json文件,则还需要与--dump_mode参数配合使用。
- 若--mode取值为6,则只需要与--om参数配合使用。
- 若--mode取值为3,需要自行指定预检结果保存路径时,需要与--check_report参数配合使用。
参数取值
参数值:
- 0:(默认值)生成适配昇腾AI处理器的离线模型,模型文件格式为*.om。
- 1:离线模型或原始模型文件转json,方便查看模型中的参数信息。
- 3:仅做预检,检查模型文件的内容是否合法。
- 5:dump图结构文件转json,用于解析图编译过程中产生的dump图结构(ge_proto*.txt格式文件,ge_onnx*.pbtxt暂不支持),然后将dump图结构转换成json文件,方便用户定位。
- 6:针对已有的离线模型,显示模型信息,包括模型占用的关键资源信息、编译与运行环境等信息。
参数值约束:
若--mode取值为5,需要设置相关环境变量,先获取dump图结构文件,方法请参见2.c。设置完环境变量,模型转换完毕,在执行atc命令的当前路径会生成相应的图结构文件。
推荐配置及收益
无。
示例
- 参数值取值为0:
atc --mode=0 --framework=3 --model=$HOME/module/resnet50_tensorflow*.pb --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version>
- 参数值取值为1:
- 离线模型转换为json
--mode=1 --om=$HOME/module/out/tf_resnet50.om --json=$HOME/module/out/tf_resnet50.json
- 原始模型文件转换为json
--mode=1 --om=$HOME/module/resnet50_tensorflow*.pb --json=$HOME/module/out/tf_resnet50.json --framework=3
- 离线模型转换为json
- 参数值取值为3:
atc --mode=3 --framework=3 --model=$HOME/module/resnet50_tensorflow*.pb --soc_version=<soc_version>
执行完毕,在当前路径生成预检结果文件check_result.json。
- 参数值取值为5:
--mode=5 --om=$HOME/module/ge_proto_00000000_PreRunBegin.txt --json=$HOME/module/out/ge_proto.json
- 参数值取值为6:
atc --mode=6 --om=$HOME/module/out/tf_resnet50.om
命令执行完毕,屏幕会打印类似如下信息:
1 2 3 4 5 6 7 8 9 10
============ Display Model Info start ============ # 模型转换使用的atc命令 Original Atc command line: ${INSTALL_DIR}/bin/atc.bin --model=$HOME/module/resnet50_tensorflow*.pb --framework=3 --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version> --display_model_info=1 # ATC软件版本信息、soc_version版本信息、原始框架信息 system info: atc_version[xxx], soc_version[xxx], framework_type[xxx]. # 运行时的占用内存、权重大小、逻辑stream数目、event数目 resource info: memory_size[xxx B], weight_size[xxx B], stream_num[xxx], event_num[xxx]. # 离线模型文件中各分区大小、包括ModelDef、权重、tbekernels、taskinfo、so占用的大小等 om info: modeldef_size[xxx B], weight_data_size[xxx B], tbe_kernels_size[xxx B], cust_aicpu_kernel_store_size[xxx B], task_info_size[xxx B], so_store_size[xxx B]. ============ Display Model Info end ============
支持的型号
依赖约束
无。
父主题: 总体选项