--mode
功能说明
运行模式。
关联参数
参数取值
参数值:
- 0:生成适配昇腾AI处理器的离线模型,模型文件格式为*.om。
- 1:离线模型或原始模型文件转json,方便查看模型中的参数信息。
- 3:仅做预检,检查模型文件的内容是否合法。
- 5:GE(Graph Engine)dump图结构文件转json,用于解析GE图编码过程中产生的dump图结构(ge_proto*.txt格式文件,ge_onnx*.pbtxt暂不支持),然后将dump图结构转换成json文件,方便用户定位。
- 6:针对已有的离线模型,显示模型信息,包括模型占用的关键资源信息、编译与运行环境等信息。
参数值约束:
若--mode取值为5,需要先设置如下环境变量,生成dump图结构文件,然后才能进行下一步的转换:
打印模型转换过程中各个阶段的图描述信息。
export DUMP_GE_GRAPH=1
上述环境变量控制dump图的内容多少:取值为1,全量dump;取值为2:不含有权重等数据的基本版dump;取值为3:只显示节点关系的精简版dump。
设置上述环境变量后,还可以设置如下环境变量,控制dump图的个数。
export DUMP_GRAPH_LEVEL=1
取值为1,dump所有图;取值为2:dump除子图外的所有图;取值为3:dump最后的生成图;默认值为2。
设置上述变量后,在执行atc命令的当前路径会生成相应的图文件。
参数默认值:0
推荐配置及收益
无。
示例
使用atc命令进行模型转换时,命令有两种方式,用户根据实际情况进行选择,本章节以选择第一种方式为例进行说明:
- atc param1=value1 param2=value2 ...(value值前面不能有空格,否则会导致截断,param取的value值为空)
- atc param1 value1 param2 value2 ...
- 参数值取值为0:
atc --mode=0 --framework=3 --model=$HOME/module/resnet50_tensorflow*.pb --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version>
- 参数值取值为1:
- 离线模型转换为json
--mode=1 --om=$HOME/module/out/tf_resnet50.om --json=$HOME/module/out/tf_resnet50.json
- 原始模型文件转换为json
--mode=1 --om=$HOME/module/resnet50_tensorflow*.pb --json=$HOME/module/out/tf_resnet50.json --framework=3
- 离线模型转换为json
- 参数取值为5:
- 参数值取值为6:
atc --mode=6 --om=$HOME/module/out/tf_resnet50.om
命令执行完毕,屏幕会打印类似如下信息:
============ Display Model Info start ============ # 模型转换使用的atc命令 Original Atc command line: ${INSTALL_DIR}/bin/atc.bin --model=$HOME/module/resnet50_tensorflow*.pb --framework=3 --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version> --display_model_info=1 # ATC软件版本信息、soc_version版本信息、原始框架信息 system info: atc_version[xxx], soc_version[xxx], framework_type[xxx]. # 运行时的占用内存、逻辑stream数目、event数目 resource info: memory_size[xxx B], weight_size[xxx B], stream_num[xxx], event_num[xxx]. # 离线模型文件中各分区大小、包括ModelDef、权重、tbekernels、taskinfo占用的大小等 om info: modeldef_size[xxx B], weight_data_size[xxx B], tbe_kernels_size[xxx B], cust_aicpu_kernel_store_size[xxx B], task_info_size[xxx B]. ============ Display Model Info end ============
支持的芯片型号
昇腾310B AI处理器
依赖约束
无。
父主题: 总体选项