下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

--mode

功能说明

运行模式。

关联参数

  • --mode取值为1或5,则需要与--om--json参数配合使用。如果将原始模型文件转换成带shape信息的json文件,则还需要与--dump_mode参数配合使用。
  • --mode取值为6,则只需要与--om参数配合使用。

参数取值

参数值:

  • 0:生成适配昇腾AI处理器的离线模型,模型文件格式为*.om。
  • 1:离线模型或原始模型文件转json,方便查看模型中的参数信息。
  • 3:仅做预检,检查模型文件的内容是否合法。
  • 5:GE(Graph Engine)dump图结构文件转json,用于解析GE图编码过程中产生的dump图结构(ge_proto*.txt格式文件,ge_onnx*.pbtxt暂不支持),然后将dump图结构转换成json文件,方便用户定位。
  • 6:针对已有的离线模型,显示模型信息,包括模型占用的关键资源信息、编译与运行环境等信息。

参数值约束:

--mode取值为5,需要先设置如下环境变量,生成dump图结构文件,然后才能进行下一步的转换:

打印模型转换过程中各个阶段的图描述信息。
export DUMP_GE_GRAPH=1

上述环境变量控制dump图的内容多少:取值为1,全量dump;取值为2:不含有权重等数据的基本版dump;取值为3:只显示节点关系的精简版dump。

设置上述环境变量后,还可以设置如下环境变量,控制dump图的个数。

export DUMP_GRAPH_LEVEL=1

取值为1,dump所有图;取值为2:dump除子图外的所有图;取值为3:dump最后的生成图;默认值为2。

设置上述变量后,在执行atc命令的当前路径会生成相应的图文件。

参数默认值:0

推荐配置及收益

无。

示例

使用atc命令进行模型转换时,命令有两种方式,用户根据实际情况进行选择,本章节以选择第一种方式为例进行说明:
  • atc param1=value1 param2=value2 ...(value值前面不能有空格,否则会导致截断,param取的value值为空)
  • atc param1 value1 param2 value2 ...
  • 参数值取值为0:
    atc --mode=0 --framework=3 --model=$HOME/module/resnet50_tensorflow*.pb  --output=$HOME/module/out/tf_resnet50  --soc_version=<soc_version>  
  • 参数值取值为1:
    • 离线模型转换为json
      --mode=1 --om=$HOME/module/out/tf_resnet50.om  --json=$HOME/module/out/tf_resnet50.json
    • 原始模型文件转换为json
      --mode=1 --om=$HOME/module/resnet50_tensorflow*.pb  --json=$HOME/module/out/tf_resnet50.json  --framework=3
  • 参数取值为5:
    GE dump图结构文件转json
    --mode=5 --om=$HOME/module/ge_proto_00000000_PreRunBegin.txt --json=$HOME/module/out/ge_proto.json
  • 参数值取值为6:
    atc --mode=6 --om=$HOME/module/out/tf_resnet50.om

    命令执行完毕,屏幕会打印类似如下信息:

    ============ Display Model Info start ============
    # 模型转换使用的atc命令
    Original Atc command line: ${INSTALL_DIR}/bin/atc.bin --model=$HOME/module/resnet50_tensorflow*.pb  --framework=3 --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version> --display_model_info=1
    # ATC软件版本信息、soc_version版本信息、原始框架信息
    system   info: atc_version[xxx], soc_version[xxx], framework_type[xxx].
    # 运行时的占用内存、逻辑stream数目、event数目
    resource info: memory_size[xxx B], weight_size[xxx B], stream_num[xxx], event_num[xxx].
    # 离线模型文件中各分区大小、包括ModelDef、权重、tbekernels、taskinfo占用的大小等
    om       info: modeldef_size[xxx B], weight_data_size[xxx B], tbe_kernels_size[xxx B], cust_aicpu_kernel_store_size[xxx B], task_info_size[xxx B].
    ============ Display Model Info end   ============

支持的芯片型号

昇腾310B AI处理器

依赖约束

无。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词