自定义离线模型的输入输出数据类型

场景介绍

模型转换时支持指定网络的输入节点、输出节点的Datatype、Format、模型转换支持精度选择等关键参数。

假如，针对TensorFlow框架ResNet-50网络模型，要求转换后离线模型的输入数据为FP16类型，指定MaxPoolWithArgmax算子作为输出算子（对应的节点名称为fp32_vars/MaxPoolWithArgmax），并且指定该输出节点的数据类型为FP16。该场景下就需要分别使用--input_fp16_nodes、--out_nodes、--output_type等参数来实现上述功能。

转换方法

本章节以TensorFlow框架ResNet-50网络模型为例进行演示，参见1获取原始模型文件。

1. 以CANN软件包运行用户登录开发环境，并将模型转换过程中用到的模型文件（*.pb）上传到开发环境任意路径，例如上传到$HOME/module/目录下。
2. atc命令中加入--input_fp16_nodes、--out_nodes、--output_type参数，执行如下命令生成离线模型。（如下命令中使用的目录以及文件均为样例，请以实际为准）

   atc --model=$HOME/module/resnet50_tensorflow_1.7.pb  --framework=3 --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version>  --input_fp16_nodes="Placeholder" --out_nodes="fp32_vars/MaxPoolWithArgmax:0" --output_type="fp32_vars/MaxPoolWithArgmax:0:FP16"  

   关于参数的详细解释以及使用方法请参见参数说明。若提示如下信息，则说明模型转换成功，若模型转换失败，则请参见《故障处理》进行定位。

   ATC run success

   成功执行命令后，在output参数指定的路径下，可查看离线模型（如：tf_resnet50.om）。

3. （可选）如果用户想查看转换后离线模型中上述指定节点以及指定数据类型相关信息，则可以将上述离线模型转成json文件查看，命令如下：

   atc --mode=1 --om=$HOME/module/out/tf_resnet50.om  --json=$HOME/module/out/tf_resnet50.json

   图1为MaxPoolWithArgmax算子作为模型输出算子的示意图。

   图1 指定某个算子为离线模型输出