模型转换

训练框架生成的模型文件，需要经过转换，才能在昇腾AI处理器上执行推理。详细的模型转换指导，请参考《CANN 6.3.RC1 ATC工具使用指南》（请参见《CANN 6.2.RC1 ATC工具使用指南》）。

以Tensorflow yolov3 pb为例，简要介绍模型转换，转换生成“*.om”文件，转换YOLOv3模型命令执行参考如下（以使用为例）。

atc --model=./yolov3_tf.pb --framework=3 --output=./yolov3_tf_bs1_fp16 --soc_version=Ascend310 --insert_op_conf=./aipp_yolov3_416_416.aippconfig --input_shape="input/input_data:1,416,416,3" --out_nodes="conv_lbbox/BiasAdd:0;conv_mbbox/BiasAdd:0;conv_sbbox/BiasAdd:0"

本次YOLOv3模型转换命令示例需要加入输出节点“out_nodes”的指定。

表1 模型转换指令
指令	说明
--framework	指定原始网络模型框架类型，本次模型转换匹配的框架类型为TensorFlow，对应参数值为“3”。
--soc_version	指定昇腾AI处理器型号。
--insert_op_conf	指定配置aipp的配置文件（用于图像预处理，包括色域转换、数据归一化和抠图，具体请参见《CANN 6.3.RC1 ATC工具使用指南》，请参见《CANN 6.2.RC1 ATC工具使用指南》）。
--input_shape	指定模型输入数据的shape。
--out_nodes	指定om模型的输出节点（算子）。
--model	指定要转换的pb文件。
--output	指定输出的om模型文件名字，会自动生成.om后缀。
--output_type	指定输出节点的数据类型，建议指定为“FP32”，便于模型后处理转换为float型数据。

示例aipp.cfg（此aipp文件用于色域转换中将YUV格式转为RGB格式，未做归一化）。

aipp_op {
aipp_mode: static
input_format : YUV420SP_U8
csc_switch : true
rbuv_swap_switch : false
matrix_r0c0 : 256
matrix_r0c1 : 0
matrix_r0c2 : 359
matrix_r1c0 : 256
matrix_r1c1 : -88
matrix_r1c2 : -183
matrix_r2c0 : 256
matrix_r2c1 : 454
matrix_r2c2 : 0
input_bias_0 : 0
input_bias_1 : 128
input_bias_2 : 128
}

父主题： 使用命令行方式开发