模型转换

训练框架生成的模型文件，需要经过转换，才能在昇腾AI处理器上执行推理。详细的模型转换指导，请参考《CANN ATC工具使用指南》。

以Tensorflow yolov3 pb为例，简要介绍模型转换，转换生成“*.om”文件，转换YOLOv3模型命令执行参考如下（以使用昇腾310 AI处理器为例）。

atc --model=./yolov3_tf.pb --framework=3 --output=./yolov3_tf_bs1_fp16 --soc_version=Ascend310 --insert_op_conf=./aipp_yolov3_416_416.aippconfig --input_shape="input/input_data:1,416,416,3" --out_nodes="conv_lbbox/BiasAdd:0;conv_mbbox/BiasAdd:0;conv_sbbox/BiasAdd:0"

YOLOv3模型务必加入输出节点“out_nodes”的指定。

表1 模型转换指令
指令	说明
--framework	指定model的框架，tf为“3”。
--soc_version	指定昇腾AI处理器型号。
--insert_op_conf	指定配置aipp的配置文件（用于图像预处理，包括色域转换、数据归一化和抠图，具体请参见《CANN ATC工具使用指南》）。
--input_shape	指定输入的尺寸。
--out_nodes	指定om的输出的节点。
--model	指定要转换的pb文件。
--output	指定输出的om文件名字，会自动生成.om后缀。
--output_type	指定输出节点的数据类型，建议指定为“FP32”，便于模型后处理转换为float型数据。

示例aipp.cfg（此aipp文件用于色域转换中将YUV格式转为RGB格式，未做归一化）。

aipp_op {
aipp_mode: static
input_format : YUV420SP_U8
csc_switch : true
rbuv_swap_switch : false
matrix_r0c0 : 256
matrix_r0c1 : 0
matrix_r0c2 : 359
matrix_r1c0 : 256
matrix_r1c1 : -88
matrix_r1c2 : -183
matrix_r2c0 : 256
matrix_r2c1 : 454
matrix_r2c2 : 0
input_bias_0 : 0
input_bias_1 : 128
input_bias_2 : 128
}

父主题： 使用命令行方式开发