--output_type
功能说明
指定网络输出数据类型或指定某个输出节点的输出类型。
关联参数
若指定某个输出节点的输出类型,则需要和--out_nodes参数配合使用。
参数取值
参数值:
- FP32
- UINT8
- FP16
- INT8
参数值约束:
模型转换完毕,在对应的*.om模型文件中,数据类型以DT_FLOAT或DT_UINT8或DT_FLOAT16或DT_INT8值呈现。
若在模型转换时不指定网络具体输出数据类型,则以原始网络模型最后一层输出的算子数据类型为准;若指定了类型,则以该参数指定的类型为准,此时--is_output_adjust_hw_layout参数指定的类型不生效。
推荐配置及收益
无。
示例
- 指定网络输出数据类型
--output_type=FP32
- 指定某个输出节点的输出数据类型
例如:--output_type="node1:0:FP16;node2:0:FP32",表示node1节点第一个输出设置为FP16,node2第一个节点输出设置为FP32。指定的节点必须放在双引号中,节点中间使用英文分号分隔。
该场景下,该参数需要与--out_nodes参数配合使用。--model=$HOME/module/resnet50_tensorflow*.pb --framework=3 --output=$HOME/module/out/tf_resnet50 --soc_version=<soc_version> --output_type="conv1:0:FP16" --out_nodes="conv1:0"
支持的芯片型号
Atlas 200/300/500 推理产品
Atlas 推理系列产品(Ascend 310P处理器)
Atlas 训练系列产品
Atlas A2训练系列产品
依赖约束
无。
父主题: 输出选项