CvtColor

函数功能

将Tensor的图像色域类型转换为指定的色域类型，支持以下类型间的转换。

GRAY转RGB和RGBA转mRGBA场景可通过预加载Split和Merge提高接口执行效率。该场景接口执行时，会在接口执行目录生成记录融合规则的“fusion_result.json”文件，该文件字段详细说明及融合规则开关配置可参考《CANN ATC工具使用指南CANN ATC工具使用指南》的“参数说明 > 高级功能参数 > 模型调优选项 > - > -fusion_switch_file”章节。

“outputTensor”若设置“keepMargin”为“true”，输出宽自动与16对齐。默认值为“false”，不保留Tensor中无效的边界区域。

当前Atlas 200/500 A2 推理产品支持YUVSP420（nv12）转YUV400（GRAY）。

支持：

函数原型

APP_ERROR CvtColor(const Tensor &inputTensor, Tensor &outputTensor, const CvtColorMode &mode, bool keepMargin = false, AscendStream &stream = AscendStream::DefaultStream());

参数说明

参数名	输入/输出	说明
inputTensor	输入	Tensor类，输入张量，不可为空，需在Device/DVPP侧分配内存，数据类型为UINT8。形状为 {高，宽，通道数} 的张量，通道数需要与输入格式一致。说明：若“inputTensor”色域类型为YUVSP420或YVUSP420，设置输入张量形状时，高为图片显示高度的1.5倍。张量的高需要为3的倍数，宽为16的倍数，通道为1。 “inputTensor”使用SetValidRoi接口设置有效区域时，其y1（对应张量的有效高度）需要为3的倍数，对应实际图片的有效高度为y1/3 * 2。输入张量宽度范围为[10, 4096]，高度范围为[6, 4096]，若输入或输出张量格式包含YUV400、YUVSP420、YVUSP420、GRAY时，宽度范围为[18, 4096]。如果是灰度图，支持形状为{高*宽}的张量。
outputTensor	输出	Tensor类，输出张量。若不为空，需在Device/DVPP侧分配内存且数据类型为UINT8。
mode	输入	枚举类值，对应色域转换的原始类型和目标类型。 enum class CvtColorMode { COLOR_YUVSP4202GRAY = 0 }; 若“mode”色域类型为“COLOR_BGR2YUVSP420”、“COLOR_RGB2YUVSP420”、“COLOR_RGB2YVUSP420”或COLOR_BGR2YVUSP420：建议输入的RGBTensor宽高为偶数，否则输出图片的边缘可能存在异常数据。输出张量的高为输入张量高的1.5倍，例如，输入高为4096，输出的高则为6144，超过部分DVPP接口的限制，使用时需要注意是否满足后续业务需求。
keepMargin	输入	输出的outputTensor中是否保留Tensor中无效的边界区域。当mode=COLOR_GRAY2RGB或mode=COLOR_RGBA2mRGBA时，该参数无效。
stream	输入	AscendStream类型，默认值为“AscendStream::DefaultStream()”。当参数值为默认值时，接口为同步操作，其他情况下，接口为异步操作。

返回参数说明

数据结构	说明
APP_ERROR	程序执行返回的错误码，请参考APP_ERROR说明。

父主题： TensorDvpp