BatchSplit

函数功能

图像处理类算法,张量支持Batch拆分操作,支持float16、float32、uint8。支持异步调用,支持输入输出内存复用。

当前支持Atlas 推理系列产品Atlas 200I/500 A2 推理产品

使用时需满足一下条件:

函数原型

1
APP_ERROR BatchSplit(const Tensor &src, std::vector<Tensor> &dst, bool isReplace, AscendStream &stream = AscendStream::DefaultStream());

参数说明

参数名

输入/输出

说明

src

输入

Tensor类,输入张量。其中,Tensor支持float16、float32、uint8类型。维度支持三维或四维。

dst

输出

std::vector<Tensor>类,输出。支持float16、float32、uint8(需与“src”一致)。支持传入空vector,如果vector不为空,vector中的tensor需要调用Tensor.Malloc()接口提前分配内存。

isReplace

输入

bool类型,当值为true时,输出dst会复用输入src的内存,两者的生命周期一致,因此需要用户自行保证。当值为false时,输出dst与输入src互不影响(各自的内存释放由各自的生命周期决定)。

stream

输入

AscendStream类型,默认值为AscendStream::DefaultStream()。当参数值为默认值时或当“isReplace”“true”时,接口为同步操作。其余情况下,接口为异步操作。

返回参数说明

数据结构

说明

APP_ERROR

程序执行返回的错误码,请参考APP_ERROR说明