图像处理类算法,张量支持Batch拆分操作,支持float16、float32、uint8。支持异步调用,支持输入输出内存复用。
当前支持Atlas 推理系列产品和Atlas 200I/500 A2 推理产品。
使用时需满足一下条件:
1 | APP_ERROR BatchSplit(const Tensor &src, std::vector<Tensor> &dst, bool isReplace, AscendStream &stream = AscendStream::DefaultStream()); |
参数名 |
输入/输出 |
说明 |
---|---|---|
src |
输入 |
Tensor类,输入张量。其中,Tensor支持float16、float32、uint8类型。维度支持三维或四维。 |
dst |
输出 |
std::vector<Tensor>类,输出。支持float16、float32、uint8(需与“src”一致)。支持传入空vector,如果vector不为空,vector中的tensor需要调用Tensor.Malloc()接口提前分配内存。 |
isReplace |
输入 |
bool类型,当值为true时,输出dst会复用输入src的内存,两者的生命周期一致,因此需要用户自行保证。当值为false时,输出dst与输入src互不影响(各自的内存释放由各自的生命周期决定)。 |
stream |
输入 |
AscendStream类型,默认值为AscendStream::DefaultStream()。当参数值为默认值时或当“isReplace”为“true”时,接口为同步操作。其余情况下,接口为异步操作。 |
数据结构 |
说明 |
---|---|
APP_ERROR |
程序执行返回的错误码,请参考APP_ERROR说明。 |