aclmdlExecuteAsyncV2

函数功能

根据aclmdlSetExecConfigOpt所配置的属性,执行模型推理,直到返回推理结果。该接口是在aclmdlExecuteAsync接口基础上进行了增强,支持在执行模型推理时控制Stream任务的超时时间、Event任务的超时时间。异步接口。

Atlas 200/300/500 推理产品不支持该接口。

Atlas 训练系列产品不支持该接口。

Atlas A2训练系列产品,不支持该接口。

Atlas 推理系列产品(Ascend 310P处理器),不支持该接口。

约束说明

函数原型

aclError aclmdlExecuteAsyncV2(uint32_t modelId, const aclmdlDataset *input, aclmdlDataset *output, aclrtStream stream,const aclmdlExecConfigHandle* handle)

参数说明

参数名

输入/输出

说明

modelId

输入

指定需要执行推理的模型的ID。

调用aclmdlLoadFromFile接口/aclmdlLoadFromMem接口/aclmdlLoadFromFileWithMem接口/aclmdlLoadFromMemWithMem接口加载模型成功后,会返回模型ID。

input

输入

模型推理的输入数据的指针。

output

输出

模型推理的输出数据的指针。

stream

输入

指定Stream。

handle

输入

模型执行的配置对象的指针。与aclmdlSetExecConfigOpt中的handle保持一致。

返回值说明

返回0表示成功,返回其它值表示失败。