RunGraphWithStreamAsync

函数功能

异步执行指定id对应的Graph图，输出执行结果。

函数原型

Status RunGraphWithStreamAsync(uint32_t graph_id, void *stream, const std::vector<Tensor> &inputs,std::vector<Tensor> &outputs);

参数说明

返回值

约束说明

• 调用该接口前，需要确定好Device上分配的内存大小。
• 调用该接口前，需要通过aclrtCreateStream创建Stream。
• 得到输出执行结果前，需要通过aclrtSynchronizeStream接口保证Stream上的任务已经执行完。

支持情况

Atlas 推理系列产品（Ascend 310P处理器），支持

Atlas 训练系列产品，支持

Atlas A2训练系列产品/Atlas 800I A2推理产品，支持

Atlas 200/300/500 推理产品，不支持

Atlas 200/500 A2推理产品，不支持

调用示例

此函数与RunGraph均为执行指定id对应的图，并输出结果，区别于RunGraph的是，该接口：

• 异步执行。
• inputs和outputs均为Device上的内存空间，且需要在执行前由用户分配内存大小。