下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

RunGraphWithStreamAsync

函数功能

异步执行指定id对应的Graph图,输出执行结果。

函数原型

Status RunGraphWithStreamAsync(uint32_t graph_id, void *stream, const std::vector<Tensor> &inputs,std::vector<Tensor> &outputs);

参数说明

参数名

输入/输出

描述

graphId

输入

子图对应的id。

stream

输入

指定图在哪个Stream上执行。

inputs

输入

当前子图对应的输入数据,为Device上的内存空间。

outputs

输出

当前子图对应的输出数据,为Device上的内存空间。

返回值

参数名

类型

描述

-

Status

GE_CLI_GE_NOT_INITIALIZED:GE未初始化。

SUCCESS:异步执行图成功。

FAILED:异步执行图失败。

约束说明

  • 调用该接口前,需要确定好Device上分配的内存大小。
  • 调用该接口前,需要通过aclrtCreateStream创建Stream。
  • 得到输出执行结果前,需要通过aclrtSynchronizeStream接口保证Stream上的任务已经执行完。

    aclrtSynchronizeStream接口说明请参见应用软件开发指南(C&C++)>“AscendCL API参考”>同步等待。

产品支持情况

Atlas 推理系列产品(Ascend 310P处理器),支持

Atlas 训练系列产品,支持

Atlas A2训练系列产品,支持

Atlas 200/300/500 推理产品,不支持

Atlas 200/500 A2推理产品,不支持

调用示例

此函数与RunGraph均为执行指定id对应的图,并输出结果,区别于RunGraph的是,该接口:

  • 异步执行。
  • inputs和outputs均为Device上的内存空间,且需要在执行前由用户分配内存大小。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词