RunGraphWithStreamAsync
函数功能
异步执行指定id对应的Graph图,输出执行结果。
函数原型
Status RunGraphWithStreamAsync(uint32_t graph_id, void *stream, const std::vector<Tensor> &inputs,std::vector<Tensor> &outputs);
参数说明
参数名 |
输入/输出 |
描述 |
---|---|---|
graphId |
输入 |
子图对应的id。 |
stream |
输入 |
指定图在哪个Stream上执行。 |
inputs |
输入 |
当前子图对应的输入数据,为Device上的内存空间。 |
outputs |
输出 |
当前子图对应的输出数据,为Device上的内存空间。 |
返回值
参数名 |
类型 |
描述 |
---|---|---|
- |
Status |
GE_CLI_GE_NOT_INITIALIZED:GE未初始化。 SUCCESS:异步执行图成功。 FAILED:异步执行图失败。 |
约束说明
支持情况
Atlas 推理系列产品(Ascend 310P处理器),支持
Atlas 训练系列产品,支持
Atlas A2训练系列产品/Atlas 800I A2推理产品,支持
Atlas 200/300/500 推理产品,不支持
Atlas 200/500 A2推理产品,不支持
调用示例
此函数与RunGraph均为执行指定id对应的图,并输出结果,区别于RunGraph的是,该接口:
- 异步执行。
- inputs和outputs均为Device上的内存空间,且需要在执行前由用户分配内存大小。
父主题: Graph运行接口