RunGraph
函数功能
同步执行指定id对应的Graph图,输出执行结果。
函数原型
Status RunGraph(uint32_t graph_id, const std::vector<Tensor>& inputs, std::vector<Tensor>& outputs);
参数说明
参数名 |
输入/输出 |
描述 |
---|---|---|
graph_id |
输入 |
要执行图对应的id。 |
inputs |
输入 |
计算图输入Tensor,为Host上分配的内存空间。 使用std::vector<Tensor>类型的inputs作为输入,用户输入进入数据队列时,需要对每个输入做一次内存的申请和拷贝,输入较大或者较多时可能存在性能瓶颈。 |
outputs |
输出 |
计算图输出Tensor,用户无需分配内存空间,执行完成后GE会分配内存并赋值。 |
约束说明
inputs与图中的data节点相对应,data节点的index属性表征inputs列表中对应数据的位置。即用户需要保证,可以按照data节点的index属性从inputs中获取对应的数据,否则返回错误。如果图中没有data节点,也可以输入的inputs为空。输出的outputs与用户指定的输出节点及输出端口个数与顺序相一致。
支持情况
Atlas 推理系列产品(Ascend 310P处理器),支持
Atlas 训练系列产品,支持
Atlas A2训练系列产品/Atlas 800I A2推理产品,支持
Atlas 200/300/500 推理产品,不支持
Atlas 200/500 A2推理产品,不支持
父主题: Graph运行接口