如何通过算子原型构建Graph

本节介绍如何通过算子原型，一步步的构建完整Graph。

功能介绍

使用REG_OP宏将算子原型注册成功后，会自动生成对应的衍生接口（参见原型定义衍生接口说明），用户可以通过这些接口在Graph中定义算子，然后创建一个Graph实例，并在Graph中设置输入算子、输出算子，从而完成Graph构建。

使用算子原型衍生接口定义算子

下面仅介绍使用算子原型衍生接口定义算子的通用过程，具体各类算子（例如数据节点、计算节点）的定义示例，请参考各类算子表达。

包含的头文件。
1

#include "all_ops.h"
- 对于内置算子，需要包括all_ops.h头文件，定义内置算子类型，可使用内置算子类型相关的接口，头文件所在路径为“CANN软件安装目录/opp/built-in/op_proto/inc/all_ops.h”。
- 对于自定义算子，需要包括自定义算子的原型定义头文件，头文件所在路径为“CANN软件安装目录/opp/vendors/<vendor_name>/op_proto/inc”。
创建算子实例。
使用REG_OP宏注册算子类型后，会自动生成算子类型构造函数explicit OpType(const char* name)，相当于定义了一个op::xxx的Class，开发者include该原型头文件，实例化该Class构建Graph。在构建Graph时可直接传算子名称作为入参，例如：
1

auto softmax = op::SoftmaxV2("softmax")
注意：图中的算子名称必须唯一。

设置算子输入。

算子原型中定义了算子的输入名称、输入类型，以及算子支持的数据类型。根据输入类型，可将算子输入分为可选输入、必选输入和动态输入。

对于可选输入、必选输入和动态输入，需要通过不同的接口设置。

设置算子必选输入和可选输入：通过“set_input_输入名称”设置，例如：

          
               auto softmax = op::SoftmaxV2("softmax")         //创建SoftmaxV2算子实例
  .set_input_x(bias_add_3);                     //设置SoftmaxV2算子输入为bias_add_3

设置算子动态输入：通过“create_dynamic_input_输入名称”创建动态输入、“set_dynamic_input_输入名称”设置动态输入，示例请参考定义动态多输入算子（AddN）。

设置算子属性。

算子原型中定义了算子的属性名称、属性类型、属性支持的数据类型、属性的默认值及取值范围。根据属性类型，可将算子属性分为：必选属性（REQUIRED_ATTR，一定要在算子定义时设置属性值）和可选属性（ATTR，不设置算子对象的属性值时使用默认值）。

对于必选属性和可选属性，都可以通过“set_attr_属性名称”接口设置，例如：

        
             auto maxpool1 = op::MaxPool("MaxPool1")
.set_input_x(tanh1)
.set_attr_ksize({1, 1, 2, 1})                //设置ksize属性值
.set_attr_strides({1, 1, 2, 1})              //设置strides属性值
.set_attr_padding("SAME");                   //设置padding属性值

算子连接边表达

算子之间的连边分为数据边和控制边。数据边用于指定算子的输入，控制边用于控制算子的执行顺序。

数据边表达。

对于前一个算子只有一个输出，可以通过“set_input_输入名称”接口传入前一个算子的名称。

        
             auto bias_add_3 = op::BiasAdd("bias_add_3")
  .set_input_x(matmul_2)
  .set_input_bias(bias_add_const_3)
  .set_attr_data_format("NCHW");
auto softmax = op::SoftmaxV2("Softmax")
  .set_input_x(bias_add_3);

如果前一个算子有多个输出，则需要传入上一个算子的名称和输出名称，或者传入上一个算子的名称和输出索引。

传入上一个算子的名称和输出名称：

        
             auto data = op::Data("data");
auto unique= op::Unique("unique").set_input_x(data);
auto softplus = op::Softplus("softplus").set_input_x(unique, "y");  //创建softplus算子，设置输入为unique算子的y输出
auto sqrt = op::Sqrt("sqrt").set_input_x(unique, "idx");  //创建sqrt算子，设置输入为unique算子的idx输出

传入上一个算子的名称和输出索引：

        
             auto data = op::Data("data");
auto unique= op::Unique("unique").set_input_x(data);
auto softplus = op::Softplus("softplus").set_input_x(unique, 0);  //创建softplus算子，设置输入为unique算子的第一个输出
auto sqrt = op::Sqrt("sqrt").set_input_x(unique, 1);  //创建sqrt算子，设置输入为unique算子的第二个输出

控制边表达。

如果图中某个算子的执行依赖于图中其他算子执行完，如下图所示，如果需要控制先执行Sqrt再执行Softplus，则需要调用AddControlInput接口，对Softplus算子增加控制边。

代码示例：

        
             auto data = op::Data("data");
auto unique= op::Unique("unique").set_input_x(data);
auto sqrt = op::Sqrt("sqrt").set_input_x(unique, "idx");  
auto softplus = op::Softplus("softplus").set_input_x(unique, "y").AddControlInput(sqrt);

创建Graph实例

完成算子定义后，需要创建Graph实例，并在Graph中设置输入算子、输出算子，主要过程为：

包含所需的头文件。
1

#include "graph.h"
创建Graph对象。
1

Graph graph("IrGraph");
相关接口请参考Graph构造函数和析构函数。

设置Graph输入和输出算子，使用到的主要接口为：

设置Graph内的输入算子：SetInputs
设置Graph内的输出算子：SetOutputs

例如设置Graph的输入为Data算子，输出为Softmax算子：

        
             std::vector<Operator> inputs{data}; // data为Data类型的算子对象
std::vector<Operator> outputs{softmax}; // softmax为Softmax类型的算子对象
graph.SetInputs(inputs).SetOutputs(outputs);

如果输入为多个Data算子，需要保证inputs入参顺序和Data算子index属性指定的顺序保持一致，否则后面生成模型时会报错。例如：

        
             // 准备第一个输入数据
auto shape_data0 = vector<int64_t>({1,17,2,2});
TensorDesc desc_data0(ge::Shape(shape_data0), FORMAT_ND, DT_FLOAT);
auto data0 = op::Data("data0").set_attr_index(0) ;   //创建data0算子，index属性为0
data0.update_input_desc_x(desc_data0);         //设置算子输入描述
data0.update_output_desc_y(desc_data0);        //设置算子输出描述
// 准备第二个输入数据
auto shape_data1 = vector<int64_t>({1,5,2,2});
TensorDesc desc_data1(ge::Shape(shape_data1), FORMAT_ND, DT_FLOAT);
auto data1 = op::Data("data1").set_attr_index(1) ;   //创建data1算子，index属性为1
data1.update_input_desc_x(desc_data1);         //设置算子输入描述
data1.update_output_desc_y(desc_data1);        //设置算子输出描述

//设置Graph输入算子
std::vector<Operator> inputs{data0, data1};

父主题： 通过算子原型构建Graph