GraphInputs

说明

描述模型图中所有输入的数据结构。

定义

using InputProfile = std::vector<Input>;
struct GraphInputs {
  std::vector<torch::jit::IValue> inputSignatures;
  std::vector<InputProfile> inputs;
};

成员

成员名称	描述
inputSignatures	通过torch的IValue数据结构构造GraphInputs（暂不支持）。
inputs	存储图的所有输入，Graph编译有3种模式：静态输入、动态Dims输入、SHAPE_RANGE输入。静态输入：inputs中有且只能有一个InputProfile，InputProfile中Input个数需要与输入Graph的输入个数一致，最大支持4096个Input，Input需满足Input中约束条件，Input需要为非ShapeRange。动态Dims输入：inputs中需要有2个及以上个InputProfile，每个InputProfile代表一个档位，最大支持100档，每个InputProfile中Input个数均需要与输入Graph的输入个数一致，最大支持4096个Input，Input需满足Input中约束条件，Input需要为非ShapeRange。 SHAPE_RANGE输入：inputs中有且只能有一个InputProfile，InputProfile中Input个数需要与输入Graph的输入个数一致，最大支持4096个Input，Input需满足Input中约束条件，Input需要为ShapeRange。

成员名称

描述

inputSignatures

通过torch的IValue数据结构构造GraphInputs（暂不支持）。

inputs

存储图的所有输入，Graph编译有3种模式：静态输入、动态Dims输入、SHAPE_RANGE输入。

静态输入：inputs中有且只能有一个InputProfile，InputProfile中Input个数需要与输入Graph的输入个数一致，最大支持4096个Input，Input需满足Input中约束条件，Input需要为非ShapeRange。
动态Dims输入：inputs中需要有2个及以上个InputProfile，每个InputProfile代表一个档位，最大支持100档，每个InputProfile中Input个数均需要与输入Graph的输入个数一致，最大支持4096个Input，Input需满足Input中约束条件，Input需要为非ShapeRange。
SHAPE_RANGE输入：inputs中有且只能有一个InputProfile，InputProfile中Input个数需要与输入Graph的输入个数一致，最大支持4096个Input，Input需满足Input中约束条件，Input需要为ShapeRange。

父主题： 数据结构参考