Input接口

根据输入张量名称，张量内的数据类型，张量维度，张量dim创建推理请求输入张量对象。

Input(const std::string &name, LLM_ENGINE_DataType datatype, const int64_t *shape, uint64_t dimCount);
Input() = delete;

表1 接口参数
参数	是否必选	说明	取值要求
name	必选	输入张量名称。	合法字符串string类型，非空。
datatype	必选	张量中保存的数据类型。	LLM_ENGINE_DataType_enum类型，请参见表2。
shape	必选	张量的维度。	合法的维度信息，取值建议为{1, size}，size为输入张量的长度。
dimCount	必选	张量的dim。	uint64_类型，小于或等于10000。取值建议为2，与shape长度一致。

Input* input(name, datatype, shape, dimCount);

返回推理请求输入张量对象。

父主题： Input类