Status AddOriginalInput(const std::string &name, const LLM_ENGINE_DataType datatype, const int64_t *shape, const uint64_t dim_count, Input **input)

接口功能

向推理请求中添加指定名称的原始输入张量。

接口格式

Status AddOriginalInput(const std::string &name, const LLM_ENGINE_DataType datatype, const int64_t *shape,const uint64_t dim_count, Input **input);

接口参数

参数

是否必选

说明

取值要求

name

必选

输入张量的名称。

合法的张量名称。

datatype

必选

输入张量中保存的数据类型。

合法的数据类型。

shape

必选

输入张量的维度。

合法的维度信息。

dim_count

必选

输入张量的dim。

合法的维度dim值。

input

必选

指针的指针,用于在函数外访问到输入张量对象。

合法的指针的指针。

使用样例

返回值