下载
中文
注册

InferRequestId操作符重载接口

接口功能

  • 重载推理请求体对象的=号运算符,用于给请求体初始化为以uint64_t类型作为序列号类型,序列号值是rhs的推理请求体对象,用于标识一个请求体。
  • 重载推理请求体对象的=号运算符,用于给请求体初始化为以string类型作为序列号类型,序列号值是字符rhs的推理请求体对象,用于标识一个请求体。
  • 重载推理请求体对象的=号运算符,用于从已有的请求体对象初始化一个新的请求体对象。

接口格式

InferRequestId &operator = (const uint64_t rhs);
InferRequestId &operator = (const std::string &rhs);
InferRequestId &operator = (const InferRequestId &rhs);

接口参数

参数

是否必选

说明

取值要求

rhs

必选

请求体序列号,唯一标识请求体。

合法的uint64_t数值。

参数

是否必选

说明

取值要求

rhs

必选

请求体序列号,唯一标识请求体。

合法的字符串。

参数

是否必选

说明

取值要求

rhs

必选

推理请求体对象。

合法的请求体对象。

使用样例

mindie_llm::InferRequestId runtimeReqId1(0);
uint64_t reqId = 0;
mindie_llm::InferRequestId runtimeReqId2 = reqId ;
mindie_llm::InferRequestId runtimeReqId3 = "Req";
mindie_llm::InferRequestId runtimeReqId4 = runtimeReqId1;

返回值

InferRequestId对象。