InferRequestId操作符重载接口
接口功能
- 重载推理请求体对象的=号运算符,用于给请求体初始化为以uint64_t类型作为序列号类型,序列号值是rhs的推理请求体对象,用于标识一个请求体。
- 重载推理请求体对象的=号运算符,用于给请求体初始化为以string类型作为序列号类型,序列号值是字符rhs的推理请求体对象,用于标识一个请求体。
- 重载推理请求体对象的=号运算符,用于从已有的请求体对象初始化一个新的请求体对象。
接口格式
InferRequestId &operator = (const uint64_t rhs); InferRequestId &operator = (const std::string &rhs); InferRequestId &operator = (const InferRequestId &rhs);
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
---|---|---|---|
rhs |
必选 |
请求体序列号,唯一标识请求体。 |
合法的uint64_t数值。 |
参数 |
是否必选 |
说明 |
取值要求 |
---|---|---|---|
rhs |
必选 |
请求体序列号,唯一标识请求体。 |
合法的字符串。 |
参数 |
是否必选 |
说明 |
取值要求 |
---|---|---|---|
rhs |
必选 |
推理请求体对象。 |
合法的请求体对象。 |
使用样例
mindie_llm::InferRequestId runtimeReqId1(0); uint64_t reqId = 0; mindie_llm::InferRequestId runtimeReqId2 = reqId ; mindie_llm::InferRequestId runtimeReqId3 = "Req"; mindie_llm::InferRequestId runtimeReqId4 = runtimeReqId1;
返回值
InferRequestId对象。
父主题: InferRequestId