InferRequestId接口

接口功能

接口格式

explicit InferRequestId();
explicit InferRequestId(const std::string requestLabel);
explicit InferRequestId(uint64_t requestIndex);

接口参数

参数

是否必选

说明

取值要求

requestLabel

必选

推理请求对象的唯一性标识,序列号,这里是string类型的。

合法的字符类型,string类型请求序列号。

参数

是否必选

说明

取值要求

requestIndex

必选

推理请求对象的唯一序列号,uint64类型的。

合法的uint64唯一序列号。

使用样例

mindie_llm::InferRequestId1 runtimeReqId();
mindie_llm::InferRequestId2 runtimeReqId("Req");
mindie_llm::InferRequestId3 runtimeReqId(0);

返回值

InferRequestId对象。