下载
中文
注册

InferRequestId接口

接口功能

  • InferRequestId的默认构造函数。
  • 根据序列字符串requestLabel值创建以string类型值作为唯一序列号的请求体对象。
  • 根据序列uint64类型requestIndex值创建以uint64类型值作为唯一序列号的请求体对象。

接口格式

explicit InferRequestId();
explicit InferRequestId(const std::string requestLabel);
explicit InferRequestId(uint64_t requestIndex);

接口参数

参数

是否必选

说明

取值要求

requestLabel

必选

推理请求对象的唯一性标识,序列号,这里是string类型的。

合法的字符类型string类型请求序列号。

参数

是否必选

说明

取值要求

requestIndex

必选

推理请求对象的唯一序列号,uint64类型的。

合法的uint64唯一序列号。

使用样例

mindie_llm::InferRequestId1 runtimeReqId();
mindie_llm::InferRequestId2 runtimeReqId("Req");
mindie_llm::InferRequestId3 runtimeReqId(0);

返回值

InferRequestId对象。