InferRequest接口

接口功能

构造函数。

接口格式

explicit InferRequest(InferRequestId requestId);

接口参数

参数

是否必选

说明

取值要求

requestId

请求ID。

InferRequestId类型,请参考InferRequestId

使用样例

构造一个ID为0的InferRequestId对象。

1
2
mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);

返回值

InferRequest对象。