InferRequest接口
接口功能
构造函数。
接口格式
explicit InferRequest(InferRequestId requestId);
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
requestId |
是 |
请求ID。 |
InferRequestId 类型，请参考InferRequestId。 |
使用样例
mindie_llm::InferRequestId runtimeReqId(0); std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
返回值
InferRequest对象。
父主题： InferRequest