InferenceRequest接口
接口功能
创建InferenceRequest对象。
接口格式
explicit InferenceRequest(const RequestId &reqId); InferenceRequest() = delete;
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
reqId |
必选 |
推理请求对象，请求之间的唯一标识。 |
合法的请求对象，请参考RequestId。 |
使用样例
int reqId = 0;
InferenceRequest *request(RequestID(reqId));
InferenceRequest::Input *input;
data_size = 10;
std::vector<int64_t> shape({1, data_size});
request->AddOriginalInput("INPUT_IDS", TYPE_INT64, &shape[0], shape.size(), &input);
返回值
InferenceRequest对象。
父主题： InferenceRequest