InferRequest
类说明
InferRequest接口
SetTensor接口
AddTensor接口
GetTensorByName接口
DelTensorByName接口
GetRequestId接口
SetMaxOutputLen接口
GetMaxOutputLen接口
GetRequestInner接口
ImmutableInputs接口
SetReqType接口
GetReqType接口
IsPrefillReq接口
IsDecodeReq接口
SetDTarget接口
GetDTarget接口
SetPrefillAddr接口
GetPrefillAddr接口
SetSrcBlockTable接口
GetSrcBlockTable接口
~InferRequest
父主题：
类参考