请求的设置Tensor接口。
void SetTensor(const std::string& tensorName, TensorPtr &tensor)
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
tensorName |
是 |
tensor名字。 |
合法的string类型。 |
tensor |
是 |
tensor内容。 |
合法的InferTensor类型，参考InferTensor。 |
构造一个请求对象，给请求设置一个Tensor名字为"INPUT_IDS"，类型为TYPE_INT64，Shap为{1，2}的Tensor。
1 2 3 4 5 6 7 | mindie_llm::InferRequestId runtimeReqId(0); std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId); std::string name = "INPUT_IDS"; mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64; std::vector<int64_t> dataShape = {1, 2}; auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape); runtimeRequest->SetTensor(name, inputsTensor); |
无。