GetTensorByName接口
接口功能
根据Name获取Tensor。
接口格式
Status GetTensorByName(const std::string& tensorName, TensorPtr &tensor)
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
tensorName |
是 |
tensor名字。 |
合法的字符串类型。 |
tensor |
是 |
tensor内容。 |
合法的InferTensor类型,请参考InferTensor。 |
使用样例
mindie_llm::InferRequestId runtimeReqId(0);
std::shared_ptr<mindie_llm::InferRequest> runtimeRequest(runtimeReqId);
std::string name = "INPUT_IDS";
mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64;
std::vector<int64_t> dataShape = {1, 2};
auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape);
runtimeRequest->AddTensor(name, inputsTensor);
TensorPtr tensor = std::make_shared<mindie_llm::InferTensor>();
Status ret = request->GetTensorByName("INPUT_IDS", tensor);
返回值
Status对象。
父主题: InferRequest