释放输入张量对象内存。
void Release()
无。
构造一个名为"INPUT_IDS",数据类型为INT64,数据维度为{1,2}的Tensor对象,然后释放该对象的数据内存空间。
1 2 3 4 5 | std::string name = "INPUT_IDS"; mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64; std::vector<int64_t> dataShape = {1, 2}; auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape); inputsTensor->Release(); |
无。