默认构造函数。
InferTensor() = default; InferTensor(std::string name, InferDataType dataType, std::vector<int64_t> dataShape);
参数 |
是否必选 |
说明 |
取值要求 |
---|---|---|---|
name |
是 |
tensor名字。 |
合法的string类型。 |
dataType |
是 |
tensor数据类型。 |
合法的数据类型,请参考InferDataType。 |
dataShape |
是 |
tensor数据维度。 |
合法的数据维度,类型为std::vector<int64_t>。 |
构造一个名为"INPUT_IDS",数据类型为INT64,数据维度为{1,2}的Tensor对象。
1 2 3 4 5 | auto runtimeTensor = std::make_shared<mindie_llm::InferTensor>(); std::string name = "INPUT_IDS"; mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64; std::vector<int64_t> dataShape = {1, 2}; auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape); |
InferTensor对象。