InferTensor接口
接口功能
默认构造函数。
接口格式
InferTensor() = default; InferTensor(std::string name, InferDataType dataType, std::vector<int64_t> dataShape);
接口参数
参数 |
是否必选 |
说明 |
取值要求 |
|---|---|---|---|
name |
是 |
tensor名字。 |
合法的字符串类型string类型。 |
dataType |
是 |
tensor数据类型。 |
合法的数据类型,请参考InferDataType。 |
dataShape |
是 |
tensor数据维度。 |
合法的数据维度，类型为std::vector<int64_t>。 |
使用样例
auto runtimeTensor = std::make_shared<mindie_llm::InferTensor>();
std::string name = "INPUT_IDS";
mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64;
std::vector<int64_t> dataShape = {1, 2};
auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape);
返回值
返回InferTensor对象。
父主题： InferTensor