GetTypeByteSize接口

接口功能

获取对应InferDataType类型的字节数。

接口格式

static size_t GetTypeByteSize(InferDataType dataType)

接口参数

参数

是否必选

说明

取值要求

dataType

数据类型。

InferDataType类型,请参考InferDataType

使用样例

构造一个名为"INPUT_IDS",数据类型为INT64,数据维度为{1,2}的Tensor对象,获取对应InferDataType类型的字节数。

1
2
3
4
5
std::string name = "INPUT_IDS";
mindie_llm::InferDataType dataType = mindie_llm::InferDataType::TYPE_INT64;
std::vector<int64_t> dataShape = {1, 2};
auto inputsTensor = std::make_shared<mindie_llm::InferTensor>(name, dataType, dataShape);
size_t size = inputsTensor->GetTypeByteSize();

返回值

InferDataType类型的字节数,类型为size_t。