Tensor
功能
加速库的Tensor定义,包含每个Tensor的描述符、NPU内存地址、CPU内存地址和内存大小等。
定义
struct Tensor { TensorDesc desc; void *deviceData = nullptr; void *hostData = nullptr; uint64_t dataSize = 0; };
成员
成员名称 |
数据类型 |
默认值 |
描述 |
---|---|---|---|
desc |
TensorDesc |
- |
Tensor描述信息。 |
deviceData |
void * |
nullptr |
TensorNPU内存地址。 |
hostData |
void * |
nullptr |
TensorCPU内存地址。 |
dataSize |
uint64_t |
0 |
“deviceData”或“hostData”指向内容的内存大小。 |
父主题: atb/types.h