下载
中文
注册

AscendIndexIVFSPConfig

API定义

inline explicit AscendIndexIVFSPConfig(std::initializer_list<int> devices, int64_t resources = IVF_SP_DEFAULT_MEM, uint32_t blockSize = DEFAULT_BLOCK_SIZE);

功能描述

AscendIndexIVFSPConfig构造函数,生成AscendIndexIVFSPConfig,指定Device侧设备ID和资源池大小。

输入

std::initializer_list<int> devices:Device侧设备ID。

int64_t resourceSize:设备侧预置的内存池大小,单位为Byte,计算过程中存储中间结果的内存空间,用于避免计算过程中动态申请内存造成性能波动。默认参数为头文件中的“IVF_SP_DEFAULT_MEM”。该参数通过底库大小和search的batch数共同确定,在底库大于或等于1000万且batch数大于或等于16时建议设置1024MB。

uint32_t blockSize:预置的内存块大小,单位为Byte。默认参数为头文件中的“DEFAULT_BLOCK_SIZE”

输出

返回值

约束说明

  • “devices”需要为合法有效不重复的设备ID,当前仅支持1个NPU设备。
  • “resourceSize”配置的值不超过4 * 1024MB(4 * 1024 * 1024 * 1024字节)。