功能介绍
AscendIndexBinaryFlat需要使用对应的AscendIndexBinaryFlatConfig执行对应资源的初始化,配置执行检索过程中的硬件资源“devices”和预置的内存池大小“resources”。
- AscendIndexBinaryFlat仅支持单个昇腾AI处理器的Atlas 推理系列产品,依赖AICPU算子和BinaryFlat算子,请参考自定义算子介绍生成对应算子。
- AscendIndexBinaryFlat仅支持标准态部署方式。
成员介绍
成员 |
类型 |
说明 |
---|---|---|
deviceList |
std::vector<int> |
Device侧设备ID。 AscendIndexBinaryFlat类仅支持单个Atlas 推理系列产品的加速卡。 |
resourceSize |
int64_t |
Device侧内存池大小,单位为字节,默认参数值为1024MB,合法范围为[1024*1024*1024, 32*1024*1024*1024],1000W底库推荐申请5GB。 |