自定义算子简介
特征检索方案使用TIK算子开发实现特征距离计算逻辑,包含以下的自定义算子。
- PQ距离累加算子:距离累加算子使用Vector的VCADD指令进行累加,使用多核计算。
- PQ距离计算算子:得到长特征底库数据和待检索的长特征向量之间的L2距离。
- PQ距离表生成算子:被同时加载至Atlas 200/300/500 推理产品,然后在每个昇腾AI处理器上生成同样的距离表。
- PCA降维算子:对长特征向量进行降维。
- Flat距离计算算子:得到特征底库数据和待检索的特征向量之间的距离(L2/IP)。
- SQ8距离计算算子:得到SQ量化的特征底库数据和待检索的未量化特征向量之间的距离(L2/IP)。
- IVFSQ8算子:得到IVFSQ8算法所需要的算子。
- IVFPQ算子:得到IVFPQ算法所需要的算子。
- INT8Flat距离计算算子:得到INT8量化的特征底库数据和待检索的INT8量化特征向量之间的距离(L2/COS)。
- IVFINT8算子:得到IVFINT8算法所需要的算子。
- IVFSQT算子:得到IVFSQT方案和IVFast方案一二三级所需的所有算子。
- FlatAT算子:主要用于在IVF场景,减少train和add的耗时,其中“code_num”等于“nlist”。
- FlatInt8AT算子:优化在Atlas 推理系列产品(配置Ascend 310P AI处理器)下IVFSQT中train、add与update的耗时。
- AICPU算子:AICPU算子主要用在标准态场景,调度昇腾AI处理器的CPU完成排序等计算,充分利用硬件性能。
- BinaryFlat算子:得到二值化算法所需算子。
- Mask算子:得到时空库属性过滤算法所需的Mask算子。
- IVFSP算子:得到IVFSP算法所需的业务算子、AICPU算子,以及训练生成IVFSP码本时所需的训练算子。
父主题: 自定义算子介绍