自定义算子简介
特征检索方案使用TIK算子开发实现特征距离计算逻辑,包含以下的自定义算子。
- PQ距离累加算子:距离累加算子使用Vector的VCADD指令进行累加,使用多核计算。
- PQ距离计算算子:得到长特征底库数据和待检索的长特征向量之间的L2距离。
- PQ距离表生成算子:被同时加载至所有昇腾310 AI处理器芯片,然后在每颗昇腾310 AI处理器上生成同样的距离表。
- PCA降维算子:对长特征向量进行降维。
- Flat距离计算算子:得到特征底库数据和待检索的特征向量之间的距离(L2/IP)。
- SQ8距离计算算子:得到SQ量化的特征底库数据和待检索的未量化特征向量之间的距离(L2/IP)。
- IVFSQ8算子:得到IVFSQ8算法所需要的算子。
- IVFPQ算子:得到IVFPQ算法所需要的算子。
- INT8距离计算算子:得到INT8量化的特征底库数据和待检索的INT8量化特征向量之间的距离(L2/COS)。
- IVFINT8:得到IVFINT8算法所需要的算子。
- IVFSQT算子:得到IVFSQT方案和IVFast方案一二三级所需的所有算子。
- FlatAT算子:主要用于在IVF场景,减少train和add的耗时,其中“code_num”等于“nlist”。
- FlatInt8AT算子:优化在Atlas 推理系列产品下IVFSQT中train、add与update的耗时。
父主题: 自定义算子介绍