文档
注册

FlatAT

当前FlatAT算子配合IVF类型的算子使用,用来加速IVF类型算子的add、train等过程,不支持直接调用FlatAT算子。当前的add/train加速功能通过IVF中AscendIndexIVFConfig.useKmeansPP进行指定,此时仅支持训练规模在10,000,000以下的训练。

用法

python3 flat_at_generate_model.py --cores <core_num> -d <dim> -c <code_num> -p <process_id>

参数名称

<dim>:输入特征向量维度。

<code_num>:与输入特征作对比的底库特征数。

<core_num>:昇腾AI处理器AI Core的个数,默认为“2”

<process_id>:批量生成算子多进程调度的进程ID。

说明

执行此命令,用户可以得到一组算子模型文件。

FlatAT算子主要用于在IVF场景,减少train和add的耗时。

约束说明

  • dim ∈ {128, 256, 384}
  • code_num ∈ {1024, 2048, 4096, 8192, 16384, 32768}
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词