文档
注册

批量算子模型文件生成

用法

python3 run_generate_model.py -m <mode> -t <npu_type> -p <pipeline> -pool <pool_size>

参数名称

<mode>:算法模式,<mode>支持ALL以及PCAR,Flat,IVFPQ,SQ8,IVFSQ8,INT8,IVFINT8中的一种或多种,多种之间用逗号隔开,如:python3 run_generate_model.py -m PCAR,IVFSQ8。默认全选,可以直接执行python3 run_generate_model.py

<npu_type>:硬件形态,当前<npu_type>支持昇腾310 AI处理器以及昇腾310P AI处理器Atlas 300I Pro 推理卡),默认为“310”

<pipeline>:是否使用多线程并行流水生成算子模型,默认为“true”

<pool_size>:批量生成算子多进程调度的进程池大小。

说明

  • 执行此命令,用户可以得到多组算子模型文件。执行命令前,用户需要更改当前目录下的“para_table.xml”文件,将所需的参数填入表中。
  • 0 ≤ pool_size ≤ 32

算子生成说明表格中的约束说明,代表业务中经常涉及的参数组合,不排除使用其它参数脚本正常运行的情况。其它参数运行异常请参见CANN 6.3.RC1 ATC工具使用指南

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词