批量算子模型文件生成
用法 |
python3 run_generate_model.py -m <mode> -t <npu_type> -p <pipeline> -pool <pool_size> |
---|---|
参数名称 |
<mode>:算法模式,<mode>支持ALL以及PCAR,Flat,IVFPQ,SQ8,IVFSQ8,INT8,IVFINT8中的一种或多种,多种之间用逗号隔开,如:python3 run_generate_model.py -m PCAR,IVFSQ8。默认全选,可以直接执行python3 run_generate_model.py。 <npu_type>:硬件形态,当前<npu_type>支持昇腾310 AI处理器以及Atlas 推理系列产品,默认为“310”。 <pipeline>:是否使用多线程并行流水生成算子模型,默认为“true”。 <pool_size>:批量生成算子多进程调度的进程池大小。 |
说明 |
|
父主题: 算子生成说明