--optypelist_for_implmode
功能说明
设置optype列表中算子的实现模式,算子实现模式包括high_precision、high_performance两种。
关联参数
- 该参数需要与--op_select_implmode参数配合使用,通过--optypelist_for_implmode参数设置的算子,统一使用--op_select_implmode参数指定的实现模式,不能为列表中的每个算子设置不同的实现模式。
- 该参数配合--op_select_implmode参数使用时,不能与--op_precision_mode参数同时使用,若同时配置,则只有--op_precision_mode参数指定的模式生效。上述三个算子运行流程请参见--precision_mode中的图1。
参数取值
参数值:算子列表。
参数值约束:
- 该列表中的算子OpType必须为基于Ascend IR定义的算子的OpType,算子类型查看方法请参见如何确定原始框架网络模型中的算子与昇腾AI处理器支持的算子的对应关系。
- 该列表中的算子使用--op_select_implmode参数指定的实现模式,且仅支持指定为high_precision、high_performance两种模式,多个算子使用英文逗号进行分隔。
- 该参数仅对指定的算子生效,不指定的算子按照默认实现方式选择。
推荐配置及收益
无。
示例
--op_select_implmode=high_precision --optypelist_for_implmode=Pooling,SoftmaxV2
上述配置示例表示对Pooling、SoftmaxV2算子使用统一的高精度模式,未指定算子使用算子的默认实现方式。
支持的型号
Atlas 200/300/500 推理产品
Atlas 推理系列产品
Atlas 训练系列产品
Atlas 200/500 A2推理产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
依赖约束
无。
父主题: 算子调优选项