--singleop

功能说明

单算子描述文件，将单个算子描述文件（json格式）转换成适配昇腾AI处理器的离线模型，以便进行后续的单算子功能验证。

关联参数

使用该参数时，只有如下参数可以配合使用，其中--output、--soc_version为必填。

• Atlas 200/300/500 推理产品可配合使用的参数：
  • --output
  • --soc_version
  • --precision_mode
  • --op_select_implmode
  • --optypelist_for_implmode
  • --enable_small_channel
  • --log
  • --debug_dir
  • --op_compiler_cache_mode
  • --op_compiler_cache_dir
  • --atomic_clean_policy
  • --customize_dtypes
• Atlas 200I/500 A2推理产品可配合使用的参数：
  • --output
  • --soc_version
  • --precision_mode
  • --op_select_implmode
  • --optypelist_for_implmode
  • --enable_small_channel
  • --sparsity
  • --log
  • --debug_dir
  • --op_compiler_cache_mode
  • --op_compiler_cache_dir
  • --atomic_clean_policy
  • --customize_dtypes
• Atlas 推理系列产品可配合使用的参数：
  • --output
  • --soc_version
  • --core_type
  • --aicore_num
  • --precision_mode
  • --op_select_implmode
  • --optypelist_for_implmode
  • --log
  • --debug_dir
  • --op_compiler_cache_mode
  • --op_compiler_cache_dir
  • --atomic_clean_policy
  • --customize_dtypes
• Atlas 训练系列产品可配合使用的参数：
  • --output
  • --soc_version
  • --precision_mode
  • --op_select_implmode
  • --optypelist_for_implmode
  • --enable_small_channel
  • --log
  • --debug_dir
  • --op_compiler_cache_mode
  • --op_compiler_cache_dir
  • --atomic_clean_policy
  • --customize_dtypes
• Atlas A2训练系列产品/Atlas 800I A2推理产品可配合使用的参数：
  • --output
  • --soc_version
  • --precision_mode
  • --op_select_implmode
  • --optypelist_for_implmode
  • --enable_small_channel
  • --sparsity
  • --allow_hf32
  • --log
  • --debug_dir
  • --op_compiler_cache_mode
  • --op_compiler_cache_dir
  • --atomic_clean_policy
  • --customize_dtypes

参数取值

参数值：单算子描述文件（json格式）格式以及参数配置请参见单算子模型转换。

参数值约束：该参数指定的单算子都是基于Ascend IR定义的，关于单算子的详细定义请参见《算子清单》手册。

推荐配置及收益

无。

示例

下面以Add单算子为例进行说明， 该单算子对应的描述文件为add.json ，将该文件上传到ATC工具所在服务器任意目录，例如上传到$HOME/singleop，使用示例如下：

--singleop=$HOME/singleop/add.json --output=$HOME/singleop/out/op_model  --soc_version=<soc_version>

支持的型号

Atlas 200/300/500 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

Atlas 200I/500 A2推理产品

Atlas A2训练系列产品/Atlas 800I A2推理产品

依赖约束

• 使用约束
  单算子json文件转换成离线模型场景，如果希望模型转换时只使用TBE算子（不查找AI CPU算子，找不到TBE算子则报错），还需设置如下环境变量：

  export ASCEND_ENGINE_PATH=${INSTALL_DIR}/lib64/plugin/opskernel/libfe.so:${INSTALL_DIR}/lib64/plugin/opskernel/libge_local_engine.so

  执行上述命令后，如果用户想要执行其他操作，需要删除上述环境变量：执行unset ASCEND_ENGINE_PATH命令，使其失效。

• 接口约束

  单算子描述文件转换后的om模型文件，使用应用工程进行模型推理时，需调用AscendCL接口加载算子模型（例如aclopSetModelDir接口），最后调用AscendCL接口执行算子（例如aclopExecuteV2接口）。