--singleop

功能说明

单算子描述文件，将单个算子描述文件（json格式）转换成适配昇腾AI处理器的离线模型，以便进行后续的单算子功能验证。

关联参数

使用该参数时，只有如下参数可以配合使用，其中--output、--soc_version为必填。

• Atlas 200/500 A2推理产品可配合使用的参数：
  • --output
  • --soc_version
  • --precision_mode
  • --op_select_implmode
  • --optypelist_for_implmode
  • --enable_small_channel
  • --sparsity
  • --log
  • --debug_dir
  • --op_compiler_cache_mode
  • --op_compiler_cache_dir
  • --atomic_clean_policy
  • --customize_dtypes

参数取值

参数值：单算子描述文件（json格式）格式以及参数配置请参见单算子模型转换。

参数值约束：该参数指定的单算子都是基于Ascend IR定义的，关于单算子的详细定义请参见《算子清单》手册。

推荐配置及收益

无。

示例

下面以GEMM单算子为例进行说明， 该单算子对应的描述文件为gemm.json ，将该文件上传到ATC工具所在服务器任意目录，例如上传到$HOME/singleop，使用示例如下：

--singleop=$HOME/singleop/gemm.json --output=$HOME/singleop/out/op_model  --soc_version=<soc_version>

支持的芯片型号

Atlas 200/500 A2推理产品

依赖约束

单算子json文件转换成离线模型场景，如果希望模型转换时只使用TBE算子，还需设置如下环境变量：

export ASCEND_ENGINE_PATH=${INSTALL_DIR}/lib64/plugin/opskernel/libfe.so:${INSTALL_DIR}/lib64/plugin/opskernel/libge_local_engine.so

执行上述命令后：如果用户想要使用AI CPU算子的能力或再次执行开源框架的网络模型转换成离线模型命令，如开源框架的TensorFlow网络模型转换成离线模型，转换之前，需要删除上述环境变量：执行unset ASCEND_ENGINE_PATH命令，使ASCEND_ENGINE_PATH环境变量失效。