--singleop
功能说明
单算子描述文件,将单个算子描述文件(json格式)转换成适配昇腾AI处理器的离线模型,以便进行后续的单算子功能验证。
关联参数
使用该参数时,只有如下参数可以配合使用,其中--output、--soc_version为必填。
- Atlas 200/300/500 推理产品可配合使用的参数:
- Atlas 200/500 A2推理产品可配合使用的参数:
- Atlas 推理系列产品可配合使用的参数:
- Atlas 训练系列产品可配合使用的参数:
- Atlas A2训练系列产品/Atlas 800I A2推理产品可配合使用的参数:
参数取值
参数值:单算子描述文件(json格式)格式以及参数配置请参见单算子模型转换。
推荐配置及收益
无。
示例
下面以Add单算子为例进行说明, 该单算子对应的描述文件为add.json ,将该文件上传到ATC工具所在服务器任意目录,例如上传到$HOME/singleop,使用示例如下:
--singleop=$HOME/singleop/add.json --output=$HOME/singleop/out/op_model --soc_version=<soc_version>
支持的型号
Atlas 200/300/500 推理产品
Atlas 推理系列产品
Atlas 训练系列产品
Atlas 200/500 A2推理产品
Atlas A2训练系列产品/Atlas 800I A2推理产品
依赖约束
- 使用约束
单算子json文件转换成离线模型场景,如果希望模型转换时只使用TBE算子(不查找AI CPU算子,找不到TBE算子则报错),还需设置如下环境变量:
export ASCEND_ENGINE_PATH=${INSTALL_DIR}/lib64/plugin/opskernel/libfe.so:${INSTALL_DIR}/lib64/plugin/opskernel/libge_local_engine.so:${INSTALL_DIR}/lib64/plugin/opskernel/librts_engine.so
执行上述命令后,如果用户想要执行其他操作,需要删除上述环境变量:执行unset ASCEND_ENGINE_PATH命令,使其失效。
父主题: 输入选项