下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

--singleop

功能说明

单算子描述文件,将单个算子描述文件(json格式)转换成适配昇腾AI处理器的离线模型,以便进行后续的单算子功能验证。

关联参数

使用该参数时,只有如下参数可以配合使用,其中--output--soc_version为必填。

参数取值

参数值:单算子描述文件(json格式)格式以及参数配置请参见单算子模型转换

参数值约束:该参数指定的单算子都是基于Ascend IR定义的,关于单算子的详细定义请参见算子加速库接口参考手册。

推荐配置及收益

无。

示例

下面以Add单算子为例进行说明, 该单算子对应的描述文件为add.json ,将该文件上传到ATC工具所在服务器任意目录,例如上传到$HOME/singleop,使用示例如下:

--singleop=$HOME/singleop/add.json --output=$HOME/singleop/out/op_model  --soc_version=<soc_version>

支持的型号

Atlas 200/300/500 推理产品

Atlas 推理系列产品

Atlas 训练系列产品

Atlas 200/500 A2推理产品

Atlas A2训练系列产品/Atlas 800I A2推理产品

依赖约束

  • 使用约束
    单算子json文件转换成离线模型场景,如果希望模型转换时只使用TBE算子(不查找AI CPU算子,找不到TBE算子则报错),还需设置如下环境变量:
    export ASCEND_ENGINE_PATH=${INSTALL_DIR}/lib64/plugin/opskernel/libfe.so:${INSTALL_DIR}/lib64/plugin/opskernel/libge_local_engine.so:${INSTALL_DIR}/lib64/plugin/opskernel/librts_engine.so

    执行上述命令后,如果用户想要执行其他操作,需要删除上述环境变量:执行unset ASCEND_ENGINE_PATH命令,使其失效。

  • 接口约束

    单算子描述文件转换后的om模型文件,使用应用工程进行模型推理时,需调用AscendCL接口加载算子模型(例如aclopSetModelDir接口),最后调用AscendCL接口执行算子(例如aclopExecuteV2接口)。

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词