export_engine

函数功能

将原始TorchScript模型进行编译优化生成可在昇腾处理上加速推理的离线OM模型。

函数原型

std::string export_engine(const torch::jit::Module& module, const std::string& method_name, const CompileSpec& info);

约束说明

• 只有TorchScript模型支持整图编译且不设置强制fallback算子才可导出离线OM模型。
• export_engine接口由于存在参数校验，在输入非法数据时，可能会抛出异常。故用户必须在try/catch语句块内进行调用以及异常处理，防止在使用的过程中出现异常抛出导致程序退出的情况。

参数说明

返回值说明

返回编译优化后的engine，可用于保存om文件。