下载
EN
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

总体流程

模型训练完成后,用户可以通过PyTorch提供的接口保存模型文件(pth文件和pth.tar文件)用于在线推理;或将模型导出ONNX模型,然后通过ATC工具将其转换为适配昇腾AI处理器的.om文件用于离线推理。

在昇腾PyTorch1.11.0及以上的版本中,NPU模型在使用torch.save()进行存储的时候会保存NPU特有的设备信息和数据格式,以便于更好的支持断点训练,这带来了保存的pth、pt和pth.tar扩展名文件跨平台兼容性问题。在模型固化文件用于非NPU设备时需要存储成CPU格式,详情参见跨平台保存模型

将ONNX模型转换为适配昇腾AI处理器的.om文件流程请参考CANN ATC工具使用指南

离线推理应用构建请参考CANN AscendCL应用软件开发指南 (C&C++)。整体流程如下。

图1 模型保存应用流程图
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词