调优简介
本章重点介绍推理应用的精度、性能调优,由于是调优,因此在调优前,请确保已经完成了整网推理功能调测,功能不阻塞,只是推理精度错误、推理精度与标杆数据存在少量差距、模型推理性能不符合预期或待提升等问题。
- 应用的精度问题可能由于推理功能与其它功能之间的串接问题、整网中算子本身的精度问题等,可参考本章中的建议排查功能串接时的接口参数配置问题、借助工具获取详细数据定位分析问题。
- 应用的性能问题可能由于模型在昇腾AI处理器上的算子适配或数据读写问题、DVPP接口使用问题等,可参考本章中的建议排查接口使用问题、借助工具优化模型、借助工具获取详细数据定位分析问题。
父主题: 精度/性能优化