专家系统简介
专家系统(Advisor)是用于聚焦模型和算子的性能调优Top问题,识别性能瓶颈,重点构建模型和算子瓶颈分析并提供优化推荐,支撑开发效率提升的工具。
专家系统工具当前支持专家系统自有知识库和生态知识库对模型或算子进行性能分析;支持应用兼容性分析实现应用的API兼容性识别。
- 专家系统自有知识库当前提供的功能:
- 推理场景功能:基于Roofline模型的算子瓶颈识别与优化建议、算子优化分析、基于Timeline的AI CPU算子优化、算子融合推荐、TransData算子识别。
- 训练场景功能:基于训练场景的优化推荐、集群场景的大模型并行方式优化推荐。
- 生态知识库的专家系统性能调优功能:由生态开发者使用Python编程语言进行开发,用户通过调用专家系统提供的接口,对生态开发者提供的模型或算子进行性能分析。
- 应用兼容性分析提供对昇腾现网存量应用,在切换新版CANN软件版本时的API兼容性识别并输出优化建议。
专家系统工具仅适配CANN 7.0.0及之前的版本,之后的版本将不再适配。
父主题: 专家系统工具