简介

AutoML（Auto Machine Learning）包括模型自动性能调优、基于API方式的模型性能调优、训练工程超参数自动调优和大模型压缩调优四个模块。昇腾模型开发用户可以通过模型自动性能调优功能找到性能更好的模型。AI初学者可以通过AutoML工具结合数据集，生成满足需求的模型，对训练超参进行自动调优。

• 模型自动调优包含剪枝和量化算法，支持在昇腾910 AI处理器上进行搜索训练，覆盖MindSpore，PyTorch框架，能对CV领域分类、检测和分割等常用模型进行自动性能调优。
• 基于API方式的模型性能调优通过在训练代码中调用Python API接口来实现。目前支持MindSpore框架的模型量化调优，用户可以灵活配置调优参数，并支持导出不同格式的量化后模型。
• 训练工程超参数优化（Hyperparameter Optimization，简称HPO），支持对昇腾910 AI处理器搜索训练，覆盖MindSpore，PyTorch，TensorFlow框架，用自动化的算法来优化超参数，从而提升模型的精度、性能等指标。
• 大模型压缩调优功能目前主要解决紫东.太初大模型在推理时需要庞大的显存和密集的计算资源，难以满足其在生产环境下的高吞吐、低延迟和低成本要求的问题，提升推理实时性并降低边侧部署成本，以便更快地推进企业在不同下游任务中实现大模型的落地应用。

AutoML针对开发者的差异化需求，提供了以下不同硬件设备场景下的模型调优方案：

• 单台训练服务器：基于训练脚本的剪枝调优、基于API方式的模型性能调优、超参数优化。
• 单台推理服务器配合单台训练服务器：基于训练脚本的剪枝调优。
• 单台推理服务器配合单台或多台训练服务器：基于强化学习的剪枝调优、基于强化学习的量化调优、大模型压缩调优。

AutoML的使用流程如下图所示。

图1 AutoML业务流程