概述

AutoML（Auto Machine Learning）包括模型自动性能调优、模型自动生成和训练工程超参数自动调优（Hyperparameter Optimization，简称HPO）和大模型微调四个模块。昇腾模型开发用户可以通过模型自动性能调优功能找到性能更好的模型。AI初学者可以通过AutoML工具结合数据集，自动生成满足需求的模型，也可以对训练超参进行自动调优。用户还可以通过大模型微调对紫东太初模型五个下游任务进行微调。

• 模型自动调优包含剪枝和量化算法，支持对昇腾910或GPU搜索训练，覆盖MindSpore，PyTorch框架，能对CV领域分类、检测和分割等常用模型进行自动性能调优。支持的场景有：基于脚本定义的模型自动性能调优（可以是训练脚本迁移后的模型，也可以是训练工程里定义的模型）和基于离线模型的自动性能调优。
• 模型自动生成工具以昇腾910的搜索训练、昇腾310推理验证为前提，覆盖MindSpore，PyTorch，Tensorflow框架，面向分类、检测、分割、超分、NLP等场景实现昇腾亲和模型的自动生成。这个场景主要功能是基于数据集自动生成网络和基于预训练模型进行微调后自动生成模型。
• 训练工程超参数优化，支持对昇腾910搜索训练，覆盖MindSpore，PyTorch，Tensorflow框架，用自动化的算法来优化超参数，从而提升模型的精度、性能等指标。
• 紫东太初模型是中科院自动化所在探索通用人工智能路上的重要成果，能够实现三模态图文音的统一语义表达，大幅提升文本、语音、图像和视频等领域的基础任务性能。目前模型微调工具支持紫东太初模型跨模态检索、文本生成、语音生成、图像生成、VQA（Visual Question Answering）五个下游任务在单机单卡上进行微调。

AutoML当前支持昇腾910训练服务器在Ubuntu18.04-x86_64、Ubuntu18.04-aarch64、Ubuntu20.04-x86_64和EulerOS2.8-aarch64系统上使用AutoML工具；昇腾310推理服务器在CentOS7.6-x86_64、Ubuntu18.04-x86_64和Ubuntu18.04-aarch64系统上使用AutoML工具。AutoML的使用流程如图1所示。

图1 AutoML业务流程