简介
AutoML
AutoML(Auto Machine Learning),即自动化机器学习工具,基于Vega提供了模型自动性能调优、超参数自动调优和大模型压缩调优功能。昇腾AI模型开发用户可以通过模型自动性能调优功能和基于API方式的模型性能调优找到性能更好的模型。AI初学者可以通过AutoML工具结合数据集,生成满足需求的模型,对训练超参进行自动调优。
- 模型自动调优包含剪枝和量化算法,支持在昇腾910 AI处理器上进行搜索训练,覆盖MindSpore,PyTorch框架,能对CV领域分类、检测和分割等常用模型进行自动性能调优。
- 训练工程超参数优化(Hyperparameter Optimization,简称HPO),支持对昇腾910 AI处理器搜索训练,覆盖MindSpore和PyTorch框架,用自动化的算法来优化超参数,从而提升模型的精度、性能等指标。
- 大模型压缩调优功能目前主要解决紫东.太初大模型在推理时需要庞大的显存和密集的计算资源,难以满足其在生产环境下的高吞吐、低延迟和低成本要求的问题,提升推理实时性并降低边侧部署成本,以便更快地推进企业在不同下游任务中实现大模型的落地应用。
CANN后续版本将不再支持AutoML工具。
AutoML针对开发者的差异化需求,提供了以下不同硬件设备场景下的模型调优方案:
- 单台训练服务器:基于训练脚本的剪枝调优、超参数优化。
- 单台推理服务器配合单台训练服务器:基于训练脚本的剪枝调优。
- 单台推理服务器配合单台或多台训练服务器:基于强化学习的剪枝调优、基于强化学习的量化调优、大模型压缩调优。
AutoML的使用流程如下图所示。
图1 AutoML业务流程
父主题: AutoML工具