概述

本章节包含各类融合优化器，提供比普通优化器更好的性能。

表1 torch_npu.optim API
API名称	说明
torch_npu.optim.NpuFusedOptimizerBase	张量融合优化器的基类，实现梯度清零、梯度更新等优化器基本功能，用户可进行继承实现自定义融合优化器。
torch_npu.optim.NpuFusedSGD	通过张量融合实现的高性能SGD优化器，核心功能和torch.optim.SGD兼容。
torch_npu.optim.NpuFusedAdadelta	通过张量融合实现的高性能Adadelta优化器，核心功能和torch.optim.Adadelta兼容。
torch_npu.optim.NpuFusedLamb	通过张量融合实现的高性能Lamb优化器。
torch_npu.optim.NpuFusedAdam	通过张量融合实现的高性能Adam优化器，核心功能和torch.optim.Adam兼容。
torch_npu.optim.NpuFusedAdamW	通过张量融合实现的高性能AdamW优化器，核心功能和torch.optim.AdamW兼容。
torch_npu.optim.NpuFusedAdamP	通过张量融合实现的高性能AdamP优化器。
torch_npu.optim.NpuFusedBertAdam	通过张量融合实现的高性能BertAdam优化器。
torch_npu.optim.NpuFusedRMSprop	通过张量融合实现的高性能RMSprop优化器，核心功能和torch.optim.RMSprop兼容。
torch_npu.optim.NpuFusedRMSpropTF	通过张量融合实现的高性能RMSpropTF优化器，核心功能和torch.optim.RMSprop兼容。

父主题： torch_npu.optim