torch.distributed.optim

若API未标明支持情况，则代表该API的支持情况待验证。

API名称

是否支持

限制与说明

torch.distributed.optim.DistributedOptimizer

      

torch.distributed.optim.DistributedOptimizer.step

      

torch.distributed.optim.PostLocalSGDOptimizer

是

   

torch.distributed.optim.PostLocalSGDOptimizer.load_state_dict

是

   

torch.distributed.optim.PostLocalSGDOptimizer.state_dict

是

   

torch.distributed.optim.PostLocalSGDOptimizer.step

是

   

torch.distributed.optim.ZeroRedundancyOptimizer

是

   

torch.distributed.optim.ZeroRedundancyOptimizer.add_param_group

是

   

torch.distributed.optim.ZeroRedundancyOptimizer.consolidate_state_dict

否

   

torch.distributed.optim.ZeroRedundancyOptimizer.join_hook

否

   

torch.distributed.optim.ZeroRedundancyOptimizer.load_state_dict

否

   

torch.distributed.optim.ZeroRedundancyOptimizer.state_dict
  • Atlas 训练系列产品：否
  • Atlas A2 训练系列产品：是
   

torch.distributed.optim.ZeroRedundancyOptimizer.step

否

   
父主题： PyTorch原生API