(beta)torch_npu.contrib.module.NpuDropPath
接口原型
torch_npu.contrib.module.NpuDropPath(nn.Module):
功能描述
使用NPU亲和写法替换swin_transformer.py中的原生Drop路径。丢弃每个样本(应用于residual blocks的主路径)的路径(随机深度)。
参数说明
- drop_prob (Float) - dropout概率。
- x (Tensor) - 应用dropout的输入张量。
支持的型号
- Atlas 训练系列产品
- Atlas A2 训练系列产品
- Atlas 推理系列产品
调用示例
>>> from torch_npu.contrib.module import NpuDropPath >>> input1 = torch.randn(68, 5).npu() >>> input1.requires_grad_(True) >>> input2 = torch.randn(68, 5).npu() >>> input2.requires_grad_(True) >>> fast_drop_path = NpuDropPath(0).npu() >>> output = input1 + fast_drop_path(input2) >>> output.sum().backward()
父主题: torch_npu.contrib