INF_NAN_MODE_ENABLE
功能描述
PyTorch训练与在线推理场景下,用于控制芯片对输入数据为Inf/NaN的处理能力,即控制芯片使用饱和模式还是INF_NAN模式。
- 0:饱和模式,计算出现溢出时,计算结果会饱和为浮点数极值(+-MAX)。
- 1:INf_NAN模式,根据定义输出Inf/NaN的计算结果。
针对Atlas 训练系列产品,默认值为“0”饱和模式,且仅支持配置为饱和模式。
针对Atlas A2 训练系列产品,默认值为“1”INF_NAN模式,且仅支持配置为INF_NAN模式。
饱和模式:Inf置为max,NaN置为0。
torch.exp(torch.tensor([12], dtype=torch.float16).npu()) # tensor([65504.], device='npu:0', dtype=torch.float16)
INF_NAN模式:IEEE 754标准模式,与GPU行为一致。
torch.exp(torch.tensor([12], dtype=torch.float16).npu()) # tensor([inf], device='npu:0', dtype=torch.float16)
配置示例
export INF_NAN_MODE_ENABLE=1
使用约束
无
支持的型号
Atlas 训练系列产品
Atlas A2 训练系列产品