下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

INF_NAN_MODE_ENABLE

功能描述

PyTorch训练与在线推理场景下,用于控制芯片对输入数据为Inf/NaN的处理能力,即控制芯片使用饱和模式还是INF_NAN模式。
  • 0:饱和模式,计算出现溢出时,计算结果会饱和为浮点数极值(+-MAX)。
  • 1:INf_NAN模式,根据定义输出Inf/NaN的计算结果。

针对Atlas 训练系列产品,默认值为“0”饱和模式,且仅支持配置为饱和模式。

针对Atlas A2 训练系列产品,默认值为“1”INF_NAN模式,且仅支持配置为INF_NAN模式。

饱和模式:Inf置为max,NaN置为0。

torch.exp(torch.tensor([12], dtype=torch.float16).npu()) 
# tensor([65504.], device='npu:0', dtype=torch.float16)

INF_NAN模式:IEEE 754标准模式,与GPU行为一致。

torch.exp(torch.tensor([12], dtype=torch.float16).npu()) 
# tensor([inf], device='npu:0', dtype=torch.float16)

配置示例

export INF_NAN_MODE_ENABLE=1

使用约束

支持的型号

Atlas 训练系列产品

Atlas A2 训练系列产品

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词