aclrtFloatOverflowMode
数据格式 |
说明 |
---|---|
ACL_RT_OVERFLOW_MODE_SATURATION = 0 |
饱和模式,设置成该模式,计算精度可能存在误差。 |
ACL_RT_OVERFLOW_MODE_INFNAN = 1 |
Inf/NaN模式(符合IEEE 754标准),默认值。 |
ACL_RT_OVERFLOW_MODE_UNDEF = 2 |
预留参数。 |
父主题: 数据类型及其操作接口
数据格式 |
说明 |
---|---|
ACL_RT_OVERFLOW_MODE_SATURATION = 0 |
饱和模式,设置成该模式,计算精度可能存在误差。 |
ACL_RT_OVERFLOW_MODE_INFNAN = 1 |
Inf/NaN模式(符合IEEE 754标准),默认值。 |
ACL_RT_OVERFLOW_MODE_UNDEF = 2 |
预留参数。 |