昇腾社区首页
中文
注册

SetHF32Mode

功能说明

用于设置Mmad计算是否开启HF32模式,开启该模式后L0A/L0B中的FP32数据将在参与Mmad计算之前被舍入为HF32。

函数原型

1
__aicore__ inline void SetHF32Mode(bool hf32Mode)

参数说明

表1 参数说明

参数名

输入/输出

描述

hf32Mode

输入

Mmad HF32模式控制入参,bool类型。支持如下两种取值:

  • true:L0A/L0B中的FP32数据将在矩阵乘法之前被舍入为HF32。
  • false:将执行常规的FP32矩阵乘法。

返回值

支持的型号

Atlas A2 训练系列产品/Atlas 800I A2 推理产品

Atlas 200I/500 A2 推理产品

约束说明

无。

调用示例

1
2
bool hf32Mode = true;
AscendC::SetHF32Mode(hf32Mode);