SetBias
功能说明
设置矩阵乘的Bias。
函数原型
1
|
__aicore__ inline void SetBias(const GlobalTensor<T>& biasGlobal) |
1
|
__aicore__ inline void SetBias(const LocalTensor<T>& biasLocal) |
参数说明
参数名 |
输入/输出 |
描述 |
|---|---|---|
biasGlobal |
输入 |
Bias在Global Memory上的首地址，类型为GlobalTensor。 Atlas推理系列产品AI Core，支持的数据类型为：half/float/int32_t，其中仅在A、B的数据类型为int8_t时，Bias的数据类型可以设置为int32_t Atlas A2训练系列产品/Atlas 800I A2推理产品，支持的数据类型为：half/float/int32_t，其中仅在A、B的数据类型为int8_t时，Bias的数据类型可以设置为int32_t Atlas 200/500 A2推理产品，支持的数据类型为：half/float/int32_t，其中仅在A、B的数据类型为int8_t时，Bias的数据类型可以设置为int32_t |
biasLocal |
输入 |
Bias在VECOUT/TSCM上的首地址，类型为LocalTensor。 Atlas推理系列产品AI Core，支持的数据类型为：half/float/int32_t Atlas A2训练系列产品/Atlas 800I A2推理产品，支持的数据类型为：half/float/int32_t，其中仅在A、B的数据类型为int8_t时，Bias的数据类型可以设置为int32_t Atlas 200/500 A2推理产品，支持的数据类型为：half/float/int32_t，其中仅在A、B的数据类型为int8_t时，Bias的数据类型可以设置为int32_t |
返回值
无
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas推理系列产品AI Core
Atlas 200/500 A2推理产品
注意事项
传入的Bias地址空间大小需要保证不小于singleN。
调用示例
matmul::REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling); mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); mm.SetBias(gm_bias); // 设置Bias mm.IterateAll(gm_c);
父主题： Matmul