下载
中文
注册

mmad

功能说明

完成矩阵乘加操作。

接口原型

class mmad(x, y, b, is_inited=False)

参数说明

参数名

数据类型

说明

x

tensor变量

左矩阵,在“L0A”空间。支持FP16。

y

tensor变量

右矩阵,在“L0B”空间。支持FP16。

b

tensor变量

偏置项,可以在“L0C”空间,或Bias Table空间。支持FP32。

is_inited

bool

当输入是在“L0C”空间时,需要加is_inited=True,因为不存在通路将数据从GM直接搬运到L0C。

约束说明

偏置项在Bias Table空间时,其tensor的数据格式需是ND,shape是[n, ]。

使用示例

1
2
3
4
5
from mskpp import mmad, Tensor
in_x = Tensor("GM", "FP16", [32, 48], format="ND")
in_y = Tensor("GM", "FP16", [48, 16], format="ND")
in_z = Tensor("GM", "FP32", [32, 16], format="NC1HWC0")
out_z = mmad(in_x, in_y, in_z)()