SetSparseIndex
函数原型
1 | __aicore__ inline void SetSparseIndex(const GlobalTensor<uint8_t>& indexGlobal) |
参数说明
参数名 |
输入/输出 |
描述 |
---|---|---|
indexGlobal |
输入 |
索引矩阵在Global Memory上的首地址,类型为GlobalTensor。 索引矩阵的数据类型为int2,需要由用户拼成int8的数据类型,再传入本接口。索引矩阵的Format格式只支持NZ格式。 |
返回值
无
支持的型号
注意事项
- 索引矩阵的Format格式要求为NZ格式。
- 本接口仅支持在纯Cube模式(只有矩阵计算)且MDL模板的场景使用。
调用示例
1 2 3 4 5 6 7 | #define ASCENDC_CUBE_ONLY // 使能纯Cube模式(只有矩阵计算) REGIST_MATMUL_OBJ(&pipe, GetSysWorkSpacePtr(), mm, &tiling); mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); mm.SetSparseIndex(gm_index); //设置索引矩阵 mm.SetBias(gm_bias); mm.IterateAll(gm_c); |
父主题: Matmul