SetBatchNum
功能说明
在不改变Tiling的情况下，重新设置多Batch计算的Batch数。
函数原型
1 | __aicore__ inline void SetBatchNum(int32_t batchA, int32_t batchB) |
参数说明
参数名 |
输入/输出 |
描述 |
|---|---|---|
batchA |
输入 |
设置的一次计算的A矩阵batch数。 |
batchB |
输入 |
设置的一次计算的B矩阵batch数。 |
返回值
无
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas推理系列产品AI Core
注意事项
无
调用示例
1 2 3 4 5 6 7 8 9 | // 纯cube模式 mm1.SetTensorA(gm_a, isTransposeAIn); mm1.SetTensorB(gm_b, isTransposeBIn); if(tiling.isBias) { mm1.SetBias(gm_bias); } SetBatchNum(batchA, batchB); // 多batch Matmul计算 mm1.IterateBatch(gm_c, false, 0, false); |
父主题： Matmul
