SetBatchNum
功能说明
在不改变Tiling的情况下，重新设置多Batch计算的Batch数。
函数原型
1
|
__aicore__ inline void SetBatchNum(int32_t batchA, int32_t batchB) |
参数说明
参数名 |
输入/输出 |
描述 |
|---|---|---|
batchA |
输入 |
设置的一次计算的A矩阵batch数。 |
batchB |
输入 |
设置的一次计算的B矩阵batch数。 |
返回值
无
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas推理系列产品AI Core
注意事项
无
调用示例
// 纯cube模式
mm1.SetTensorA(gm_a, isTransposeAIn);
mm1.SetTensorB(gm_b, isTransposeBIn);
if(tiling.isBias) {
mm1.SetBias(gm_bias);
}
SetBatchNum(batchA, batchB);
// 多batch Matmul计算
mm1.IterateBatch(gm_c, false, 0, false);
父主题： Matmul
