下载
中文
注册

SetMatmulConfigParams

功能说明

在计算tiling即调用GetTiling接口前,设置表1中的MatmulConfig相关参数,详细MatmulConfig参数请见表2

函数原型

1
void SetMatmulConfigParams(int32_t mmConfigTypeIn = 1, bool enableL1CacheUBIn = false)

参数说明

表1 参数说明

参数名

输入/输出

描述

mmConfigTypeIn

输入

设置Matmul的模板类型(与Matmul对象创建的模板一致),默认值为1;0代表Norm模板,1代表MDL模板,当前只支持配置0或1。

enableL1CacheUBIn

输入

配置是否使能L1缓存UB计算块,默认值为false;仅在Atlas推理系列产品AI Core场景生效。参考使能场景:MTE3和MTE2流水串行较多的场景。

返回值

注意事项

调用示例

auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
MatmulApiTiling tiling(ascendcPlatform); 
tiling.SetAType(TPosition::GM, CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); 
tiling.SetBType(TPosition::GM, CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);   
tiling.SetCType(TPosition::GM, CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
tiling.SetBiasType(TPosition::GM, CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);   
tiling.SetShape(1024, 1024, 1024);   
tiling.SetOrgShape(1024, 1024, 1024);  
tiling.SetBias(true);   
tiling.SetBufferSpace(-1, -1, -1);
tiling.SetMatmulConfigParams(0);  // 额外设置
optiling::TCubeTiling tilingData;   
int ret = tiling.GetTiling(tilingData);