下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

SetBiasType

功能说明

设置Bias的位置,数据格式,数据类型等信息,这些信息需要和kernel侧的设置保持一致。

函数原型

1
int32_t SetBiasType(TPosition pos, CubeFormat type, DataType dataType)

参数说明

表1 参数说明

参数名

输入/输出

描述

pos

输入

Bias矩阵所在的buffer位置,可设置为:TPosition::GM, TPosition::VECOUT, TPosition::TSCM。

type

输入

Bias矩阵的数据格式,可设置为:CubeFormat::ND。

dataType

输入

Bias矩阵的数据类型,可设置为:DataType::DT_FLOAT/DataType::DT_FLOAT16/DataType::DT_INT32。

其中,仅在A、B的数据类型均为INT8时,Bias的数据类型可以设置为INT32。

返回值

-1表示设置失败; 0表示设置成功。

注意事项

调用示例

auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
matmul_tiling::MatmulApiTiling tiling(ascendcPlatform); 
tiling.SetAType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16); 
tiling.SetBType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT16);  
tiling.SetCType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);
tiling.SetBiasType(matmul_tiling::TPosition::GM, matmul_tiling::CubeFormat::ND, matmul_tiling::DataType::DT_FLOAT);  // 设置Bias矩阵   
tiling.SetShape(1024, 1024, 1024);   
tiling.SetOrgShape(1024, 1024, 1024);   
tiling.SetBias(true);   
tiling.SetBufferSpace(-1, -1, -1);
optiling::TCubeTiling tilingData;   
int ret = tiling.GetTiling(tilingData);
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词