SetFixpipePreQuantFlag
功能说明
在DataCopy(CO1->GM,参考功能说明)的流程中,会涉及到quant量化流程,该接口用于设置量化流程中deq scalar(量化参数)。
函数原型
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config);
参数说明
参数名称 |
输入/输出 |
含义 |
---|---|---|
config |
输入 |
deq scalar,类型为uint64_t,是量化过程中会使用到的量化参数。 |
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
返回值
无
调用示例
uint64_t deqScalar = 11; SetFixpipePreQuantFlag(deqScalar);
父主题: 矩阵计算