SetFixpipePreQuantFlag
功能说明
DataCopy(CO1->GM、CO1->A1)过程中进行随路量化时,通过调用该接口设置量化流程中scalar量化参数。
函数原型
1 | __aicore__ inline void SetFixpipePreQuantFlag(uint64_t config) |
参数说明
参数名称 |
输入/输出 |
含义 |
---|---|---|
config |
输入 |
deq scalar,类型为uint64_t,是量化过程中会使用到的量化参数。 |
支持的型号
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas 200/500 A2推理产品
返回值
无
父主题: 矩阵计算