下载
中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
昇腾小AI

SetMaskCount

功能说明

设置mask模式为Counter模式。该模式下,不需要开发者去感知迭代次数、处理非对齐的尾块等操作,可直接传入计算数据量,实际迭代次数由Vector计算单元自动推断。mask模式分为Counter模式和Normal模式,两种模式的概念和使用场景请参考掩码操作

Counter模式的设置和使用流程如下:

  • 设置mask的模式为Counter后,需要调用SetVectorMask指令来设置mask,此时的mask表示要参与计算的元素个数。
  • mask设置完成,即可调用矢量计算高维切分计算接口完成计算。
    • 矢量计算接口的isSetMask模板参数需要设置为false,表示在矢量计算接口外部设置mask;接口入参中的mask值设置为MASK_PLACEHOLDER,用于占位,无实际含义。
    • Repeat times传入固定值即可,建议统一设置为1,该值不生效。
    • 根据使用场景正确配置Block stride、Repeat stride参数。
  • 在矢量计算使用完之后需要调用SetMaskNorm将mask模式恢复为Normal模式。
  • 使用ResetMask恢复mask的值为默认值。

函数原型

__aicore__ inline void SetMaskCount()

参数说明

无。

返回值

无。

支持的型号

Atlas推理系列产品AI Core

Atlas推理系列产品Vector Core

Atlas A2训练系列产品/Atlas 800I A2推理产品

约束说明

调用示例

请参考Counter模式调用示例

搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词