CreateVecIndex
功能说明
以firstValue为起始值创建向量索引。
函数原型
- tensor前n个数据计算
1 2
template <typename T> __aicore__ inline void CreateVecIndex(LocalTensor<T> dstLocal, const T &firstValue, uint32_t calCount)
- tensor高维切分计算
- mask逐bit模式
1 2
template <typename T> __aicore__ inline void CreateVecIndex(LocalTensor<T> &dstLocal, const T &firstValue, uint64_t mask, uint8_t repeatTimes, uint16_t dstBlkStride, uint8_t dstRepStride)
- mask连续模式
1 2
template <typename T> __aicore__ inline void CreateVecIndex(LocalTensor<T> &dstLocal, const T &firstValue, uint64_t mask[], uint8_t repeatTimes, uint16_t dstBlkStride, uint8_t dstRepStride)
- mask逐bit模式
参数说明
参数名称 |
输入/输出 |
含义 |
---|---|---|
dstLocal |
输出 |
目的操作数。 类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。 LocalTensor的起始地址需要32字节对齐。 Atlas推理系列产品AI Core,支持的数据类型为:int16_t/half/int32_t/float Atlas A2训练系列产品/Atlas 800I A2推理产品,支持的数据类型为:int16_t/half/int32_t/float Atlas 200/500 A2推理产品,支持的数据类型为:int16_t/half/int32_t/float |
firstValue |
输入 |
索引的第一个数值,数据类型需与dstLocal中元素的数据类型保持一致。 |
calCount |
输入 |
输入数据元素个数。 |
mask |
输入 |
|
repeatTimes |
输入 |
重复迭代次数。矢量计算单元,每次读取连续的256 Bytes数据进行计算,为完成对输入数据的处理,必须通过多次迭代(repeat)才能完成所有数据的读取与计算。repeatTimes表示迭代的次数。 |
dstBlkStride |
输入 |
单次迭代内,目的操作数不同datablock间地址步长。详细说明请参考dataBlockStride(同一迭代内不同datablock的地址步长)。 |
dstRepStride |
输入 |
相邻迭代间,目的操作数相同datablock地址步长。详细说明请参考repeatStride(相邻迭代间相同datablock的地址步长)。 |
支持的型号
Atlas推理系列产品AI Core
Atlas A2训练系列产品/Atlas 800I A2推理产品
Atlas 200/500 A2推理产品
注意事项
- 操作数地址偏移对齐要求请参见通用约束。
- firstValue需保证不超出dstLocal中元素数据类型对应的大小范围。
返回值
无
调用示例
本样例中只展示Compute流程中的部分代码。如果您需要运行样例代码,请将该代码段拷贝并替换样例模板中Compute函数相关代码片段即可。
- tensor高维切分计算样例-mask连续模式
uint64_t mask = 128; // repeatTimes = 1 // dstBlkStride = 1, 单次迭代内数据连续写入 // dstRepStride = 8, 相邻迭代内数据连续写入 AscendC::CreateVecIndex(dstLocal, (T)0, mask, repeatTimes, dstBlkStride, dstRepStride);
- tensor高维切分计算样例-mask逐bit模式
uint64_t mask[2] = { UINT64_MAX, UINT64_MAX }; // repeatTimes = 1 // dstBlkStride = 1, 单次迭代内数据连续写入 // dstRepStride = 8, 相邻迭代内数据连续写入 AscendC::CreateVecIndex(dstLocal, (T)0, mask, repeatTimes, dstBlkStride, dstRepStride);
- tensor前n个数据计算样例
AscendC::CreateVecIndex(dstLocal, (T)0, 128);
输入数据(firstValue):0 输出数据(dstLocal):[0 1 2 ... 127]
样例模板
#include "kernel_operator.h" template <typename T> class CreateVecIndexTest { public: __aicore__ inline CreateVecIndexTest() {} __aicore__ inline void Init(GM_ADDR dstGm, uint64_t mask, uint8_t repeatTimes, uint16_t dstBlkStride, uint8_t dstRepStride) { m_mask = mask; m_repeatTimes = repeatTimes; m_dstBlkStride = dstBlkStride; m_dstRepStride = dstRepStride; m_elementCount = m_dstBlkStride * m_dstRepStride * 32 * m_repeatTimes / sizeof(T); m_dstGlobal.SetGlobalBuffer((__gm__ T*)dstGm); m_pipe.InitBuffer(m_queOut, 1, m_dstBlkStride * m_dstRepStride * 32 * m_repeatTimes); m_pipe.InitBuffer(m_queTmp, 1, 1024); } __aicore__ inline void Process() { CopyIn(); Compute(); CopyOut(); } private: __aicore__ inline void CopyIn() { ; } __aicore__ inline void Compute() { AscendC::LocalTensor<T> dstLocal = m_queOut.AllocTensor<T>(); AscendC::LocalTensor<uint8_t> tmpLocal = m_queTmp.AllocTensor<uint8_t>(); AscendC::Duplicate(dstLocal, (T)0, m_elementCount); AscendC::PipeBarrier<PIPE_ALL>(); AscendC::CreateVecIndex(dstLocal, (T)0, m_repeatTimes * 256 / sizeof(T)); m_queOut.EnQue(dstLocal); m_queTmp.FreeTensor(tmpLocal); } __aicore__ inline void CopyOut() { AscendC::LocalTensor<T> dstLocal = m_queOut.DeQue<T>(); AscendC::DataCopy(m_dstGlobal, dstLocal, m_elementCount); m_queOut.FreeTensor(dstLocal); } private: AscendC::TPipe m_pipe; uint32_t m_elementCount; uint32_t m_mask; uint32_t m_repeatTimes; uint32_t m_dstBlkStride; uint32_t m_dstRepStride; AscendC::GlobalTensor<T> m_dstGlobal; AscendC::TQue<AscendC::QuePosition::VECOUT, 1> m_queOut; AscendC::TQue<AscendC::QuePosition::VECIN, 1> m_queTmp; }; // class CreateVecIndexTest template <typename T> __global__ __aicore__ void testCreateVecIndex(GM_ADDR dstGm, uint64_t mask, uint8_t repeatTimes, uint16_t dstBlkStride, uint8_t dstRepStride) { CreateVecIndexTest<T> op; op.Init(dstGm, mask, repeatTimes, dstBlkStride, dstRepStride); op.Process(); }