VectorPadding(ISASI)
产品支持情况
- Ascend 950PR/Ascend 950DT：不支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持
- Atlas 200I/500 A2 推理产品：不支持
- Atlas 推理系列产品AI Core：支持
- Atlas 推理系列产品Vector Core：不支持
- Atlas 训练系列产品：不支持
功能说明
根据padMode（pad模式）与padSide（pad方向）对源操作数按照datablock进行填充操作。
假设源操作数的一个datablock有16个数，datablock[0:15]=a~p：
padSide==false：从datablock的左边开始填充，即datablock的起始值方向(a->p)
padSide==true：从datablock的右边开始填充，即datablock的结束值方向(p->a)
padMode==0：用邻近数作为填充值，例：aaa|abc(padSide=false)、nop|ppp(padSide=true)
padMode==1：用邻近datablock值对称填充，例：cba|abc(padSide=false)、nop|pon(padSide=true)
padMode==2：用邻近datablock值填充，偏移一个数，做对称填充，例：
- padSide=false：xcb|abc，xcb被填充，填充过程描述：a被丢弃，对称填充，x处填充0
- padSide=true：nop|onx，onx被填充，填充过程描述：p被丢弃，对称填充，x处填充0
函数原型
tensor前n个数据计算
Texttemplate <typename T> __aicore__ inline void VectorPadding(const LocalTensor<T>& dst, const LocalTensor<T>& src, const uint8_t padMode, const bool padSide, const uint32_t count)tensor高维切分计算
mask逐bit模式
Texttemplate <typename T, bool isSetMask = true> __aicore__ inline void VectorPadding(const LocalTensor<T>& dst, const LocalTensor<T>& src, const uint8_t padMode, const bool padSide, const uint64_t mask[], const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)mask连续模式
Texttemplate <typename T, bool isSetMask = true> __aicore__ inline void VectorPadding(const LocalTensor<T>& dst, const LocalTensor<T>& src, const uint8_t padMode, const bool padSide, const uint64_t mask, const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)
参数说明
表1 模板参数说明
参数名 | 描述 |
|---|---|
T | 操作数数据类型。 |
isSetMask | 是否在接口内部设置mask。
|
表2 参数说明
参数名 | 输入/输出 | 描述 |
|---|---|---|
dst | 输出 | 目的操作数。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 LocalTensor的起始地址需要32字节对齐。 |
src | 输入 | 源操作数。 类型为LocalTensor，支持的TPosition为VECIN/VECCALC/VECOUT。 LocalTensor的起始地址需要32字节对齐。 源操作数的数据类型需要与目的操作数保持一致。 |
padMode | 输入 | padding模式，类型为uint8_t，取值范围：[0,2]。
|
padSide | 输入 | padding的方向，类型为bool。
|
count | 输入 | 参与计算的元素个数。 |
mask[]/mask | 输入 | mask用于控制每次迭代内参与计算的元素。
|
repeatTime | 输入 | 重复迭代次数。矢量计算单元，每次读取连续的256Bytes数据进行计算，为完成对输入数据的处理，必须通过多次迭代（repeat）才能完成所有数据的读取与计算。repeatTime表示迭代的次数。 关于该参数的具体描述请参考高维切分API。 |
repeatParams | 输入 | 控制操作数地址步长的参数。UnaryRepeatParams类型，包含操作数相邻迭代间相同DataBlock的地址步长，操作数同一迭代内不同DataBlock的地址步长等参数。 相邻迭代间的地址步长参数说明请参考repeatStride；同一迭代内DataBlock的地址步长参数说明请参考dataBlockStride。 |
返回值说明
无
约束说明
操作数地址对齐要求请参见通用地址对齐约束。
mask仅控制目的操作数中的哪些元素要写入，源操作数的读取与mask无关。
count表示写入目的操作数中的元素总数，源操作数的读取与count无关。
调用示例
样例的srcLocal和dstLocal均为half类型。
更多样例可参考LINK。
tensor高维切分计算样例-mask连续模式
Textuint64_t mask = 256 / sizeof(half); uint8_t padMode = 0; bool padSide = false; // repeatTime = 4, 128 elements one repeat, 512 elements total // dstBlkStride, srcBlkStride = 1, no gap between blocks in one repeat // dstRepStride, srcRepStride = 8, no gap between repeats AscendC::VectorPadding(dstLocal, srcLocal, padMode, padSide, mask, 4, { 1, 1, 8, 8 });tensor高维切分计算样例-mask逐bit模式
Textuint64_t mask[2] = { UINT64_MAX, UINT64_MAX }; uint8_t padMode = 0; bool padSide = false; // repeatTime = 4, 128 elements one repeat, 512 elements total // dstBlkStride, srcBlkStride = 1, no gap between blocks in one repeat // dstRepStride, srcRepStride = 8, no gap between repeats AscendC::VectorPadding(dstLocal, srcLocal, padMode, padSide, mask, 4, { 1, 1, 8, 8 });tensor前n个数据计算样例
Textuint8_t padMode = 0; bool padSide = false; AscendC::VectorPadding(dstLocal, srcLocal, padMode, padSide, 512);
结果示例如下：
// 以srcLocal的一个datablock的值为例，有16个数
输入数据(srcLocal): [6.938 -8.86 -0.2263 ... 1.971 1.778]
输出数据(dstLocal):
[6.938 6.938 6.938 ... 6.938 6.938]