PairReduceElem

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：不支持

• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

功能说明

头文件路径为："basic_api/kernel_operator_vec_reduce_intf.h"。

将传入的srcReg中相邻两个数值相加，并将产生的结果保存在dstReg中的低位位置。

函数原型

C++

template <PairReduce type = PairReduce::SUM, typename T = DefaultType, MaskMergeMode mode = MaskMergeMode::ZEROING, typename U>
__simd_callee__ inline void PairReduceElem(U& dstReg, U srcReg, MaskReg mask)

参数说明

表1 模板参数说明

参数名	描述
type	具体的PairReduce类型，当前仅支持归约求和计算。 enum class PairReduce { SUM = 0, };
T	目的操作数和源操作数的数据类型。
mode	MaskMergeMode，选择MERGING模式或ZEROING模式。 • ZEROING，mask未筛选的元素在dst中置零。目前仅支持该模式。 • MERGING，当前不支持。
U	目的操作数和源操作数的RegTensor类型，由编译器自动推导，用户不需要填写。

表2 函数参数说明

参数名	描述
dstReg	目的操作数。 类型为RegTensor。
srcReg	源操作数。 类型为RegTensor。
mask	源操作数元素操作的有效指示，详细说明请参考MaskReg。

数据类型

支持的数据类型为：half、float。

返回值说明

无

约束说明

• mask指定源操作数是否参与计算，不参与计算的元素，被当作0进行累加。例如：

  • 若连续两个元素a、b均不参与计算，目的操作数结果为0。
  • 若连续两个元素a、b仅元素a参与计算，目的操作数结果为a。
  • 若连续两个元素a、b仅元素b参与计算，目的操作数结果为b。

• 求和后，dst中仅前一半元素为有效数据，后一半填充为0。搬出至UB时需要避免数据踩踏。

调用示例

C++

template<typename T>
__simd_vf__ inline void PairReduceElemVF(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint32_t count, 
 uint16_t oneRepeatSize, uint16_t repeatTimes)
{
    AscendC::Reg::RegTensor<T> srcReg;
    AscendC::Reg::RegTensor<T> dstReg;
    AscendC::Reg::MaskReg calMask;
    AscendC::Reg::MaskReg carryMask = AscendC::Reg::CreateMask<T, AscendC::Reg::MaskPattern::H>();
    uint16_t dstOneRepeatSize = oneRepeatSize >> 1;
    for (uint16_t i = 0; i < repeatTimes; i++) {
        AscendC::Reg::LoadAlign(srcReg, srcAddr + i * oneRepeatSize);
        calMask = AscendC::Reg::UpdateMask<T>(count);
        AscendC::Reg::PairReduceElem<AscendC::Reg::PairReduce::SUM>(dstReg, srcReg, calMask);
        AscendC::Reg::StoreAlign(dstAddr + i * dstOneRepeatSize, dstReg, carryMask);
    }
}