Skip to content

PairReduceElem

产品支持情况​

  • Ascend 950PR&950DT系列产品:支持
  • Atlas A3系列产品:不支持
  • Atlas A2系列产品:不支持
  • Atlas 200I/500 A2推理产品:不支持
  • Atlas推理系列产品AI Core:不支持
  • Atlas推理系列产品Vector Core:不支持
  • Atlas训练系列产品:不支持

功能说明​

头文件路径为:"basic_api/reg_compute/kernel_reg_compute_vec_reduce_intf.h"。

将传入的srcReg中相邻两个数值相加,并将产生的结果保存在dstReg中的低位位置。

PairReduceElem示意图

函数原型​

C++
template <PairReduce type = PairReduce::SUM, typename T = DefaultType, MaskMergeMode mode = MaskMergeMode::ZEROING, typename U>
__simd_callee__ inline void PairReduceElem(U& dstReg, U srcReg, MaskReg mask)

参数说明​

表1 模板参数说明

参数名描述
type具体的PairReduce类型,当前仅支持归约求和计算。
enum class PairReduce {
SUM = 0,
};
T目的操作数和源操作数的数据类型。
modeMaskMergeMode,选择MERGING模式或ZEROING模式。
• ZEROING,mask未筛选的元素在dst中置零。目前仅支持该模式。
• MERGING,当前不支持。
U目的操作数和源操作数的RegTensor类型,由编译器自动推导,用户不需要填写。

表2 函数参数说明

参数名描述
dstReg目的操作数。
类型为RegTensor。
srcReg源操作数。
类型为RegTensor。
mask源操作数元素操作的有效指示,详细说明请参考MaskReg。

数据类型​

支持的数据类型为:half、float。

返回值说明​

无

约束说明​

  • mask指定源操作数是否参与计算,不参与计算的元素,被当作0进行累加。例如:

    • 若连续两个元素a、b均不参与计算,目的操作数结果为0。
    • 若连续两个元素a、b仅元素a参与计算,目的操作数结果为a。
    • 若连续两个元素a、b仅元素b参与计算,目的操作数结果为b。
  • 求和后,dst中仅前一半元素为有效数据,后一半填充为0。搬出至Unified Buffer(UB)时需要避免数据踩踏。

调用示例​

C++
template<typename T>
__simd_vf__ inline void PairReduceElemVF(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint32_t count, 
 uint16_t oneRepeatSize, uint16_t repeatTimes)
{
    AscendC::Reg::RegTensor<T> srcReg;
    AscendC::Reg::RegTensor<T> dstReg;
    AscendC::Reg::MaskReg calMask;
    AscendC::Reg::MaskReg carryMask = AscendC::Reg::CreateMask<T, AscendC::Reg::MaskPattern::H>();
    uint16_t dstOneRepeatSize = oneRepeatSize >> 1;
    for (uint16_t i = 0; i < repeatTimes; i++) {
        AscendC::Reg::LoadAlign(srcReg, srcAddr + i * oneRepeatSize);
        calMask = AscendC::Reg::UpdateMask<T>(count);
        AscendC::Reg::PairReduceElem<AscendC::Reg::PairReduce::SUM>(dstReg, srcReg, calMask);
        AscendC::Reg::StoreAlign(dstAddr + i * dstOneRepeatSize, dstReg, carryMask);
    }
}

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区。