Skip to content

MaskReg非对齐搬出(StoreUnAlign)

产品支持情况​

  • Ascend 950PR&950DT系列产品:支持
  • Atlas A3系列产品:不支持
  • Atlas A2系列产品:不支持
  • Atlas 200I/500 A2推理产品:不支持
  • Atlas推理系列产品AI Core:不支持
  • Atlas推理系列产品Vector Core:不支持
  • Atlas训练系列产品:不支持
  • KirinX90处理器系列产品:支持
  • Kirin9020处理器系列产品:支持
  • Kirin9030处理器系列产品:支持
  • Kirin9050处理器系列产品:支持
  • KirinDev0001处理器系列产品:支持
  • KirinDev0002处理器系列产品:支持
  • KirinDev0003处理器系列产品:支持

功能说明​

头文件路径为:"basic_api/reg_compute/kernel_reg_compute_datacopy_intf.h"。

StoreUnAlign能够实现数据从MaskReg连续搬运至非对齐Unified Buffer(UB),利用非对齐寄存器UnalignRegForStore作为临时缓存区,暂存跨对齐边界的数据,从而实现高效的连续非对齐数据传输。

函数原型​

C++
template <typename T>
__simd_callee__ inline void StoreUnAlign(__ubuf__ T*& dstAddr, MaskReg& mask, UnalignRegForStore& ureg)

template <typename T, PostLiteral postMode = PostLiteral::POST_MODE_UPDATE>
__simd_callee__ inline void StoreUnAlignPost(__ubuf__ T*& dstAddr, UnalignRegForStore& ureg, int32_t postUpdateStride)

参数说明​

表 1 模板参数说明

参数名描述
T目的操作数的数据类型。支持的数据类型请参考数据类型。
postMode用于控制是否使能UB地址会自动更新功能(post update),PostLiteral类型。具体参数说明请参考PostLiteral。

表 2 参数说明

参数名输入/输出描述
dstAddr输入/输出目的操作数,UB起始地址,不需要32字节对齐。b16数据类型时需要16字节对齐,b32数据类型时需要8字节对齐。
mask输入源操作数,类型为MaskReg。
ureg输入/输出非对齐寄存器,UnalignRegForStore类型,用于存储非32B对齐的数据,寄存器大小为32字节。
postUpdateStride输入地址更新步长,uint32_t类型,单位:元素个数。根据postMode的取值有两种情况:
• POST_MODE_NORMAL:不支持。
• POST_MODE_UPDATE:实际搬运UB起始地址为dstAddr,搬运后执行地址更新 dstAddr += postUpdateStride。

数据类型​

目的操作数支持的数据类型为:b16、b32。

返回值说明​

无

约束说明​

  • 数据类型为b16时,位于UB的地址必须16字节对齐,搬运完成后UB地址按16B偏移量更新,不需要手动更新地址。
  • 数据类型为b32时,位于UB的地址必须8字节对齐,搬运完成后UB地址按8B偏移量更新,不需要手动更新地址。
  • 针对KirinX90/Kirin9020/Kirin9030处理器系列产品,不支持上述的StoreUnAlign。

关键特性说明​

非对齐数据搬出原理

由MaskReg原理可知,当操作数类型为b16时,每一个element对应2bit的MaskReg,且仅2bit中的最低位是有效的;当操作数类型为b32时,每一个element对应4bit的MaskReg,且仅4bit中的最低位是有效的。

将源寄存器MaskReg(32B)搬出至非对齐UB:

  • UB地址上数据类型为b16时,硬件指令从每2bit数据中提取最低有效位(LSB),将MaskReg中32B数据打包成16B,写入UB。搬运完成后UB地址按16B偏移量更新。
  • UB地址上数据类型为b32时,硬件指令从每4bit数据中提取最低有效位(LSB),将MaskReg中32B数据打包成8B,写入UB。搬运完成后UB地址按8B偏移量更新。

调用示例​

C++
template <typename T>
__simd_vf__ inline void StoreUnAlignVF(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint32_t count, uint16_t oneRepeatSize, uint16_t offset, uint16_t repeatTimes)
{
    AscendC::Reg::MaskReg mask;
    AscendC::Reg::UnalignRegForStore ureg;
    for (uint16_t i = 0; i < repeatTimes; ++i) {
        AscendC::Reg::LoadAlign(mask, srcAddr + i * oneRepeatSize);
        // MaskReg非对齐搬出会自动进行地址偏移
        // 数据类型为b16时,32字节打包成16字节,偏移为16字节。
        // 数据类型为b32时,32字节打包成8字节,偏移为8字节。
        AscendC::Reg::StoreUnAlign(dstAddr, mask, ureg);
    }
    AscendC::Reg::StoreUnAlignPost(dstAddr, ureg, 0);
}

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区。