MaskReg搬入（LoadAlign）

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：不支持

• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

功能说明

头文件路径为："basic_api/reg_compute/kernel_reg_compute_datacopy_intf.h"。

LoadAlign能够实现数据从Unified Buffer（UB）搬运至MaskReg。有三类搬运接口：

• 普通搬运接口：完成一次搬运后，UB地址不会自动更新，每次迭代需要手动更新地址。

• PostUpdate扩展搬运接口：有两种模式选择，具体介绍请参考参数说明：

  • POST_MODE_NORMAL模式：不支持。
  • POST_MODE_UPDATE模式：完成一次搬运后，UB地址会自动更新，每次迭代不需要手动更新地址。

• 使用AddrReg寄存器存储偏移量场景：在每次迭代中，需要先调用CreateAddrReg手动设定地址偏移量，再调用搬运指令。

数据搬入时，可以通过模板参数配置搬运的数据分布模式，能够实现上采样、下采样等功能，分布模式具体介绍请参考表3 MaskDist参数说明。

图1、图2、图3展示了DIST_NORM、DIST_US、DIST_DS分布模式。

图1 DIST_NORM模式搬入

图2 DIST_US模式搬入

图3 DIST_DS模式搬入

函数原型

• 普通搬运接口

  C++

  template <typename T, MaskDist dist = MaskDist::DIST_NORM>
  __simd_callee__ inline void LoadAlign(MaskReg& mask, __ubuf__ T* srcAddr)
  

• PostUpdate扩展搬运接口

  C++

  template <typename T, PostLiteral postMode, MaskDist dist = MaskDist::DIST_NORM>
  __simd_callee__ inline void LoadAlign(MaskReg& mask, __ubuf__ T* &srcAddr, int32_t offset)
  

• 使用AddrReg存储偏移量接口，需要配合CreateAddrReg接口使用

  C++

  template <typename T, MaskDist dist = MaskDist::DIST_NORM>
  __simd_callee__ inline void LoadAlign(MaskReg& mask, __ubuf__ T* srcAddr, AddrReg offset)
  

参数说明

表 1 模板参数说明

参数名	描述
T	源操作数的数据类型。支持的数据类型请参考数据类型。
postMode	用于控制是否使能UB地址会自动更新功能（post update），PostLiteral类型。具体参数说明请参考PostLiteral。
dist	搬运模式，MaskDist类型。具体参数说明请参考表3 MaskDist参数说明。

表 2 参数说明

参数名	输入/输出	描述
mask	输出	目的操作数，类型为MaskReg。
srcAddr	输入/输出	源操作数，UB起始地址。
offset	输入	• 当数据类型为AddrReg，为地址偏移寄存器，需要在搬运前调用CreateAddrReg设定地址偏移量，实际搬运UB地址为srcAddr + 寄存器中存储的偏移量。AddrReg寄存器中存储的偏移量 * sizeof(T)的对齐约束请参考表3 MaskDist参数说明。 • 当数据类型为int32_t，为地址更新步长，单位：字节。offset的对齐约束请参考表3 MaskDist参数说明。根据postMode的取值有两种情况：   • POST_MODE_NORMAL：不支持。   • POST_MODE_UPDATE：实际搬运UB起始地址为srcAddr，搬运后执行地址更新 srcAddr += offset。

表 3 MaskDist参数说明

MaskDist取值	含义	搬运对齐约束（Byte）
DIST_NORM	正常模式，搬运数据量为VL/8。	VL/8
DIST_US	上采样模式，每bit数据重复搬运两次，将VL/16数据扩充为VL/8搬入。	VL/16
DIST_DS	下采样模式，每间隔1bit舍弃数据，将VL/4数据压缩为VL/8搬入。	min(32, VL/4)

数据类型

源操作数支持的数据类型为：b8、b16、b32、b64。

返回值说明

无

约束说明

• 位于Unified Buffer的地址约束、offset的对齐约束、AddrReg寄存器中存储的偏移量 * sizeof(T)的对齐约束与分布模式MaskDist有关，具体地址约束请参考表3 MaskDist参数说明。
• MaskReg模板参数regTrait只支持RegTraitNumOne。

调用示例

• 普通搬运接口

  C++

  template <typename T>
  __simd_vf__ inline void ComputeMode01(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint16_t oneRepeatSize, uint16_t repeatTimes)
  {
      AscendC::Reg::MaskReg mask;
      for (uint16_t i = 0; i < repeatTimes; ++i) {
          AscendC::Reg::LoadAlign(mask, srcAddr + i * oneRepeatSize);
          AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, mask);
      }
  }
  

• PostUpdate扩展搬运接口

  C++

  template <typename T>
  __simd_vf__ inline void StoreAlignVF(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint16_t oneRepeatSize, uint16_t repeatTimes)
  {
      AscendC::Reg::MaskReg mask;
      for (uint16_t i = 0; i < repeatTimes; ++i) {
          AscendC::Reg::LoadAlign<T, AscendC::Reg::PostLiteral::POST_MODE_UPDATE>(mask, srcAddr, oneRepeatSize);
          AscendC::Reg::StoreAlign<T, AscendC::Reg::PostLiteral::POST_MODE_UPDATE>(dstAddr, mask, oneRepeatSize);
      }
  }
  

• 使用AddrReg存储偏移量接口

  C++

  template <typename T>
  __simd_vf__ inline void ComputeMode03(__ubuf__ T* dstAddr, __ubuf__ T* srcAddr, uint16_t oneRepeatSize, uint16_t repeatTimes)
  {
      AscendC::Reg::MaskReg mask;
      AscendC::Reg::AddrReg aReg;
      for (uint16_t i = 0; i < repeatTimes; ++i) {
          aReg = AscendC::Reg::CreateAddrReg<T>(i, oneRepeatSize);
          AscendC::Reg::LoadAlign(mask, srcAddr, aReg);
          AscendC::Reg::StoreAlign(dstAddr, mask, aReg);
      }
  }