asc_gather

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：不支持

• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

功能说明

根据索引位置index将源操作数src按元素收集到目的操作数dst中。

图 1 收集UB中的元素

图 2 收集矢量数据寄存器中的元素

函数原型

• 收集UB中的元素

  C++

  __simd_callee__ inline void asc_gather(vector_int16_t& dst, __ubuf__ int8_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_uint16_t& dst, __ubuf__ uint8_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_int8_t& dst, __ubuf__ int8_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_uint8_t& dst, __ubuf__ uint8_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_hifloat8_t& dst, __ubuf__ hifloat8_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_fp8_e8m0_t& dst, __ubuf__ fp8_e8m0_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_fp8_e5m2_t& dst, __ubuf__ fp8_e5m2_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_fp8_e4m3fn_t& dst, __ubuf__ fp8_e4m3fn_t* src, vector_uint16_t index,vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_int16_t& dst, __ubuf__ int16_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_uint16_t& dst, __ubuf__ uint16_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_half& dst, __ubuf__ half* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_bfloat16_t& dst, __ubuf__ bfloat16_t* src, vector_uint16_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_int32_t& dst, __ubuf__ int32_t* src, vector_uint32_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_uint32_t& dst, __ubuf__ uint32_t* src, vector_uint32_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_float& dst, __ubuf__ float* src, vector_uint32_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_int16_t& dst, __ubuf__ int16_t* src, vector_uint32_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_uint16_t& dst, __ubuf__ uint16_t* src, vector_uint32_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_half& dst, __ubuf__ half* src, vector_uint32_t index, vector_bool mask)
  __simd_callee__ inline void asc_gather(vector_bfloat16_t& dst, __ubuf__ bfloat16_t* src, vector_uint32_t index, vector_bool mask)
  

• 收集矢量数据寄存器中的元素

  C++

  __simd_callee__ inline void asc_gather(vector_int8_t& dst, vector_int8_t src, vector_uint8_t index)
  __simd_callee__ inline void asc_gather(vector_uint8_t& dst, vector_uint8_t src, vector_uint8_t index)
  __simd_callee__ inline void asc_gather(vector_hifloat8_t& dst, vector_hifloat8_t src, vector_uint8_t index)
  __simd_callee__ inline void asc_gather(vector_fp8_e8m0_t& dst, vector_fp8_e8m0_t src, vector_uint8_t index)
  __simd_callee__ inline void asc_gather(vector_fp8_e5m2_t& dst, vector_fp8_e5m2_t src, vector_uint8_t index)
  __simd_callee__ inline void asc_gather(vector_fp8_e4m3fn_t& dst, vector_fp8_e4m3fn_t src, vector_uint8_t index)
  __simd_callee__ inline void asc_gather(vector_int16_t& dst, vector_int16_t src, vector_uint16_t index)
  __simd_callee__ inline void asc_gather(vector_uint16_t& dst, vector_uint16_t src, vector_uint16_t index)
  __simd_callee__ inline void asc_gather(vector_half& dst, vector_half src, vector_uint16_t index)
  __simd_callee__ inline void asc_gather(vector_bfloat16_t& dst, vector_bfloat16_t src, vector_uint16_t index)
  __simd_callee__ inline void asc_gather(vector_int32_t& dst, vector_int32_t src, vector_uint32_t index)
  __simd_callee__ inline void asc_gather(vector_uint32_t& dst, vector_uint32_t src, vector_uint32_t index)
  

参数说明

• 收集UB中的元素

  表1 参数说明

  参数名	输入/输出	描述
  dst	输出	目的操作数（矢量数据寄存器）。
  src	输入	源操作数（矢量）的起始地址。
  index	输入	数据索引（矢量数据寄存器）。dst中每个元素在UB中相对于src的索引位置。单位是元素，表示每个元素的源地址为index * sizeof(src_data_type) + src。
  mask	输入	源操作数掩码（掩码寄存器）。mask用于指示在计算过程中哪些元素参与计算。对应位置为1时参与计算，为0时不参与计算。mask未筛选的元素在输出中置零。

• 收集矢量数据寄存器中的元素

  表2 参数说明

  参数名	输入/输出	描述
  dst	输出	目的操作数（矢量数据寄存器）。
  src	输入	源操作数（矢量数据寄存器）。
  index	输入	数据索引（矢量数据寄存器）。单位是元素，表示每个元素来源为src[index]。

矢量数据寄存器和掩码寄存器的详细说明请参见reg数据类型定义。

返回值说明

无

约束说明

• 收集UB中的元素

  • 源操作数在UB中的起始地址需要32B对齐。

  • 对于mask筛选需要搬运的元素，对应的地址需要在UB有效范围内；对于mask未筛选的元素，对应的地址不会触发任何地址越界异常，同时dst中对应的元素将被置零。

  • 当src为b8数据类型，dst为b16数据类型时，目的操作数的低8位与源操作数相同，高8位自动补0。例如src为int8_t数据类型，dst为int16_t数据类型：

    src：40 = 0b00101000 -> 0b0000000000101000，扩充至16位后等于40，即对应dst为40；

    src：-40 = 0b11011000 -> 0b0000000011011000，扩充至16位后等于216，即对应dst为216。

  • 当src与dst数据类型一致，但是与index数据类型不一致时，数据写入dst索引为偶数的位置，奇数索引位置置零。例如src为int8_t数据类型，index为uint16_t数据类型时，适用场景如下图：

  

• 收集矢量数据寄存器中的元素

  src为矢量数据寄存器类型，位宽是固定的VL，存储的元素个数固定。如果index中索引值超出当前矢量数据寄存器中能存储的最大元素个数时，按照如下方式处理：设定当前矢量数据寄存器所能存储的最大数据元素个数为vl_length, index中索引值为i，索引值更新为i % vl_length。

调用示例

• 收集UB中的元素

  C++

  __simd_vf__ inline void gather_vf(__ubuf__ half* dst_addr, __ubuf__ half* src_addr, __ubuf__ uint16_t* index_addr, uint32_t count, uint32_t one_repeat_size, uint16_t one_block_size, uint16_t repeat_time)
  {
      vector_half dst;
      vector_uint16_t index;
      vector_bool mask;
      for (uint16_t i = 0; i < repeat_time; ++i) {
          mask = asc_update_mask_b16(count);
          asc_loadalign_postupdate(index, index_addr, one_repeat_size);
          asc_gather(dst, src_addr, index, mask);
          asc_storealign_postupdate(dst_addr, dst, one_block_size, mask);
      }
  }
  

• 收集矢量数据寄存器中的元素

  C++

  __simd_vf__ inline void gather_vf(__ubuf__ half* dst_addr, __ubuf__ half* src_addr, __ubuf__ uint16_t* index_addr, uint32_t count, uint32_t one_repeat_size, uint16_t one_block_size, uint16_t repeat_time)
  {
      vector_half dst;
      vector_half src;
      vector_uint16_t index;
      vector_bool mask;
      for (uint16_t i = 0; i < repeat_time; ++i) {
          mask = asc_update_mask_b16(count);
          asc_loadalign_postupdate(src, src_addr, one_repeat_size);
          asc_loadalign_postupdate(index, index_addr, one_repeat_size);
          asc_gather(dst, src, index);
          asc_storealign_postupdate(dst_addr, dst, one_block_size, mask);
      }
  }