Skip to content

okftype: reference.concept description: "介绍NPU架构3510上使用asc_copy_ub2ub在Unified Buffer内部搬运数据的连续与高维切分两种模式,说明各自的参数单位、对齐与取值范围、地址重叠判定规则以及UB容量和PIPE_V同步约束。"​

UB与UB数据搬运

NPU架构版本3510通过asc_copy_ub2ub在UB内部复制数据。接口运行在PIPE_V,仅在AIV生效,支持连续和高维切分两种模式,数据格式和内容保持不变。

总体说明​

搬运模式适用场景关键参数单位
连续源、目的均为一段连续UB数据size:字节
高维切分源或目的由多个等长数据块组成,块间存在固定间隔块长、源/目的间隔:32字节DataBlock

需要在UB中按掩码选择元素、广播或完成数据类型相关的重排时,可在Vector Function中使用Reg加载、计算和存储接口,参见Reg与UB数据搬运。

连续数据搬运​

连续模式从src开始复制size字节到dst:

C
__aicore__ inline void asc_copy_ub2ub(__ubuf__ void* dst,
                                      __ubuf__ void* src,
                                      uint32_t size)
  • 源、目的地址均需要32字节对齐。
  • size取值范围为[32, 65535×32],并且需要是32的整数倍。
  • size不对齐时,硬件按size / 32向下截断,尾部不足32字节的数据不会复制。
  • 连续模式的源、目的有效范围不能重叠。

高维切分数据搬运​

高维切分模式搬运burst_count个数据块,每个数据块包含burst_len个DataBlock:

C
__aicore__ inline void asc_copy_ub2ub(__ubuf__ void* dst,
                                      __ubuf__ void* src,
                                      uint16_t burst_count,
                                      uint16_t burst_len,
                                      uint16_t src_gap,
                                      uint16_t dst_gap)
  • burst_len以32字节DataBlock为单位。
  • src_gap和dst_gap表示前一数据块结束地址到下一数据块起始地址的间隔,同样以DataBlock为单位。
  • 源访问跨度为(burst_count - 1) * (burst_len + src_gap) + burst_len个DataBlock,目的访问跨度使用dst_gap按相同方式计算。
  • 各个实际参与搬运的源DataBlock和目的DataBlock不能重叠。如果块间间隔使有效DataBlock互不相交,则源、目的整体地址跨度可以交叠。

地址重叠示例​

假设每个数据块长度为2个DataBlock,共搬运2块:

  • src_gap=1时,源端有效块为DataBlock 0、1和3、4。
  • dst_gap=2时,目的端有效块为DataBlock 0、1和4、5。

判断是否支持搬运时,应逐块比较源、目的有效DataBlock,而不是只比较两段整体跨度。接口不提供类似memmove的重叠复制语义;需要移动重叠区域时,应使用不重叠的临时UB空间分阶段处理,并在复用空间前完成同步。

容量与同步​

  • 源、目的地址加实际访问跨度均不得超过已分配UB范围。UB名义容量为256KB,实际可用容量还会受SIMD VF栈、预留空间和SIMT Data Cache影响。
  • asc_copy_ub2ub运行在PIPE_V。在NPU架构版本3510上,PIPE_V内部的执行顺序由硬件保证,多条asc_copy_ub2ub之间不需要额外插入事件同步。
  • 目的UB随后由PIPE_MTE3或其他流水读取时,使用asc_sync_notify和asc_sync_wait建立PIPE_V到消费者流水的依赖。

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区。