Skip to content

Copy(UBToUB连续数据搬运)

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持
  • Kirin X90:不支持
  • Kirin 9030:不支持

功能说明

头文件路径为:"basic_api/kernel_operator_data_copy_intf.h"

支持Unified Buffer和Unified Buffer之间的连续数据搬运,数据搬运时格式和内容保持不变。

具体支持的数据通路为(以逻辑位置TPosition表示):

  • Unified Buffer -> Unified Buffer
    • VECIN -> VECCALC
    • VECIN -> VECOUT
    • VECCALC -> VECIN
    • VECCALC -> VECOUT
    • VECOUT -> VECIN
    • VECOUT -> VECCALC

函数原型

C++
template <typename T, bool isSetMask = true>
__aicore__ inline void Copy(const LocalTensor<T>& dst, const LocalTensor<T>& src, const uint32_t count)

参数说明

表1 模板参数说明

参数名描述
T源操作数或者目的操作数的数据类型。支持的数据类型请参考数据类型
isSetMask参数不生效,保持默认值true即可。

表2 参数说明

参数名输入/输出描述
dst输出目的操作数。
类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。起始地址需要保证32字节对齐。
src输入源操作数。
类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。起始地址需要保证32字节对齐。
源操作数的数据类型需要与目的操作数保持一致。
count输入参与搬运的元素个数。

数据类型

源操作数和目的操作数支持的数据类型保持一致。

Ascend 950PR/Ascend 950DT,支持的数据类型为:int8_t、uint8_t、fp4x2_e2m1_t、fp4x2_e1m2_t、hifloat8_t、fp8_e8m0_t、fp8_e5m2_t、fp8_e4m3fn_t、int16_t、uint16_t、half、bfloat16_t、int32_t、uint32_t、float、int64_t、uint64_t。

返回值说明

约束说明

  • 位于Unified Buffer的地址必须32字节对齐。
  • 操作数地址重叠约束请参考通用地址重叠约束
  • isSetMask参数不生效,保持默认值true即可。

调用示例

C++
AscendC::Copy(dstLocal, srcLocal, 512);

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区