Copy(UBToUB连续数据搬运)
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品AI Core:不支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:不支持
- Kirin X90:不支持
- Kirin 9030:不支持
功能说明
头文件路径为:"basic_api/kernel_operator_data_copy_intf.h"。
支持Unified Buffer和Unified Buffer之间的连续数据搬运,数据搬运时格式和内容保持不变。
具体支持的数据通路为(以逻辑位置TPosition表示):
- Unified Buffer -> Unified Buffer
- VECIN -> VECCALC
- VECIN -> VECOUT
- VECCALC -> VECIN
- VECCALC -> VECOUT
- VECOUT -> VECIN
- VECOUT -> VECCALC
函数原型
C++
template <typename T, bool isSetMask = true>
__aicore__ inline void Copy(const LocalTensor<T>& dst, const LocalTensor<T>& src, const uint32_t count)
参数说明
表1 模板参数说明
| 参数名 | 描述 |
|---|---|
| T | 源操作数或者目的操作数的数据类型。支持的数据类型请参考数据类型。 |
| isSetMask | 参数不生效,保持默认值true即可。 |
表2 参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dst | 输出 | 目的操作数。 类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。起始地址需要保证32字节对齐。 |
| src | 输入 | 源操作数。 类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。起始地址需要保证32字节对齐。 源操作数的数据类型需要与目的操作数保持一致。 |
| count | 输入 | 参与搬运的元素个数。 |
数据类型
源操作数和目的操作数支持的数据类型保持一致。
Ascend 950PR/Ascend 950DT,支持的数据类型为:int8_t、uint8_t、fp4x2_e2m1_t、fp4x2_e1m2_t、hifloat8_t、fp8_e8m0_t、fp8_e5m2_t、fp8_e4m3fn_t、int16_t、uint16_t、half、bfloat16_t、int32_t、uint32_t、float、int64_t、uint64_t。
返回值说明
无
约束说明
- 位于Unified Buffer的地址必须32字节对齐。
- 操作数地址重叠约束请参考通用地址重叠约束。
- isSetMask参数不生效,保持默认值true即可。
调用示例
C++
AscendC::Copy(dstLocal, srcLocal, 512);