Skip to content

SetLoadDataRepeatWithStride

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

头文件路径为:"basic_api/kernel_operator_mm_intf.h"

用于设置LoadDataWithStride接口的repeat参数。设置repeat参数后,可以通过调用一次LoadDataWithStride接口完成多个迭代的数据搬运,还用于配置输出矩阵K轴方向偏移。

函数原型

C++
__aicore__ inline void SetLoadDataRepeatWithStride(const LoadDataRepeatParamWithStride& repeatParams)

参数说明

表1 参数说明

参数名称输入/输出含义
repeatParams输入设置LoadDataWithStride接口的repeat参数,类型为SetLoadDataRepeatWithStride。
具体定义请参考:${INSTALL_DIR}/asc/include/basic_api/kernel_struct_mm.h${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。
参数说明请参考表2

表2 LoadDataRepeatParamWithStride结构体参数说明

参数名称含义
repeatStrideheight/width方向上的前一个迭代与后一个迭代起始地址的距离,取值范围:repeatStride∈[0, 65535],默认值为0。
    • repeatMode为0,repeatStride的单位为16个元素。
    • repeatMode为1,repeatStride的单位为32/sizeof(data_type)个元素,data_type指源操作数的数据类型。
repeatTimeheight/width方向上的迭代次数,取值范围:repeatTime∈[0, 255]。默认值为1。
repeatMode控制repeat迭代的方向,取值范围:repeatMode∈[0, 1]。默认值为0。
    • 0:迭代沿height方向;
    • 1:迭代沿width方向。
dstStride输出矩阵K轴方向偏移,以512字节的分形为单位。

返回值说明

约束说明

  • repeatTime=0表示不执行搬运,LoadDataWithStride接口将被视为NOP(空操作)。
  • 调用LoadDataWithStride接口时,必须配置本接口中的dstStride参数,若不使能repeat模式,repeatTime、repeatStride、repeatMode使用默认构造值。

调用示例

本接口用于配合LoadDataWithStride接口使用,展示代码示例片段:

C++
// LoadDataWithStride指令完成img2col的过程,可知 img2col后A矩阵高度为ho * wo,根据ho和wo的计算公式,代入卷积核宽度、卷积核滑动步长、卷积核膨胀系数等参数可知:A矩阵的高度为CeilAlign(k, fractalShape[0]);img2col后A矩阵宽度为ci * kh * kw,代入kh=1,kw=1,可知A矩阵的宽度为CeilAlign(m, fractalShape[1])。最后,配置loadDataParams.enTranspose = true,将整个A 矩阵转置并且将其中每一个分形转置。
AscendC::LoadData3DParamsV2<T> loadDataParams;

// 设置loadDataParams相关参数
...

// 使用SetLoadDataRepeatWithStride接口,设置LoadDataWithStride接口的repeat参数
AscendC::LoadDataRepeatParamWithStride repeatParams;
repeatParams.repeatTime = 1;  // height/width方向上的迭代次数
repeatParams.repeatStride = 1;  // height/width方向上前后迭代起始位置的距离
repeatParams.repeatMode = 0;  // 迭代方向:0:迭代沿height; 1:迭代沿width
repeatParams.dstStride = CeilDivision(m, fractalShape[0]);  // 输出矩阵K轴方向偏移
AscendC::SetLoadDataRepeatWithStride(repeatParams);

AscendC::LoadDataWithStride(a2Local, a1Local, loadDataParams);

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区