Skip to content

NZ2DN

特性说明​

矩阵计算的搬出过程中Nz2DN的核心功能体现为,将Nz格式矩阵转化为DN格式矩阵。

Nz2DN转化过程可以参考以下伪代码:

C++
for (int h = 0; h < matrix_num; h++) {
    src_tmp3_addr = src + h * 16 * sizeof(src_element) * src_nz_matrix_stride;
    dst_tmp3_addr = dst + h * sizeof(dst_element) * dst_matrix_stride;
    for (int i = 0; i < ((n_size + 15) / 16); i++) {
        src_tmp2_addr = src_tmp3_addr + i * sizeof(src_element) * 16 * src_stride;
        dst_tmp2_addr = dst_tmp3_addr + i * sizeof(dst_element) * 16 * dst_stride;
        for (int j = 0; j < 16; j++) {
            if (i * 16 + j < n_size) {
                src_block_addr = src_tmp2_addr + j * sizeof(src_element);
                dst_block_addr = dst_tmp2_addr + j * sizeof(dst_element) * dst_stride;
                for (int k = 0; k < m_size; k++) {
                    src_ele_addr = src_block_addr + k * sizeof(src_element) * 16 * src_nz_fractal_stride;
                    dst_ele_addr = dst_block_addr + k * sizeof(dst_element);
                }
            }
        }
    }
}

伪代码使用的参数具体说明如下:

  • src表示源操作数搬运的起始地址。
  • dst表示目的操作数搬运的起始地址。
  • 源操作数每个Nz矩阵的起始地址为src_tmp3_addr。
  • 目的操作数每个DN矩阵的起始地址为dst_tmp3_addr。
  • 源操作数Nz矩阵以每16列为一组数据,每一组数据的起始地址为src_tmp2_addr。
  • 目的操作数DN矩阵以每16行为一组数据,每一组数据的起始地址为dst_tmp2_addr。
  • 在上述源自Nz矩阵的每一组数据中,再以每列元素为一组数据,每一组数据的起始地址为src_block_addr。
  • 在上述源自DN矩阵的每一组数据中,再以每行元素为一组数据,每一组数据的起始地址为dst_block_addr。
  • src_ele_addr为Nz矩阵一列的每个元素的地址,dst_ele_addr为DN矩阵一行的每个元素的地址,二者为一一对应关系,对应完成Nz2DN格式转换。

以下参数为Nz2DN用户可配置参数,含义取值范围参见asc_copy_l0c2gm:

  • matrix_num表示需要做Nz2DN转化的矩阵个数。
  • m_size与n_size分别表示矩阵m方向和n方向上的维度。
  • src_stride表示源Nz矩阵中相邻Z排布的起始地址之间的间隔,单位为C0_Size。
  • dst_stride表示目的DN矩阵每一行中的元素个数,单位为element。
  • src_nz_matrix_stride表示不同源Nz矩阵的起始地址的间隔,单位为C0_Size。
  • dst_matrix_stride表示相邻目的DN矩阵起始地址间的间隔,单位为element。
  • src_nz_fractal_stride表示源矩阵Nz分形相邻行的地址偏移,单位为C0_Size。

本特性适用于Ascend 950PR&950DT系列产品。以asc_copy_l0c2gm为例,通过enable_nz2dn启用;矩阵数量、矩阵间隔由asc_set_l0c_copy_nz_para配置,源Nz分形行间隔由asc_set_l0c_copy_channel_para配置。通道拆分/合并与双目标模式的互斥关系见下文特性约束。

特性约束​

  • 当开启Channel Split/Channel Merge功能(Nz2Nz)时,此功能不可用。
  • 当L0C Buffer搬运到Unified Buffer(UB)开启双目标模式时,此功能不可用。
  • 目标操作数地址之间不能重叠。

使用示例​

如下图所示,在L0C Buffer中有两个Nz格式的矩阵,每个矩阵N方向上维度为32,M方向上维度为48,经过Nz2DN转换,将数据格式变为右部分所示排布。

图1 Nz2DN示意图

对于该场景,图中参数与C API配置的对应关系如下:

  • matrix_num = 2,表示需要做Nz2DN转化的矩阵个数为2。
  • n_size = 32,表示源Nz矩阵在N方向上的大小为32个元素。
  • m_size = 48,表示源Nz矩阵在M方向上的大小为48个元素。
  • src_stride = 80,表示源Nz矩阵中相邻Z排布的起始地址之间的间隔为80 * C0_Size(C0_Size = 16*sizeof(T),T为操作数的数据类型)字节。
  • dst_stride = 80,表示目的DN矩阵每一行中的元素个数为80。
  • src_nz_matrix_stride = 240,表示不同源Nz矩阵的起始地址的间隔为240 * C0_Size。
  • dst_matrix_stride = 48 * 80,表示相邻目的DN矩阵起始地址间的间隔为48 * 80 =3840个元素,其中48为目的矩阵起始地址间的间隔行数,80为dst_stride(每行的元素个数)。
  • src_nz_fractal_stride = 1:表示源矩阵Nz分形相邻行的地址偏移为1 * C0_Size。

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区。