NZ2DN
特性说明
矩阵计算的搬出过程中Nz2DN的核心功能体现为,将Nz格式矩阵转化为DN格式矩阵。
Nz2DN转化过程可以参考以下伪代码:
C++
for (int h = 0; h < matrix_num; h++) {
src_tmp3_addr = src + h * 16 * sizeof(src_element) * src_nz_matrix_stride;
dst_tmp3_addr = dst + h * sizeof(dst_element) * dst_matrix_stride;
for (int i = 0; i < ((n_size + 15) / 16); i++) {
src_tmp2_addr = src_tmp3_addr + i * sizeof(src_element) * 16 * src_stride;
dst_tmp2_addr = dst_tmp3_addr + i * sizeof(dst_element) * 16 * dst_stride;
for (int j = 0; j < 16; j++) {
if (i * 16 + j < n_size) {
src_block_addr = src_tmp2_addr + j * sizeof(src_element);
dst_block_addr = dst_tmp2_addr + j * sizeof(dst_element) * dst_stride;
for (int k = 0; k < m_size; k++) {
src_ele_addr = src_block_addr + k * sizeof(src_element) * 16 * src_nz_fractal_stride;
dst_ele_addr = dst_block_addr + k * sizeof(dst_element);
}
}
}
}
}
伪代码使用的参数具体说明如下:
- src表示源操作数搬运的起始地址。
- dst表示目的操作数搬运的起始地址。
- 源操作数每个Nz矩阵的起始地址为src_tmp3_addr。
- 目的操作数每个DN矩阵的起始地址为dst_tmp3_addr。
- 源操作数Nz矩阵以每16列为一组数据,每一组数据的起始地址为src_tmp2_addr。
- 目的操作数DN矩阵以每16行为一组数据,每一组数据的起始地址为dst_tmp2_addr。
- 在上述源自Nz矩阵的每一组数据中,再以每列元素为一组数据,每一组数据的起始地址为src_block_addr。
- 在上述源自DN矩阵的每一组数据中,再以每行元素为一组数据,每一组数据的起始地址为dst_block_addr。
- src_ele_addr为Nz矩阵一列的每个元素的地址,dst_ele_addr为DN矩阵一行的每个元素的地址,二者为一一对应关系,对应完成Nz2DN格式转换。
以下参数为Nz2DN用户可配置参数,含义取值范围参见asc_copy_l0c2gm:
- matrix_num表示需要做Nz2DN转化的矩阵个数。
- m_size与n_size分别表示矩阵m方向和n方向上的维度。
- src_stride表示源Nz矩阵中相邻Z排布的起始地址之间的间隔,单位为C0_Size。
- dst_stride表示目的DN矩阵每一行中的元素个数,单位为element。
- src_nz_matrix_stride表示不同源Nz矩阵的起始地址的间隔,单位为C0_Size。
- dst_matrix_stride表示相邻目的DN矩阵起始地址间的间隔,单位为element。
- src_nz_fractal_stride表示源矩阵Nz分形相邻行的地址偏移,单位为C0_Size。
本特性适用于Ascend 950PR&950DT系列产品。以asc_copy_l0c2gm为例,通过enable_nz2dn启用;矩阵数量、矩阵间隔由asc_set_l0c_copy_nz_para配置,源Nz分形行间隔由asc_set_l0c_copy_channel_para配置。通道拆分/合并与双目标模式的互斥关系见下文特性约束。
特性约束
- 当开启Channel Split/Channel Merge功能(Nz2Nz)时,此功能不可用。
- 当L0C Buffer搬运到Unified Buffer(UB)开启双目标模式时,此功能不可用。
- 目标操作数地址之间不能重叠。
使用示例
如下图所示,在L0C Buffer中有两个Nz格式的矩阵,每个矩阵N方向上维度为32,M方向上维度为48,经过Nz2DN转换,将数据格式变为右部分所示排布。
图1 Nz2DN示意图

对于该场景,图中参数与C API配置的对应关系如下:
- matrix_num = 2,表示需要做Nz2DN转化的矩阵个数为2。
- n_size = 32,表示源Nz矩阵在N方向上的大小为32个元素。
- m_size = 48,表示源Nz矩阵在M方向上的大小为48个元素。
- src_stride = 80,表示源Nz矩阵中相邻Z排布的起始地址之间的间隔为80 * C0_Size(C0_Size = 16*sizeof(T),T为操作数的数据类型)字节。
- dst_stride = 80,表示目的DN矩阵每一行中的元素个数为80。
- src_nz_matrix_stride = 240,表示不同源Nz矩阵的起始地址的间隔为240 * C0_Size。
- dst_matrix_stride = 48 * 80,表示相邻目的DN矩阵起始地址间的间隔为48 * 80 =3840个元素,其中48为目的矩阵起始地址间的间隔行数,80为dst_stride(每行的元素个数)。
- src_nz_fractal_stride = 1:表示源矩阵Nz分形相邻行的地址偏移为1 * C0_Size。