Skip to content

SetSingleShape

功能说明

设置Matmul单核计算的形状singleMIn,singleNIn,singleKIn,单位为元素。

函数原型

Text
int32_t SetSingleShape(int32_t singleMIn = -1, int32_t singleNIn = -1, int32_t singleKIn = -1)

参数说明

表1 参数说明

参数名输入/输出描述
singleMIn输入设置的singleMIn大小,单位为元素,默认值为-1。-1表示不设置指定的singleMIn,该值由tiling函数自行计算。
singleNIn输入设置的singleNIn大小,单位为元素,默认值为-1。-1表示不设置指定的singleNIn,该值由tiling函数自行计算。
singleKIn输入设置的singleKIn大小,单位为元素,默认值为-1。-1表示不设置指定的singleKIn,该值由tiling函数自行计算。

返回值说明

-1表示设置失败;0表示设置成功。

约束说明

  • 在MxMatmul场景中,如果A与B矩阵的位置同时为GM,对singleKIn没有特殊限制,在这种情况下,若scaleA和scaleB的K方向大小(即Ceil(singleKIn, 32))为奇数,用户需自行在scaleA和scaleB的K方向补0至偶数。例如,当singleKIn为30时,Ceil(singleKIn, 32)为1,用户需要自行在scaleA和scaleB的K方向补0,使K方向为偶数。对于其它A、B矩阵逻辑位置的组合情况,即A与B矩阵的位置不同时为GM,singleKIn以32个元素向上对齐后的数值必须是32的偶数倍。
  • 在MxMatmul场景中,当输入数据类型为fp4x2_e2m1_t、fp4x2_e1m2_t时,内轴必须为偶数。

调用示例

Text
auto ascendcPlatform = platform_ascendc::PlatformAscendC(context->GetPlatformInfo());
matmul_tiling::MultiCoreMatmulTiling tiling(ascendcPlatform);

tiling.SetShape(1024, 1024, 1024);       // 设置Matmul单次计算的形状
tiling.SetSingleShape(1024, 1024, 1024); // 设置单核计算的形状
tiling.SetOrgShape(1024, 1024, 1024);

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区