Skip to content

Div

产品支持情况​

  • Ascend 950PR&950DT系列产品:支持
  • Atlas A3系列产品:不支持
  • Atlas A2系列产品:不支持
  • Atlas 200I/500 A2推理产品:不支持
  • Atlas推理系列产品AI Core:不支持
  • Atlas推理系列产品Vector Core:不支持
  • Atlas训练系列产品:不支持
  • KirinX90处理器系列产品:支持
  • Kirin9020处理器系列产品:支持
  • Kirin9030处理器系列产品:支持
  • Kirin9050处理器系列产品:支持
  • KirinDev0001处理器系列产品:支持
  • KirinDev0002处理器系列产品:支持
  • KirinDev0003处理器系列产品:支持

功能说明​

头文件路径:"basic_api/reg_compute/kernel_reg_compute_vec_binary_intf.h"。

该接口根据mask,对源操作数srcReg0、srcReg1进行按元素相除操作,将结果写入目的操作数dstReg。计算公式如下:

函数原型​

C++
template <typename T = DefaultType, auto mode = MaskMergeMode::ZEROING, typename U>
__simd_callee__ inline void Div(U& dstReg, U& srcReg0, U& srcReg1, MaskReg& mask)

参数说明​

表 1 模板参数说明

参数名描述
T操作数数据类型。支持的数据类型请参考数据类型。
mode可配置为MaskMergeMode枚举值或指向DivSpecificMode结构体的指针。
• 配置MaskMergeMode:选择MERGING模式或ZEROING模式。
  • ZEROING模式下,mask未筛选的元素在dstReg中置零。
  • MERGING模式当前不支持。
• 配置DivSpecificMode,定义如下:
enum class DivAlgo {
INTRINSIC = 0,
DIFF_COMPENSATION,
PRECISION_1ULP_FTZ_TRUE,
PRECISION_0ULP_FTZ_TRUE,
PRECISION_0ULP_FTZ_FALSE,
PRECISION_1ULP_FTZ_FALSE
};
struct DivSpecificMode {
MaskMergeMode mrgMode = MaskMergeMode::ZEROING;
bool precisionMode = false;
DivAlgo algo = DivAlgo::INTRINSIC;
};

• precisionMode:用于配置高精度Div计算。设置为true时,使用差值补偿算法,最大精度误差为0ulp,支持float、complex64类型。
• algo:用于选择Div算法及配置Subnormal模式,详细说明请参考关键特性说明。
  • DivAlgo::INTRINSIC:默认算法,最大精度误差为1ulp。对于half、float类型,Subnormal处理受编译选项--cce-ftz控制(默认值为true)。
  • DivAlgo::PRECISION_1ULP_FTZ_TRUE:使用单指令计算,最大精度误差为1ulp。
  • DivAlgo::DIFF_COMPENSATION:使用差值补偿算法,最大精度误差为0ulp。对于float、complex64类型,Subnormal处理受编译选项--cce-ftz控制(默认值为true)。
  • DivAlgo::PRECISION_0ULP_FTZ_TRUE:使用差值补偿算法,最大精度误差为0ulp。
  • DivAlgo::PRECISION_0ULP_FTZ_FALSE:使用差值补偿算法,支持Subnormal数据计算,最大精度误差为0ulp。
  • DivAlgo::PRECISION_1ULP_FTZ_FALSE:支持Subnormal数据计算,最大精度误差为1ulp。
U源操作数和目的操作数的RegTensor类型,例如RegTensor<half>,由编译器自动推导,用户不需要填写。

表 2 参数说明

参数名输入/输出描述
dstReg输出目的操作数。
类型为RegTensor。
srcReg0输入源操作数。
类型为RegTensor。
srcReg1输入源操作数。
类型为RegTensor。
mask输入源操作数元素操作的有效指示,详细说明请参考MaskReg。

数据类型​

目的操作数与源操作数的数据类型需要保持一致。

  • 当模式为DivAlgo::INTRINSIC或DivAlgo::PRECISION_1ULP_FTZ_TRUE时,支持的数据类型为:int16_t、uint16_t、half、int32_t、uint32_t、float、complex32、int64_t、uint64_t、complex64。
  • 当模式为DivAlgo::DIFF_COMPENSATION或DivAlgo::PRECISION_0ULP_FTZ_TRUE时,支持的数据类型为:float、complex64。
  • 当模式为DivAlgo::PRECISION_0ULP_FTZ_FALSE时,支持的数据类型为:float。
  • 当模式为DivAlgo::PRECISION_1ULP_FTZ_FALSE时,支持的数据类型为:half、float。
  • 针对KirinX90处理器系列产品,T支持的数据类型为:int16_t、uint16_t、half、int32_t、uint32_t、float。
  • 针对Kirin9020处理器系列产品,T支持的数据类型为:int16_t、uint16_t、half、int32_t、uint32_t、float。
  • 针对Kirin9030处理器系列产品,T支持的数据类型为:int16_t、uint16_t、half、int32_t、uint32_t、float。
  • 针对Kirin9050处理器系列产品,T支持的数据类型为:half、float。

返回值说明​

无

约束说明​

无

关键特性说明​

最大精度误差​

  • precisionMode设置为true时,使用差值补偿算法进行高精度计算,最大精度误差为0ulp。
  • precisionMode设置为false时,DivAlgo::INTRINSIC、DivAlgo::PRECISION_1ULP_FTZ_TRUE和DivAlgo::PRECISION_1ULP_FTZ_FALSE的最大精度误差为1ulp;DivAlgo::DIFF_COMPENSATION、DivAlgo::PRECISION_0ULP_FTZ_TRUE和DivAlgo::PRECISION_0ULP_FTZ_FALSE的最大精度误差为0ulp。

配置Subnormal模式​

FTZ(Flush-To-Zero):一种浮点运算模式,当结果为Subnormal时,将其直接清零(近似为0),而非保留其精确的微小数值。

默认算法​

DivAlgo::INTRINSIC支持整数、浮点和复数类型,具体支持范围请参考数据类型。对于half和float类型,--cce-ftz=false时保留Subnormal,等效于DivAlgo::PRECISION_1ULP_FTZ_FALSE;--cce-ftz=true(默认值)时采用FTZ模式,等效于DivAlgo::PRECISION_1ULP_FTZ_TRUE。对于整数类型,计算结果不涉及Subnormal,--cce-ftz对其无影响;对于complex32和complex64类型,实部和虚部分别为half和float,Subnormal处理遵循对应元素类型的--cce-ftz配置。

显式指定的算法​

  • DivAlgo::DIFF_COMPENSATION支持float和complex64类型。--cce-ftz=false时保留Subnormal;--cce-ftz=true(默认值)时采用FTZ模式。
  • 名称中包含FTZ_FALSE的算法始终保留Subnormal。
  • 名称中包含FTZ_TRUE的算法始终采用FTZ模式。

使用建议​

一般场景建议使用性能更优的DivAlgo::PRECISION_1ULP_FTZ_TRUE或DivAlgo::PRECISION_0ULP_FTZ_TRUE;对于需要精确输出Subnormal的场景(如算法对数据精度有特殊要求或需避免除零错误),可将算法配置为DivAlgo::PRECISION_0ULP_FTZ_FALSE或DivAlgo::PRECISION_1ULP_FTZ_FALSE。

表 3 Div Subnormal示例

被除数输入除数输入输出(配置Subnormal模式)输出(不配置Subnormal模式)
1(0x3F80 0000)-5.01923249665106e-39(0x8036 A794)-1.9923364304124947e+38(0xFF15 E301)-inf(0xFF80 0000)
1.8611191411098982e-39(0x0014 440B)7.70406850625423e-39(0x0053 E3CF)0.24157613515853882(0x3E77 5FBC)NaN(0x7FFF FFFF)

调用示例​

C++
template<typename T>
__simd_vf__ inline void DivVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ T* src1Addr, uint32_t count, uint16_t oneRepeatSize, uint16_t repeatTimes)
{
    AscendC::Reg::RegTensor<T> srcReg0;
    AscendC::Reg::RegTensor<T> srcReg1;
    AscendC::Reg::RegTensor<T> dstReg;
    AscendC::Reg::MaskReg mask;
    // 高精度模式
    // static constexpr AscendC::Reg::DivSpecificMode mode = {AscendC::Reg::MaskMergeMode::ZEROING, true};
    // 0ulp精度及Subnormal模式
    // static constexpr AscendC::Reg::DivSpecificMode mode = {
    //     AscendC::Reg::MaskMergeMode::ZEROING, true, AscendC::DivAlgo::PRECISION_0ULP_FTZ_FALSE};
    for (uint16_t i = 0; i < repeatTimes; i++) {
        mask = AscendC::Reg::UpdateMask<T>(count);
        AscendC::Reg::LoadAlign(srcReg0, src0Addr + i * oneRepeatSize);
        AscendC::Reg::LoadAlign(srcReg1, src1Addr + i * oneRepeatSize);
        AscendC::Reg::Div(dstReg, srcReg0, srcReg1, mask);
        // 高精度模式/Subnormal模式
        // AscendC::Reg::Div<T, &mode>(dstReg, srcReg0, srcReg1, mask);
        AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, dstReg, mask);
    }
}

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区。