Skip to content

Div

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

头文件路径:"basic_api/reg_compute/kernel_reg_compute_vec_binary_intf.h"

该接口根据mask,对源操作数srcReg0、srcReg1进行按元素相除操作,将结果写入目的操作数dstReg。计算公式如下:

函数原型

C++
template <typename T = DefaultType, auto mode = MaskMergeMode::ZEROING, typename U>
__simd_callee__ inline void Div(U& dstReg, U& srcReg0, U& srcReg1, MaskReg& mask)

参数说明

表 1 模板参数说明

参数名描述
T操作数数据类型。支持的数据类型请参考数据类型
mode可配置为MaskMergeMode枚举类型或DivSpecificMode的结构体指针。
• 配置MaskMergeMode,选择MERGING模式或ZEROING模式。
  • ZEROING模式下,mask未筛选的元素在dstReg中置零。
  • MERGING模式当前不支持。
• 配置DivSpecificMode
Text
enum class DivAlgo {
    INTRINSIC = 0,
    DIFF_COMPENSATION,
    PRECISION_1ULP_FTZ_TRUE,
    PRECISION_0ULP_FTZ_TRUE,
    PRECISION_0ULP_FTZ_FALSE,
    PRECISION_1ULP_FTZ_FALSE
};
struct DivSpecificMode {
    MaskMergeMode mrgMode = MaskMergeMode::ZEROING,
    bool precisionMode = false;
    DivAlgo algo = DivAlgo::INTRINSIC;
};
当precisionMode为true时,使能更高精度的Div计算,使用差值补偿算法得出结果,最大精度误差为0ulp。目前只针对float数据类型生效。
• algo:用于配置Subnormal模式,具体参考关键特性说明
  • DivAlgo::INTRINSIC、DivAlgo::PRECISION_1ULP_FTZ_TRUE,使用单指令计算得出结果,最大精度误差为1ulp。
  • DivAlgo::DIFF_COMPENSATION、DivAlgo::PRECISION_0ULP_FTZ_TRUE,使用差值补偿算法得出结果,最大精度误差为0ulp。目前,该算法支持float、complex64数据类型。
  • DivAlgo::PRECISION_0ULP_FTZ_FALSE,支持Subnormal数据计算,使用差值补偿算法得出结果,最大精度误差为0ulp。目前,该算法支持float数据类型。
  • DivAlgo::PRECISION_1ULP_FTZ_FALSE,支持Subnormal数据计算,最大精度误差为1ulp。目前,该算法支持half、float数据类型。
U源操作数和目的操作数的RegTensor类型,例如RegTensor<half>,由编译器自动推导,用户不需要填写。

表 2 参数说明

参数名输入/输出描述
dstReg输出目的操作数。
类型为RegTensor
srcReg0输入源操作数。
类型为RegTensor
srcReg1输入源操作数。
类型为RegTensor
mask输入源操作数元素操作的有效指示,详细说明请参考MaskReg

数据类型

目的操作数与源操作数的数据类型需要保持一致。

  • 当模式为DivAlgo::INTRINSIC、DivAlgo::PRECISION_1ULP_FTZ_TRUE,支持的数据类型为:int16_t、uint16_t、half、int32_t、uint32_t、float、complex32、int64_t、uint64_t、complex64。
  • 当模式为DivAlgo::DIFF_COMPENSATION、DivAlgo::PRECISION_0ULP_FTZ_TRUE,支持的数据类型为:float、complex64。
  • 当模式为DivAlgo::PRECISION_0ULP_FTZ_FALSE,支持的数据类型为:float。
  • 当模式为DivAlgo::PRECISION_1ULP_FTZ_FALSE,支持的数据类型为:half、float。

返回值说明

约束说明

关键特性说明

最大精度误差:

  • 当precisionMode为false时,DivAlgo::INTRINSIC、DivAlgo::PRECISION_1ULP_FTZ_TRUE、DivAlgo::PRECISION_1ULP_FTZ_FALSE,最大精度误差为1ulp。
  • 当precisionMode为true时,DivAlgo::DIFF_COMPENSATION、DivAlgo::PRECISION_0ULP_FTZ_TRUE、DivAlgo::PRECISION_0ULP_FTZ_FALSE,最大精度误差为0ulp。

配置Subnormal模式:
FTZ(Flush To Zero):一种浮点运算模式,当结果为Subnormal时,将其直接清零(近似为0),而非保留其精确的微小数值。
只有将algo设置为DivAlgo::PRECISION_0ULP_FTZ_FALSE或者DivAlgo::PRECISION_1ULP_FTZ_FALSE时,Div接口才会保留并正确输出Subnormal结果;其他模式下Subnormal均被FTZ。
一般场景推荐使用性能更好的DivAlgo::INTRINSIC、DivAlgo::PRECISION_1ULP_FTZ_TRUE、DivAlgo::DIFF_COMPENSATION、DivAlgo::PRECISION_0ULP_FTZ_TRUE;需要精确Subnormal输出的场景(如特定数据精度要求的算法、避免除零错误)使用DivAlgo::PRECISION_0ULP_FTZ_FALSE、DivAlgo::PRECISION_1ULP_FTZ_FALSE。

表 8 Div Subnormal示例

被除数输入除数输入输出(配置Subnormal模式)输出(不配置Subnormal模式)
1(0x3F80 0000)-5.01923249665106e-39(0x8036 A794)-1.9923364304124947e+38(0xFF15 E301)-inf(0xFF80 0000)
1.8611191411098982e-39(0x0014 440B)7.70406850625423e-39(0x0053 E3CF)0.24157613515853882(0x3E77 5FBC)NaN(0x7FFF FFFF)

调用示例

C++
template<typename T>
__simd_vf__ inline void DivVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ T* src1Addr, uint32_t count, uint16_t oneRepeatSize, uint16_t repeatTimes)
{
    AscendC::Reg::RegTensor<T> srcReg0;
    AscendC::Reg::RegTensor<T> srcReg1;
    AscendC::Reg::RegTensor<T> dstReg;
    AscendC::Reg::MaskReg mask;
    // 高精度模式
    // static constexpr AscendC::Reg::DivSpecificMode mode = {AscendC::Reg::MaskMergeMode::ZEROING, true};
    // Subnormal模式
    // static constexpr AscendC::Reg::DivSpecificMode mode = {AscendC::Reg::MaskMergeMode::ZEROING, true, DivAlgo::PRECISION_0ULP_FTZ_FALSE};
    for (uint16_t i = 0; i < repeatTimes; i++) {
        mask = AscendC::Reg::UpdateMask<T>(count);
        AscendC::Reg::LoadAlign(srcReg0, src0Addr + i * oneRepeatSize);
        AscendC::Reg::LoadAlign(srcReg1, src1Addr + i * oneRepeatSize);
        AscendC::Reg::Div(dstReg, srcReg0, srcReg1, mask);
        // 高精度模式/Subnormal模式
        // AscendC::Reg::Div<T, &mode>(dstReg, srcReg0, srcReg1, mask);
        AscendC::Reg::StoreAlign(dstAddr + i * oneRepeatSize, dstReg, mask);
    }
}

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区