MulsCast(ISASI)
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品 AI Core:不支持
- Atlas 推理系列产品 Vector Core:不支持
- Atlas 训练系列产品:不支持
功能说明
头文件路径为:"basic_api/kernel_operator_vec_binary_scalar_intf.h"。
将矢量源操作数前count个数据与标量相乘再按照CAST_ROUND模式转换成half类型,并将计算结果写入dst,此接口支持标量在前和标量在后两种场景。
其中标量输入也支持配置LocalTensor单点元素,计算公式如下,idx表示LocalTensor单点元素的位置系数。
函数原型
C++
template <typename T0 = BinaryDefaultType, typename T1 = BinaryDefaultType, const BinaryConfig &config = DEFAULT_BINARY_CONFIG, typename T2, typename T3, typename T4>
__aicore__ inline void MulsCast(const T2 &dst, const T3 &src0, const T4 &src1, const uint32_t count)
参数说明
表1 模板参数说明
| 参数名 | 描述 |
|---|---|
| T0 | 目的操作数数据类型。 预留参数,暂未启用,为后续的功能扩展做保留,需要指定时,传入默认值BinaryDefaultType即可。 |
| T1 | 源操作数数据类型。 预留参数,暂未启用,为后续的功能扩展做保留,需要指定时,传入默认值BinaryDefaultType即可。 |
| config | 类型为BinaryConfig,当标量为LocalTensor单点元素类型时生效,用于指定单点元素操作数位置。默认值DEFAULT_BINARY_CONFIG,表示右操作数为标量。 struct BinaryConfig { int8_t scalarTensorIndex = 1; // 用于指定标量为LocalTensor单点元素时标量的位置,0表示左操作数,1表示右操作数 }; constexpr BinaryConfig DEFAULT_BINARY_CONFIG = {1}; |
| T2 | LocalTensor类型,根据输入参数dst自动推导相应的数据类型,开发者无需配置该参数,保证dst满足数据类型的约束即可。 |
| T3 | LocalTensor类型或标量类型,根据输入参数src0自动推导相应的数据类型,开发者无需配置该参数,保证src0满足数据类型的约束即可。 |
| T4 | LocalTensor类型或标量类型,根据输入参数src1自动推导相应的数据类型,开发者无需配置该参数,保证src1满足数据类型的约束即可。 |
表2 参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| dst | 输出 | 目的操作数。 类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。 LocalTensor的起始地址需要32字节对齐。 Ascend 950PR/Ascend 950DT,支持的数据类型为:half 不同数据类型对应的精度转换规则见精度转换规则。 |
| src0/src1 | 输入 | 源操作数。 • 类型为LocalTensor时,支持当作矢量操作数或标量单点元素,支持的TPosition为VECIN/VECCALC/VECOUT。 LocalTensor的起始地址需要32字节对齐。 Ascend 950PR/Ascend 950DT,支持的数据类型为:float • 类型为标量时: Ascend 950PR/Ascend 950DT,支持的数据类型为:float |
| count | 输入 | 参与计算的元素个数。 |
表3 精度转换规则
| src类型 | dst类型 | 类型转换模式介绍 |
|---|---|---|
| float | half | 将源操作数按照CAST_ROUND模式取到half所能表示的数,以half格式(溢出默认按照饱和处理)存入dst中。 |
数据类型
Ascend 950PR/Ascend 950DT,src支持的数据类型为:float。dst支持的数据类型为:half。
返回值说明
无
约束说明
- 左操作数及右操作数中,必须有一个为矢量;当前不支持左右操作数同时为标量。
- 本接口传入LocalTensor单点数据作为标量时,idx参数需要传入编译期已知的常量,传入变量时需要声明为constexpr。
- 该接口通过VF调用Reg矢量计算API实现兼容,当参数count取值为0时,不保证该接口将被视为NOP(空操作)。
调用示例
C++
// 标量在后示例
AscendC::MulsCast(dstLocal, src0Local, src1Local[0], 512);
// 标量在前示例
static constexpr AscendC::BinaryConfig config = { 0 };
AscendC::MulsCast<BinaryDefaultType, BinaryDefaultType, config>(dstLocal, src0Local[0], src1Local, 512);
结果示例如下:
输入数据src0Local:[6 5 11 ... ]
输入数据src1Local:2
输出数据dstLocal:[12 10 22 ... ]