SetFixpipePreQuantFlag
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
- Atlas 200I/500 A2 推理产品:支持
- Atlas 推理系列产品AI Core:不支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:不支持
- Kirin X90:支持
- Kirin 9030:支持
功能说明
DataCopy数据搬运(L0C Buffer->GM、L0C Buffer->L1 Buffer)过程中进行随路量化时,通过调用该接口设置scalar量化参数。
函数原型
C++
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config)
参数说明
表1 参数说明
| 参数名称 | 输入/输出 | 含义 |
|---|---|---|
| config | 输入 | 量化过程中使用到的scalar量化参数。 |
数据类型
参数的数据类型为uint64_t。
返回值说明
无
约束说明
无
调用示例
完整示例可参考data_copy_l0c2gm。
C++
float tmp = (float)0.5;
// 将float的tmp转换成uint64_t的deqScalar
uint64_t deqScalar = static_cast<uint64_t>(*reinterpret_cast<int32_t*>(&tmp));
AscendC::SetFixpipePreQuantFlag(deqScalar); // 设置量化参数
AscendC::PipeBarrier<PIPE_FIX>();