Skip to content

SetFixpipePreQuantFlag

产品支持情况​

  • Ascend 950PR&950DT系列产品:支持
  • Atlas A3系列产品:支持
  • Atlas A2系列产品:支持
  • Atlas 200I/500 A2推理产品:支持
  • Atlas推理系列产品AI Core:不支持
  • Atlas推理系列产品Vector Core:不支持
  • Atlas训练系列产品:不支持
  • KirinX90处理器系列产品:支持
  • Kirin9020处理器系列产品:支持
  • Kirin9030处理器系列产品:支持
  • Kirin9050处理器系列产品:支持

功能说明​

DataCopy数据搬运(L0C Buffer->GM、L0C Buffer->L1 Buffer、L0C Buffer->UB)过程中进行随路量化时,通过调用该接口设置scalar量化参数。

函数原型​

C++
__aicore__ inline void SetFixpipePreQuantFlag(uint64_t config)

参数说明​

表1 参数说明

参数名称输入/输出含义
config输入量化过程中使用到的scalar量化参数。

数据类型​

参数的数据类型为uint64_t。

返回值说明​

无

约束说明​

量化参数不能为inf/nan和非规格化数。

调用示例​

完整示例可参考data_copy_l0c2gm。

C++
float tmp = (float)0.5;
// 将float的tmp转换成uint64_t的deqScalar
uint64_t deqScalar = static_cast<uint64_t>(*reinterpret_cast<int32_t*>(&tmp)); 
AscendC::SetFixpipePreQuantFlag(deqScalar);  // 设置量化参数
AscendC::PipeBarrier<PIPE_FIX>();

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区。