LoadUnzipIndex
产品支持情况
- Ascend 950PR/Ascend 950DT：不支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持
- Atlas 200I/500 A2 推理产品：不支持
- Atlas 推理系列产品AI Core：支持
- Atlas 推理系列产品Vector Core：不支持
- Atlas 训练系列产品：不支持
功能说明
加载GM上的压缩索引表到内部寄存器。
索引表包含LoadDataUnzip所需的压缩信息，例如压缩长度等，用于获取压缩后的数据。
索引表由压缩工具根据对应的权重数据离线生成。一个LoadUnzipIndex指令可以加载多个索引表，而每个LoadDataUnzip指令只能消耗一个索引表。因此，索引表之间的顺序应该由用户来确定，以确保其与压缩数据的对应性。
函数原型
C++
template <typename T = int8_t, typename Std::enable_if<Std::is_same<PrimT<T>, int8_t>::value, bool>::type = true>
__aicore__ inline void LoadUnzipIndex(const GlobalTensor<T>& src, uint32_t numOfIndexTabEntry)
参数说明
表1 模板参数说明
| 参数名称 | 描述 |
|---|---|
| T | src的数据类型。 •当src使用基础数据类型时，其数据类型必须为int8_t，否则编译失败。 •当src使用TensorTrait类型时，src数据类型T的LiteType必须为int8_t，否则编译失败。 最后一个模板参数仅用于上述数据类型检查，用户无需关注。 |
表2 参数说明
| 参数名称 | 输入/输出 | 含义 |
|---|---|---|
| src | 输入 | 源操作数，索引表地址，类型为GlobalTensor。 • src地址必须2字节对齐。 • src长度必须是512字节的整数倍，最大为32KB。 |
| numOfIndexTabEntry | 输入 | 输入数据，表示加载的索引表个数。 •索引表个数必须大于0。 |
返回值说明
无
约束说明
- 操作数地址对齐要求请参见通用地址对齐约束。
- LoadUnzipIndex必须在任何LoadDataUnzip指令之前执行。
- LoadUnzipIndex加载的索引表个数必须大于或等于LoadDataUnzip指令执行的次数。
调用示例
该调用示例支持的运行平台为Atlas 推理系列产品AI Core。详细用例请参考LoadDataUnzip。
C++
indexGlobal.SetGlobalBuffer((__gm__ int8_t*)indexGm);
AscendC::LoadUnzipIndex(indexGlobal, numOfIndexTabEntry);