LoadDataUnzip
产 品 支 持 情 况
功 能 说 明
将GM上 的 数 据 解 压 并 搬 运 到A1/B1/B2上。执 行 该API前 需 要 执 行LoadUnzipIndex加 载 压 缩 索 引 表。
函 数 原 型
Text
template <typename T>
__aicore__ inline void LoadDataUnzip(const LocalTensor<T>& dst, const GlobalTensor<T>& src)
参 数 说 明
表 1 参 数 说 明
目 的 操 作 数,类 型 为LocalTensor,支 持 的TPosition为A1/B1/B2。 LocalTensor的 起 始 地 址 需 要 保 证:TPosition为A1/B1时,32字 节 对 齐;TPosition为B2时,512B对 齐。 | ||
约 束 说 明
- 操 作 数 地 址 对 齐 要 求 请 参 见通 用 地 址 对 齐 约 束。
返 回 值 说 明
无
调 用 示 例
该 调 用 示 例 支 持 的 运 行 平 台 为Atlas 推 理 系 列 产 品AI Core。
Text
uint32_t srcLen = 896, dstLen = 1024, numOfIndexTabEntry = 1;
AscendC::LocalTensor<int8_t> weightB1 = inQueueB1.AllocTensor<int8_t>();
AscendC::LoadUnzipIndex(indexGlobal, numOfIndexTabEntry); // 加 载 索 引 数 据,加 载GM上 的 压 缩 索 引 表 到 内 部 寄 存 器
AscendC::LoadDataUnzip(weightB1, weGlobal); // 根 据 内 部 寄 存 器 里 的 索 引 表 加 载 数 据