Skip to content
版 本

LoadDataUnzip

产 品 支 持 情 况

产 品

是 否 支 持

Ascend 950PR/Ascend 950DT

x

Atlas A3 训 练 系 列 产 品/Atlas A3 推 理 系 列 产 品

x

Atlas A2 训 练 系 列 产 品/Atlas A2 推 理 系 列 产 品

x

Atlas 200I/500 A2 推 理 产 品

x

Atlas 推 理 系 列 产 品AI Core

Atlas 推 理 系 列 产 品Vector Core

x

Atlas 训 练 系 列 产 品

x

功 能 说 明

将GM上 的 数 据 解 压 并 搬 运 到A1/B1/B2上。执 行 该API前 需 要 执 行LoadUnzipIndex加 载 压 缩 索 引 表。

函 数 原 型

Text
template <typename T>
__aicore__ inline void LoadDataUnzip(const LocalTensor<T>& dst, const GlobalTensor<T>& src)

参 数 说 明

表 1 参 数 说 明

参 数 名 称

输 入/输 出

含 义

dst

输 出

目 的 操 作 数,类 型 为LocalTensor,支 持 的TPosition为A1/B1/B2。

LocalTensor的 起 始 地 址 需 要 保 证:TPosition为A1/B1时,32字 节 对 齐;TPosition为B2时,512B对 齐。

支 持 的 数 据 类 型 为:int8_t。

src

输 入

源 操 作 数,类 型 为GlobalTensor。数 据 类 型 需 要 与dst保 持 一 致。

约 束 说 明

返 回 值 说 明

调 用 示 例

该 调 用 示 例 支 持 的 运 行 平 台 为Atlas 推 理 系 列 产 品AI Core。

Text
uint32_t srcLen = 896, dstLen = 1024, numOfIndexTabEntry = 1;
AscendC::LocalTensor<int8_t> weightB1 = inQueueB1.AllocTensor<int8_t>();
AscendC::LoadUnzipIndex(indexGlobal, numOfIndexTabEntry); // 加 载 索 引 数 据,加 载GM上 的 压 缩 索 引 表 到 内 部 寄 存 器
AscendC::LoadDataUnzip(weightB1, weGlobal); // 根 据 内 部 寄 存 器 里 的 索 引 表 加 载 数 据

免 责 声 明:本 站 内 容 由 asc-devkit 仓 master 分 支 自 动 编 译 生 成,属 于 持 续 开 发 版 本,可 能 存 在 缺 陷,仅 供 预 览 与 参 考。如 需 稳 定 及 商 用 资 料,请 查 阅 官 方 昇 腾 社 区