Skip to content
版 本

DataCachePreload

产 品 支 持 情 况

产 品是 否 支 持
Ascend 950PR/Ascend 950DT
Atlas A3 训 练 系 列 产 品/Atlas A3 推 理 系 列 产 品
Atlas A2 训 练 系 列 产 品/Atlas A2 推 理 系 列 产 品
Atlas 200I/500 A2 推 理 产 品
Atlas 推 理 系 列 产 品AI Core
Atlas 推 理 系 列 产 品Vector Core
x
Atlas 训 练 系 列 产 品
x

功 能 说 明

头 文 件 路 径 为:"basic_api/kernel_operator_cache_intf.h"

从 源 地 址 所 在 的 特 定GM地 址 预 加 载 数 据 到DCache中,每 次 调 用 只 能 预 加 载 一 个Cache Line大 小 的 数 据。

函 数 原 型

C++
template <typename T>
__aicore__ inline void DataCachePreload(const GlobalTensor<uint64_t>& src, const T cacheOffset)

参 数 说 明

表 1 参 数 说 明

参 数 名输 入/输 出描 述
src输 入源 操 作 数,类 型 为GlobalTensor。支 持 的 数 据 类 型 为:uint64_t。
cacheOffset输 入在 源 操 作 数 上 偏 移cacheOffset大 小 开 始 加 载 数 据,单 位 为byte,支 持 的 数 据 类 型 为:int16_t/int64_t。

返 回 值 说 明

约 束 说 明

频 繁 调 用 此 接 口 可 能 导 致 保 留 站(Reservation Station,用 于 暂 存 待 执 行 指 令 的 硬 件 队 列)发 生 拥 塞。在 此 情 况 下,该 指 令 将 被 视 为NOP指 令,进 而 阻 塞Scalar流 水 线。因 此,建 议 连 续 调 用 此 接 口 的 次 数 不 要 超 过4次。

调 用 示 例

C++
AscendC::GlobalTensor<uint64_t> srcGlobal;
int64_t cacheOffset = 0;
AscendC::DataCachePreload(srcGlobal, cacheOffset);

免 责 声 明:本 站 内 容 由 asc-devkit 仓 master 分 支 自 动 编 译 生 成,属 于 持 续 开 发 版 本,可 能 存 在 缺 陷,仅 供 预 览 与 参 考。如 需 稳 定 及 商 用 资 料,请 查 阅 官 方 昇 腾 社 区