Relu

产 品 支 持 情 况

产 品	是 否 支 持
Ascend 950PR/Ascend 950DT	√
Atlas A3 训 练 系 列 产 品/Atlas A3 推 理 系 列 产 品	√
Atlas A2 训 练 系 列 产 品/Atlas A2 推 理 系 列 产 品	√
Atlas 200I/500 A2 推 理 产 品	√
Atlas 推 理 系 列 产 品AI Core	√
Atlas 推 理 系 列 产 品Vector Core	x
Atlas 训 练 系 列 产 品	√
Kirin X90	√
Kirin 9030	√

功 能 说 明

头 文 件 路 径 为："basic_api/kernel_operator_vec_unary_intf.h"。

Relu属 于 单 目 矢 量 类 计 算 接 口，负 责 将 输 入 的tensor按 元 素 做ReLU（Rectified Linear Unit）计 算。

整 流 线 性 单 位 函 数（Rectified Linear Unit, ReLU），又 称 修 正 线 性 单 元，是 一 种 人 工 神 经 网 络 中 常 用 的 激 励 函 数（activation function）。简 单 理 解，ReLU将 输 入 的 负 值 都 设 为0，将 输 入 的 非 负 值 按 原 样 输 出。

Relu接 口 计 算 公 式 如 下：

$dst_i = \max(0, src_i)$

函 数 原 型

• tensor前n个 数 据 连 续 计 算

  C++

  template <typename T>
  __aicore__ inline void Relu(const LocalTensor<T>& dst, const LocalTensor<T>& src, const int32_t& count)
  

• tensor高 维 切 分 计 算

  • mask逐bit模 式

    C++

    template <typename T, bool isSetMask = true>
    __aicore__ inline void Relu(const LocalTensor<T>& dst, const LocalTensor<T>& src, uint64_t mask[], const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)
    

  • mask连 续 模 式

    C++

    template <typename T, bool isSetMask = true>
    __aicore__ inline void Relu(const LocalTensor<T>& dst, const LocalTensor<T>& src, uint64_t mask, const uint8_t repeatTime, const UnaryRepeatParams& repeatParams)
    

参 数 说 明

表 1 模 板 参 数 说 明

参 数 名	描 述
T	操 作 数 数 据 类 型。
isSetMask	是 否 在 接 口 内 部 设 置mask。 • true，表 示 在 接 口 内 部 设 置mask。 • false，表 示 在 接 口 外 部 设 置mask，开 发 者 需 要 使 用SetVectorMask接 口 设 置mask值。这 种 模 式 下，本 接 口 入 参 中 的mask值 必 须 设 置 为 占 位 符MASK_PLACEHOLDER。 具 体 使 用 方 式 可 参 考掩 码。

表 2 参 数 说 明

参 数 名	输 入/输 出	描 述
dst	输 出	目 的 操 作 数。 类 型 为LocalTensor，支 持 的TPosition为VECIN/VECCALC/VECOUT。 地 址 对 齐 约 束 参 考通 用 地 址 对 齐 约 束。
src	输 入	源 操 作 数。 类 型 为LocalTensor，支 持 的TPosition为VECIN/VECCALC/VECOUT。 地 址 对 齐 约 束 参 考通 用 地 址 对 齐 约 束。
count	输 入	参 与 计 算 的 元 素 个 数。关 于 该 参 数 的 具 体 说 明 请 参 考连 续 计 算。
mask[]/mask	输 入	mask用 于 控 制 每 次 迭 代 内 参 与 计 算 的 元 素。详 细 设 置 参 考掩 码。
repeatTime	输 入	重 复 迭 代 次 数。矢 量 计 算 单 元，每 次 读 取 连 续 的256Bytes数 据 进 行 计 算，为 完 成 对 输 入 数 据 的 处 理，必 须 通 过 多 次 迭 代（repeat）才 能 完 成 所 有 数 据 的 读 取 与 计 算。repeatTime表 示 迭 代 的 次 数。 关 于 该 参 数 的 具 体 说 明 请 参 考高 维 切 分。
repeatParams	输 入	控 制 操 作 数 地 址 步 长 的 参 数。UnaryRepeatParams类 型，包 含 操 作 数 相 邻 迭 代 间 相 同DataBlock的 地 址 步 长，操 作 数 同 一 迭 代 内 不 同DataBlock的 地 址 步 长 等 参 数。 相 邻 迭 代 间 的 地 址 步 长 参 数 说 明 请 参 考repeatStride；同 一 迭 代 内DataBlock的 地 址 步 长 参 数 说 明 请 参 考dataBlockStride。

数 据 类 型

• 针 对Ascend 950PR/Ascend 950DT，T支 持 的 数 据 类 型 为：half、int32_t、float、int64_t。数 据 类 型int64_t仅 支 持tensor前n个 数 据 计 算 接 口。

• 针 对Atlas A3 训 练 系 列 产 品/Atlas A3 推 理 系 列 产 品，T支 持 的 数 据 类 型 为：half、int32_t、float。

• 针 对Atlas A2 训 练 系 列 产 品/Atlas A2 推 理 系 列 产 品，T支 持 的 数 据 类 型 为：half、int32_t、float。

• 针 对Atlas 200I/500 A2 推 理 产 品，T支 持 的 数 据 类 型 为：half、int32_t、float。

• 针 对Atlas 推 理 系 列 产 品AI Core，T支 持 的 数 据 类 型 为：half、int32_t、float。

• 针 对Atlas 训 练 系 列 产 品，T支 持 的 数 据 类 型 为：half。

• 针 对Kirin X90，T支 持 的 数 据 类 型 为：half、int32_t、float。

• 针 对Kirin 9030，T支 持 的 数 据 类 型 为：half、int32_t、float。

返 回 值 说 明

无

约 束 说 明

• 操 作 数 地 址 对 齐 要 求 请 参 见通 用 地 址 对 齐 约 束。
• 操 作 数 地 址 重 叠 约 束 请 参 考通 用 地 址 重 叠 约 束。

• 针 对 如 下 型 号，当 参 数count或repeatTime取 值 为0时，不 会 执 行 计 算 操 作，不 会 对 目 的 操 作 数 进 行 写 入，该 接 口 将 被 视 为NOP（空 操 作）。

  • Atlas A3 训 练 系 列 产 品/Atlas A3 推 理 系 列 产 品
  • Atlas A2 训 练 系 列 产 品/Atlas A2 推 理 系 列 产 品

调 用 示 例

• tensor高 维 切 分 计 算 样 例-mask连 续 模 式

  C++

  uint64_t mask = 256 / sizeof(half);
  // repeatTime = 4, 128 elements one repeat, 512 elements total.
  // dstBlkStride, srcBlkStride = 1, no gap between blocks in one repeat.
  // dstRepStride, srcRepStride = 8, no gap between repeats.
  AscendC::Relu(dstLocal, srcLocal, mask, 4, { 1, 1, 8, 8 });
  

• tensor高 维 切 分 计 算 样 例-mask逐bit模 式

  C++

  uint64_t mask[2] = { UINT64_MAX, UINT64_MAX };
  // repeatTime = 4, 128 elements one repeat, 512 elements total.
  // dstBlkStride, srcBlkStride = 1, no gap between blocks in one repeat.
  // dstRepStride, srcRepStride = 8, no gap between repeats.
  AscendC::Relu(dstLocal, srcLocal, mask, 4, { 1, 1, 8, 8 });
  

• tensor前n个 数 据 计 算 接 口 样 例

  C++

  AscendC::Relu(dstLocal, srcLocal, 512);
  

结 果 示 例 如 下：

Bash

输 入 数 据srcLocal: [6.938 -8.86 -0.2263 ... 1.971 1.778]
输 出 数 据dstLocal: [6.938 0 0 ... 1.971 1.778]