Skip to content

asc_atomic_min

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

对Unified Buffer或Global Memory数据做原子求最小值操作,即将Unified Buffer或Global Memory的数据与指定数据中的最小值赋值到Unified Buffer或Global Memory地址中。

函数原型

C++
inline int32_t asc_atomic_min(int32_t *address, int32_t val)
C++
inline uint32_t asc_atomic_min(uint32_t *address, uint32_t val)
C++
inline float asc_atomic_min(float *address, float val)
C++
inline int64_t asc_atomic_min(int64_t *address, int64_t val)
C++
inline uint64_t asc_atomic_min(uint64_t *address, uint64_t val)
C++
inline half asc_atomic_min(half *address, half val)
C++
inline bfloat16_t asc_atomic_min(bfloat16_t *address, bfloat16_t val)
C++
inline half2 asc_atomic_min(half2 *address, half2 val)
C++
inline bfloat16x2_t asc_atomic_min(bfloat16x2_t *address, bfloat16x2_t val)

参数说明

表1 参数说明

参数名输入/输出描述
address输出Unified Buffer或Global Memory的地址。
val输入源操作数。

不同数据类型支持的内存范围说明如下:

表2 不同数据类型支持的内存范围

参数数据类型支持的内存空间
int32_t、uint32_t、float、half、bfloat16_t、half2、bfloat16x2_tUnified Buffer、Global Memory
int64_t、uint64_tGlobal Memory

返回值说明

Unified Buffer或Global Memory上的初始数据。

注意,由于底层硬件约束,half和bfloat16_t类型的返回值不准确,禁止直接使用这些类型的返回值。half2和bfloat16x2_t类型不受此限制。

约束说明

原子操作保证对同一地址的读改写过程具有原子性,但不保证多个线程之间的执行顺序。对于依赖接口返回值判断线程先后顺序的场景,结果可能随线程调度变化而不同。

需要包含的头文件

使用除half、half2、bfloat16_t、bfloat16x2_t类型之外的接口需要包含"simt_api/device_atomic_functions.h"头文件,使用half和half2类型接口需要包含"simt_api/asc_fp16.h"头文件,使用bfloat16_t和bfloat16x2_t类型接口需要包含"simt_api/asc_bf16.h"头文件。

C++
#include "simt_api/device_atomic_functions.h"
C++
#include "simt_api/asc_fp16.h"
C++
#include "simt_api/asc_bf16.h"

调用示例

示例场景为:多个线程扫描延迟数组,使用asc_atomic_min接口将全局最低延迟写入同一个结果地址。输入参数说明如下:

名称说明
latency每个元素表示一次请求的延迟值。
min_latencyGlobal Memory中的最小值结果,kernel启动前初始化为足够大的值。
n延迟样本数量。

核心代码实现如下:

  • SIMT编程场景:

    C++
    __global__ __launch_bounds__(256) void find_min_latency(uint32_t *min_latency,
                                                           uint32_t *latency,
                                                           uint32_t n)
    {
        uint32_t idx = blockIdx.x * blockDim.x + threadIdx.x;
        if (idx >= n) {
            return;
        }
    
        asc_atomic_min(min_latency, latency[idx]);
    }
    
  • SIMD与SIMT混合编程场景:

    SIMD与SIMT混合编程场景,需要显式使用地址空间限定符表示地址空间:__gm__表示Global Memory内存空间,__ubuf__表示Unified Buffer内存空间。

    C++
    __simt_vf__ __launch_bounds__(1024) inline void find_min_latency(__gm__ uint32_t *min_latency,
                                                                    __gm__ uint32_t *latency,
                                                                    uint32_t n)
    {
        uint32_t idx = blockIdx.x * blockDim.x + threadIdx.x;
        if (idx >= n) {
            return;
        }
    
        asc_atomic_min(min_latency, latency[idx]);
    }
    

输出结果示例如下:

Text
latency: 31, 20, 45
min_latency: 20 // 表明所有线程并发更新后得到最小值

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区