asc_atomic_sub
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品AI Core:不支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:不支持
功能说明
头文件路径为:"c_api/atomic/scalar_atomic.h"。
对Global Memory中address指向的单个元素执行原子减操作:读取该地址中的旧值old_value,计算old_value与输入标量值val的差,将结果new_value写回该地址,并返回old_value。整个读取、计算和写回过程为原子操作。
计算公式如下:
函数原型
C
__aicore__ inline <dtype> asc_atomic_sub(__gm__ <dtype>* address,
<dtype> val)
dtype支持数据类型
dtype取值为:int32_t、uint32_t、float、int64_t、uint64_t。
函数原型典型示例
C
// 示例:int32_t类型标量原子减
__aicore__ inline int32_t asc_atomic_sub(__gm__ int32_t* address,
int32_t val)
参数说明
表1 参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| address | 输入/输出 | Global Memory的地址。 |
| val | 输入 | 标量值,数据类型与address指向元素类型一致。 |
返回值说明
返回address地址中计算前的原始数据old_value。
约束说明
address必须落在Global Memory地址空间。address需按sizeof(dtype)字节对齐。- 对同一
address的并发调用以原子方式完成“读取、计算、写回”,不会丢失更新。dtype为float时,最终结果可能因执行顺序不同而存在差异;如需确定性计算结果,需要通过同步指令控制执行顺序。 - 本接口运行在标量流水(
PIPE_S)上,同一标量流水内的数据依赖由指令执行顺序保证。若本接口与PIPE_MTE2或PIPE_MTE3上的数据搬运指令访问同一GM地址,且执行顺序影响结果,编译器无法自动完成跨流水同步,调用方需按实际依赖插入asc_sync_pipe,或配合使用asc_sync_notify与asc_sync_wait保证执行顺序。 - 本接口访问GM时绕过DCache,不维护缓存一致性。若其他核或其他通路通过缓存访问同一GM地址,调用方需使用asc_dcci清理或失效对应Cache Line,并使用asc_sync_data_barrier保证相关访存操作的执行顺序和数据可见性。详情可参考Scalar原子操作与DCache一致性。
调用示例
将代码保存为example.asc后,可通过bisheng命令编译运行,其中--npu-arch参数需根据实际产品型号指定对应的NPU架构,具体产品与NPU架构的映射关系请参考__NPU_ARCH__。
以Ascend 950PR/Ascend 950DT产品(对应NPU架构为dav-3510)为例,编译运行命令如下:
Bash
bisheng example.asc -o main --npu-arch=dav-3510 && ./main
C++
#include <cstdint>
#include <iostream>
#include <vector>
#include "c_api/asc_simd.h"
#include "acl/acl.h"
namespace {
template <typename T>
void print_data(const char* label, const std::vector<T>& values)
{
std::cout << label << ":";
const size_t count = values.size() < 8 ? values.size() : 8;
for (size_t i = 0; i < count; ++i) std::cout << ' ' << +values[i];
if (values.size() > count) std::cout << " ...";
std::cout << std::endl;
}
template <typename T>
bool compare_data(const std::vector<T>& actual, const std::vector<T>& expected, double tolerance = 0.0)
{
if (actual.size() != expected.size()) return false;
for (size_t i = 0; i < actual.size(); ++i) {
if (actual[i] == expected[i]) continue;
const double diff = static_cast<double>(actual[i]) - static_cast<double>(expected[i]);
if (diff > tolerance || diff < -tolerance) return false;
}
return true;
}
constexpr uint32_t ELEMENTS = 8;
__global__ __vector__ void asc_atomic_sub_kernel(__gm__ int64_t* output)
{
asc_init();
__gm__ uint32_t* address = reinterpret_cast<__gm__ uint32_t*>(output);
asc_dcci_entire_all();
const uint32_t old_value = asc_atomic_sub(address, 3U);
asc_sync_data_barrier(mem_dsb_t::DSB_ALL);
asc_dcci_entire_all();
output[1] = static_cast<int64_t>(old_value);
asc_sync();
}
} // namespace
int main()
{
std::vector<int64_t> input = {10, 0};
std::vector<int64_t> golden = {7, 10};
input.resize(ELEMENTS, 0);
golden.resize(ELEMENTS, 0);
std::vector<int64_t> output(ELEMENTS, -1);
aclInit(nullptr);
aclrtSetDevice(0);
int64_t* output_device = nullptr;
aclrtMalloc(reinterpret_cast<void**>(&output_device), (ELEMENTS) * sizeof(int64_t),
ACL_MEM_MALLOC_HUGE_FIRST);
aclrtMemcpy(output_device, input.size() * sizeof(int64_t), input.data(), input.size() * sizeof(int64_t),
ACL_MEMCPY_HOST_TO_DEVICE);
asc_atomic_sub_kernel<<<1, 0>>>(output_device);
aclrtSynchronizeDevice();
aclrtMemcpy(output.data(), output.size() * sizeof(int64_t), output_device, output.size() * sizeof(int64_t),
ACL_MEMCPY_DEVICE_TO_HOST);
print_data("Input", input);
print_data("Output", output);
print_data("Golden", golden);
const bool passed = compare_data(output, golden);
std::cout << (passed ? "[Success] asc_atomic_sub passed." : "[Failed] asc_atomic_sub failed.") << std::endl;
aclrtFree(output_device);
aclrtResetDevice(0);
aclFinalize();
return passed ? 0 : 1;
}