asc_store_dev
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:不支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:不支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品AI Core:不支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:不支持
功能说明
头文件路径为:"c_api/scalar_compute/scalar_store.h"。
不经过DCache向GM地址上写数据。 当多核操作GM地址时,如果数据无法对齐到Cache Line,经过DCache的方式下,由于按照Cache Line大小进行读写,会导致多核数据随机覆盖的问题。此时,可以采用不经过DCache直接读写GM地址的方式,从而避免上述随机覆盖的问题。
函数原型
C
__aicore__ inline void asc_store_dev(__gm__ <dtype>* addr,
<dtype> value)
dtype支持数据类型
dtype取值为:int8_t、uint8_t、int16_t、uint16_t、int32_t、uint32_t、int64_t、uint64_t。
函数原型典型示例
C
// 示例:写入32bit无符号整数
__aicore__ inline void asc_store_dev(__gm__ uint32_t* addr,
uint32_t value)
参数说明
表1 参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| addr | 输出 | 目标GM地址。 |
| value | 输入 | 待写入目标的数据。 |
返回值说明
无
约束说明
addr起始地址须按写入dtype字节数对齐。addr须落在GM可访问地址空间内。- 本接口运行在标量流水上,与后续依赖该写入结果的指令之间存在标量数据依赖;如后续有读取同一GM地址的指令,须通过同步指令建立依赖顺序,标量流水本身的顺序执行不保证跨指令访存可见性。
- 本接口访问GM时绕过DCache,不维护缓存一致性。若其他核或其他通路通过缓存访问同一GM地址,调用方需使用asc_dcci清理或失效对应Cache Line,并使用asc_sync_data_barrier保证相关访存操作的执行顺序和数据可见性。详情可参考Scalar原子操作与DCache一致性。
调用示例
将代码保存为example.asc后,可通过bisheng命令编译运行,其中--npu-arch参数需根据实际产品型号指定对应的NPU架构,具体产品与NPU架构的映射关系请参考__NPU_ARCH__。
以Ascend 950PR/Ascend 950DT产品(对应NPU架构为dav-3510)为例,编译运行命令如下:
Bash
bisheng example.asc -o main --npu-arch=dav-3510 && ./main
C++
#include <cstdint>
#include <iostream>
#include <vector>
#include "c_api/asc_simd.h"
#include "acl/acl.h"
namespace {
template <typename T>
void print_data(const char* label, const std::vector<T>& values)
{
std::cout << label << ":";
const size_t count = values.size() < 8 ? values.size() : 8;
for (size_t i = 0; i < count; ++i) std::cout << ' ' << +values[i];
if (values.size() > count) std::cout << " ...";
std::cout << std::endl;
}
template <typename T>
bool compare_data(const std::vector<T>& actual, const std::vector<T>& expected, double tolerance = 0.0)
{
if (actual.size() != expected.size()) return false;
for (size_t i = 0; i < actual.size(); ++i) {
if (actual[i] == expected[i]) continue;
const double diff = static_cast<double>(actual[i]) - static_cast<double>(expected[i]);
if (diff > tolerance || diff < -tolerance) return false;
}
return true;
}
constexpr uint32_t ELEMENTS = 8;
__global__ __vector__ void asc_store_dev_kernel(__gm__ int64_t* output)
{
asc_init();
asc_sync_data_barrier(mem_dsb_t::DSB_ALL);
asc_store_dev(output, static_cast<int64_t>(42));
asc_sync();
}
} // namespace
int main()
{
std::vector<int64_t> input = {0};
std::vector<int64_t> golden = {42};
input.resize(ELEMENTS, 0);
golden.resize(ELEMENTS, 0);
std::vector<int64_t> output(ELEMENTS, -1);
aclInit(nullptr);
aclrtSetDevice(0);
int64_t* output_device = nullptr;
aclrtMalloc(reinterpret_cast<void**>(&output_device), (ELEMENTS) * sizeof(int64_t),
ACL_MEM_MALLOC_HUGE_FIRST);
aclrtMemcpy(output_device, input.size() * sizeof(int64_t), input.data(), input.size() * sizeof(int64_t),
ACL_MEMCPY_HOST_TO_DEVICE);
asc_store_dev_kernel<<<1, 0>>>(output_device);
aclrtSynchronizeDevice();
aclrtMemcpy(output.data(), output.size() * sizeof(int64_t), output_device, output.size() * sizeof(int64_t),
ACL_MEMCPY_DEVICE_TO_HOST);
print_data("Input", input);
print_data("Output", output);
print_data("Golden", golden);
const bool passed = compare_data(output, golden);
std::cout << (passed ? "[Success] asc_store_dev passed." : "[Failed] asc_store_dev failed.") << std::endl;
aclrtFree(output_device);
aclrtResetDevice(0);
aclFinalize();
return passed ? 0 : 1;
}