asc_get_sub_block_num
产品支持情况
- Ascend 950PR&950DT系列产品:支持
- Atlas A3系列产品:支持
- Atlas A2系列产品:支持
- Atlas 200I/500 A2推理产品:不支持
- Atlas推理系列产品AI Core:不支持
- Atlas推理系列产品Vector Core:不支持
- Atlas训练系列产品:不支持
功能说明
头文件路径为:"c_api/utils/sys_var.h"。
在分离模式下读取当前AI Core上Cube Core(AIC)或Vector Core(AIV)的数量。该值在核函数(Kernel)启动前配置,运行中不可修改。
函数原型
C
__aicore__ inline int64_t asc_get_sub_block_num()
参数说明
无
返回值说明
不同核函数(Kernel)类型下,在AIC和AIV上调用该接口的返回值如下:
表1 不同核函数(Kernel)类型下的返回值
| 核函数(Kernel)类型 | KERNEL_TYPE_AIV_ONLY | KERNEL_TYPE_AIC_ONLY | KERNEL_TYPE_MIX_AIC_1_2 | KERNEL_TYPE_MIX_AIC_1_1 | KERNEL_TYPE_MIX_AIC_1_0 | KERNEL_TYPE_MIX_AIV_1_0 |
|---|---|---|---|---|---|---|
| AIV | 1 | - | 2 | 1 | - | 1 |
| AIC | - | 1 | 1 | 1 | 1 | - |
流水类型
PIPE_S
约束说明
- 本接口读取的subblock维度保存在只读特殊寄存器中,由系统控制器(System Controller,SC)在核函数(Kernel)启动前配置,核函数(Kernel)运行期间不可修改,连续两次调用返回值相同。
- 返回值反映当前AI Core的subblock数量,仅在分离模式下有意义。非分离模式下返回值的语义以SC配置为准。
调用示例
将代码保存为example.asc后,可通过bisheng命令编译运行,其中--npu-arch参数需根据实际产品型号指定对应的NPU架构,具体产品与NPU架构的映射关系请参考__NPU_ARCH__。
以Ascend 950PR&950DT系列产品(对应NPU架构为dav-3510)为例,编译运行命令如下:
Bash
bisheng example.asc -o main --npu-arch=dav-3510 && ./main
C++
#include <cstdint>
#include <iomanip>
#include <iostream>
#include <vector>
#include "c_api/asc_simd.h"
#include "acl/acl.h"
namespace {
constexpr uint32_t ELEMENTS = 16;
constexpr uint32_t BYTES = ELEMENTS * sizeof(uint64_t);
void print_data(const char* label, const std::vector<uint64_t>& data)
{
std::cout << label << ":";
for (uint32_t i = 0; i < 8; ++i) std::cout << ' ' << data[i];
std::cout << " ..." << std::endl;
}
void print_hex(const char* label, const std::vector<uint64_t>& data)
{
std::cout << label << ":" << std::hex;
for (uint32_t i = 0; i < 4; ++i) std::cout << " 0x" << data[i];
std::cout << std::dec << std::endl;
}
__global__ __vector__ void asc_get_sub_block_num_kernel(__gm__ uint64_t* output)
{
asc_init();
const uint64_t sub_id = static_cast<uint64_t>(asc_get_sub_block_id());
const uint64_t sub_num = static_cast<uint64_t>(asc_get_sub_block_num());
output[0] = sub_num;
output[1] = sub_id;
output[2] = sub_num;
asc_dcci_single(output);
}
} // namespace
int main()
{
std::vector<uint64_t> output(ELEMENTS, ~0ULL);
aclInit(nullptr);
aclrtSetDevice(0);
uint64_t* output_device = nullptr;
aclrtMalloc(reinterpret_cast<void**>(&output_device), BYTES, ACL_MEM_MALLOC_HUGE_FIRST);
aclrtMemcpy(output_device, BYTES, output.data(), BYTES, ACL_MEMCPY_HOST_TO_DEVICE);
asc_get_sub_block_num_kernel<<<1, 0>>>(output_device);
aclrtSynchronizeDevice();
aclrtMemcpy(output.data(), BYTES, output_device, BYTES, ACL_MEMCPY_DEVICE_TO_HOST);
print_data("Observed", output);
print_hex("Observed hex", output);
const bool passed = output[2] > 0 && output[1] < output[2];
std::cout << (passed ? "[Success] asc_get_sub_block_num passed." : "[Failed] asc_get_sub_block_num failed.") << std::endl;
aclrtFree(output_device);
aclrtResetDevice(0);
aclFinalize();
return passed ? 0 : 1;
}