Skip to content

CreateVecIndex

产品支持情况

  • Ascend 950PR/Ascend 950DT:支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
  • Atlas 200I/500 A2 推理产品:支持
  • Atlas 推理系列产品 AI Core:支持
  • Atlas 推理系列产品 Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

头文件路径为:"basic_api/kernel_operator_vec_createvecindex_intf.h"

CreateVecIndex接口创建指定起始值的向量索引。

接口支持使用前n个数据计算和高维切分计算的方式,前n个数据计算原理和参考伪代码如下:

Python
import numpy as np

def CreateVecIndex(dst, firstValue, count):
    dst = np.arange(firstValue, firstValue + count, dtype=np.float16)

函数原型

  • tensor前n个数据计算

    C++
    template <typename T> 
    __aicore__ inline void CreateVecIndex(LocalTensor<T> dst, const T &firstValue, uint32_t count)
    
  • tensor高维切分计算

    • mask逐bit模式

      C++
      template <typename T> 
      __aicore__ inline void CreateVecIndex(LocalTensor<T> &dst, const T &firstValue, uint64_t mask[], uint8_t repeatTime, uint16_t dstBlkStride, uint8_t dstRepStride)
      
    • mask连续模式

      C++
      template <typename T> 
      __aicore__ inline void CreateVecIndex(LocalTensor<T> &dst, const T &firstValue, uint64_t mask, uint8_t repeatTime, uint16_t dstBlkStride, uint8_t dstRepStride)
      

参数说明

表1 模板参数说明

参数名称描述
T操作数数据类型。

表2 接口参数说明

参数说明输入/输出含义
dst输出目的操作数,类型为LocalTensor,支持的TPosition为VECIN/VECCALC/VECOUT。LocalTensor的起始地址需要按照32字节对齐。
firstValue输入索引的第一个数值,数据类型需与dst中元素的数据类型保持一致。
count输入参与计算的元素个数。关于该参数的具体说明请参考连续计算
mask/mask[]输入mask用于控制每次迭代内参与计算的元素。
设置详见掩码操作
repeatTime输入指令迭代次数,每次迭代完成8个DataBlock的数据收集,取值范围:repeatTime∈[0,255]。
dstBlkStride输入单次迭代内,矢量目的操作数不同DataBlock间地址步长,单位为DataBlock。
dstRepStride输入相邻迭代间,矢量目的操作数相同DataBlock地址步长,单位为DataBlock。

数据类型

  • 针对Ascend 950PR/Ascend 950DT,T支持的数据类型为:int8_t、int16_t、half、int32_t、float、int64_t。其中,int8_t/int64_t数据类型仅支持tensor前n个数据计算接口。
  • 针对Atlas A3 训练系列产品/Atlas A3 推理系列产品,T支持的数据类型为:int16_t、half、int32_t、float。
  • 针对Atlas A2 训练系列产品/Atlas A2 推理系列产品,T支持的数据类型为:int16_t、half、int32_t、float。
  • 针对Atlas 200I/500 A2 推理产品,T支持的数据类型为:int16_t、half、int32_t、float。

返回值说明

约束说明

  • 操作数地址对齐要求请参见通用地址对齐约束
  • firstValue需保证不超出dst中元素数据类型对应的大小范围。
  • 当参数count或repeatTime取值为0时,该接口的行为如下:
    • 针对如下型号,该接口不会执行计算操作,不会对目的操作数进行写入,该接口将被视为NOP(空操作)。
      • Atlas A3 训练系列产品/Atlas A3 推理系列产品
      • Atlas A2 训练系列产品/Atlas A2 推理系列产品
    • 针对Ascend 950PR/Ascend 950DT,该接口通过VF调用Reg矢量计算API实现兼容,当参数count或repeatTime取值为0时,不保证该接口将被视为NOP(空操作)。

调用示例

本调用示例中只展示完整样例中的接口部分代码。如果您需要运行示例代码,请直接参考完整样例CreateVecIndex样例进行编译执行。

  • tensor高维切分计算样例-mask连续模式

    C++
    // repeatTime = 1, mask = 128, 128 elements one repeat, 128 elements total
    // firstValue数据类型为int16_t,dstLocal数据类型为int16_t
    // dstBlkStride = 1,单次迭代内数据连续写入
    // dstRepStride = 8,相邻迭代内数据连续写入
    AscendC::CreateVecIndex(dstLocal, (int16_t)0, mask, repeatTime, dstBlkStride, dstRepStride);
    
  • tensor高维切分计算样例-mask逐bit模式

    C++
    uint64_t mask[2] = { UINT64_MAX, UINT64_MAX };
    // repeatTime = 1, 128 elements one repeat, 128 elements total
    // firstValue数据类型为int16_t,dstLocal数据类型为int16_t
    // dstBlkStride = 1,单次迭代内数据连续写入
    // dstRepStride = 8,相邻迭代内数据连续写入
    AscendC::CreateVecIndex(dstLocal, (int16_t)0, mask, repeatTime, dstBlkStride, dstRepStride);
    
  • tensor前n个数据计算样例

    C++
    uint32_t count = 128;    // 参与计算的元素个数
    AscendC::CreateVecIndex(dstLocal, (int16_t)0, count);
    

结果示例如下:

输入数据(firstValue):0 
输出数据(dstLocal):[0 1 2 ... 127]

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区