Skip to content

搜索

Main Navigation 首页 AscendC算子开发指南 Ascend C API

Appearance

版本

Sidebar Navigation

1. Ascend C API列表

2. SIMD API

2.1. SIMD API列表

2.2. 通用说明和约束

2.3. 基础API

2.3.1. 数据结构

2.3.1.1. 内置数据类型

2.3.1.2. 精度转换

2.3.1.3. LocalTensor和GlobalTensor定义

2.3.1.3.1. LocalTensor

2.3.1.3.1.1. LocalTensor简介

2.3.1.3.1.2. LocalTensor构造函数

2.3.1.3.1.3. SetValue

2.3.1.3.1.4. GetValue

2.3.1.3.1.5. operator[]

2.3.1.3.1.6. operator()

2.3.1.3.1.7. SetSize

2.3.1.3.1.8. GetSize

2.3.1.3.1.9. SetUserTag

2.3.1.3.1.10. GetUserTag

2.3.1.3.1.11. ReinterpretCast

2.3.1.3.1.12. GetPhyAddr

2.3.1.3.1.13. GetPosition

2.3.1.3.1.14. GetLength

2.3.1.3.1.15. SetShapeInfo

2.3.1.3.1.16. GetShapeInfo

2.3.1.3.1.17. SetAddrWithOffset

2.3.1.3.1.18. SetBufferLen

2.3.1.3.1.19. ToFile

2.3.1.3.1.20. Print

2.3.1.3.2. GlobalTensor

2.3.1.3.2.1. GlobalTensor简介

2.3.1.3.2.2. GlobalTensor构造函数

2.3.1.3.2.3. SetGlobalBuffer

2.3.1.3.2.4. GetPhyAddr

2.3.1.3.2.5. GetValue

2.3.1.3.2.6. operator()

2.3.1.3.2.7. SetValue

2.3.1.3.2.8. GetSize

2.3.1.3.2.9. operator[]

2.3.1.3.2.10. SetShapeInfo

2.3.1.3.2.11. GetShapeInfo

2.3.1.3.2.12. SetL2CacheHint

2.3.1.3.2.13. ReinterpretCast

2.3.1.4. Tensor API基础数据结构

2.3.1.4.1. Layout数据结构

2.3.1.4.1.1. Capacity

2.3.1.4.1.2. Coord

2.3.1.4.1.3. Coshape

2.3.1.4.1.4. Cosize

2.3.1.4.1.5. Get

2.3.1.4.1.6. GetShape

2.3.1.4.1.7. GetStride

2.3.1.4.1.8. Layout

2.3.1.4.1.9. Layout和层次化表述法

2.3.1.4.1.10. MakeCoord

2.3.1.4.1.11. MakeFrameLayout

2.3.1.4.1.12. MakeLayout

2.3.1.4.1.13. MakePatternLayout

2.3.1.4.1.14. MakeShape

2.3.1.4.1.15. MakeStride

2.3.1.4.1.16. Rank

2.3.1.4.1.17. Select

2.3.1.4.1.18. Shape

2.3.1.4.1.19. Size

2.3.1.4.1.20. Stride

2.3.1.4.2. Tensor数据结构

2.3.1.4.2.1. MakeMemPtr

2.3.1.4.2.2. MakeTensor

2.3.1.4.2.3. Pointer

2.3.1.4.2.4. Slice

2.3.1.4.2.5. Tensor

2.3.1.4.2.6. ViewEngine

2.3.1.4.3. 工具函数

2.3.1.4.3.1. GetLayoutPattern

2.3.1.4.3.2. GetLayoutTrait

2.3.1.4.3.3. IsAttrTensorV

2.3.1.4.3.4. IsHardwareV

2.3.1.4.3.5. IsIntegralConstantV

2.3.1.4.3.6. IsLayoutV

2.3.1.5. 辅助数据结构

2.3.1.5.1. Coordinate

2.3.1.5.1.1. Coordinate简介

2.3.1.5.1.2. MakeCoord

2.3.1.5.1.3. Crd2Idx

2.3.1.5.2. Layout

2.3.1.5.2.1. Layout简介

2.3.1.5.2.2. Layout构造函数

2.3.1.5.2.3. layout

2.3.1.5.2.4. 运算符重载

2.3.1.5.2.5. GetShape

2.3.1.5.2.6. GetStride

2.3.1.5.2.7. MakeShape

2.3.1.5.2.8. MakeStride

2.3.1.5.2.9. MakeLayout

2.3.1.5.2.10. is_layout

2.3.1.5.3. TensorTrait

2.3.1.5.3.1. TensorTrait简介

2.3.1.5.3.2. TensorTrait构造函数

2.3.1.5.3.3. GetLayout

2.3.1.5.3.4. SetLayout

2.3.1.5.3.5. MakeTensorTrait

2.3.1.5.3.6. is_tensorTrait

2.3.1.5.3.7. 更多样例

2.3.1.5.4. ShapeInfo

2.3.1.5.5. ListTensorDesc

2.3.1.5.6. TensorDesc

2.3.1.5.6.1. TensorDesc简介

2.3.1.5.6.2. 构造和析构函数

2.3.1.5.6.3. SetShapeAddr

2.3.1.5.6.4. GetDim

2.3.1.5.6.5. GetIndex

2.3.1.5.6.6. GetShape

2.3.1.5.6.7. GetDataPtr

2.3.1.5.6.8. GetDataObj

2.3.1.5.7. UnaryRepeatParams

2.3.1.5.8. BinaryRepeatParams

2.3.1.5.9. complex32/complex64

2.3.1.5.10. TPosition

2.3.2. 数据搬运导览

2.3.2.1. 概览

2.3.2.1.1. 数据搬运概念

2.3.2.1.2. 数据通路

2.3.2.1.3. 总体约束说明

2.3.2.2. GM与UB数据搬运

2.3.2.3. GM与L1或L0数据搬运

2.3.2.4. L1与L0数据搬运

2.3.2.5. L1或L0C与UB数据搬运

2.3.2.6. UB与UB数据搬运

2.3.2.7. L1与Fixpipe-Buffer数据搬运

2.3.2.8. L1与BiasTable-Buffer数据搬运

2.3.3. 矩阵计算（ISASI）

2.3.3.1. 概述

2.3.3.1.1. 矩阵计算单元

2.3.3.1.2. 矩阵计算流程

2.3.3.2. 矩阵计算分形介绍

2.3.3.2.1. 背景与核心概念

2.3.3.2.2. 关键分形格式详解

2.3.3.2.3. 辅助矩阵分形格式详解

2.3.3.3. 矩阵计算的搬入

2.3.3.3.1. 总体说明

2.3.3.3.2. 矩阵计算输入搬运约束

2.3.3.3.3. L1 Buffer/L0A Buffer/L0B Buffer内存结构介绍

2.3.3.3.4. 矩阵数据搬入至L0-Buffer

2.3.3.3.4.1. Load2D

2.3.3.3.4.2. Load2DV2

2.3.3.3.4.3. Load2DMX

2.3.3.3.4.4. Load2DBitMode

2.3.3.3.4.5. Load3D

2.3.3.3.4.6. Load3DBitMode

2.3.3.3.4.7. LoadDataWithTranspose

2.3.3.3.4.8. LoadDataWithSparse

2.3.3.3.4.9. BroadCastVecToMM(ISASI)

2.3.3.3.4.10. L1ToBiasTable-Buffer数据搬运（DataCopy）

2.3.3.3.4.11. L1ToFixpipe-Buffer数据搬运（DataCopy）

2.3.3.3.5. 矩阵数据搬入至L1-Buffer

2.3.3.3.5.1. GMToL1-Load2D指令搬运

2.3.3.3.5.2. GMToL1-Load2DV2指令搬运

2.3.3.3.5.3. GMToL1连续数据搬运（DataCopy）

2.3.3.3.5.4. GMToL1高维切分数据搬运（DataCopy）

2.3.3.3.5.5. GMToL1非对齐数据搬运（DataCopyPad）

2.3.3.3.5.6. GMToL1随路转换-DN2NZ搬运（DataCopy）

2.3.3.3.5.7. GMToL1随路转换-ND2NZ搬运（DataCopy）

2.3.3.3.5.8. UBToL1连续数据搬运（DataCopy）

2.3.3.3.5.9. UBToL1高维切分数据搬运（DataCopy）

2.3.3.3.5.10. UBToL1非对齐数据搬运（DataCopyPad）

2.3.3.3.5.11. UBToL1随路转换-ND2NZ搬运（DataCopy）

2.3.3.3.6. 辅助配置接口

2.3.3.3.6.1. Fill

2.3.3.3.6.2. SetFmatrix

2.3.3.3.6.3. SetFmatrixBitMode

2.3.3.3.6.4. SetLoadDataBoundary

2.3.3.3.6.5. SetLoadDataRepeat

2.3.3.3.6.6. SetLoadDataPaddingValue

2.3.3.3.6.7. LoadDataUnzip

2.3.3.3.6.8. LoadImageToLocal

2.3.3.3.6.9. LoadUnzipIndex

2.3.3.3.6.10. SetAippFunctions

2.3.3.4. Mmad计算

2.3.3.4.1. Mmad

2.3.3.4.2. MmadMx

2.3.3.4.3. MmadBitMode

2.3.3.4.4. MmadWithSparse

2.3.3.4.5. 关键特性说明

2.3.3.4.5.1. GEMV

2.3.3.4.5.2. HF32

2.3.3.4.5.3. UnitFlag

2.3.3.4.5.4. K方向对齐约束

2.3.3.4.6. 寄存器配置说明

2.3.3.4.6.1. SetMMColumnMajor/SetMMRowMajor

2.3.3.4.6.2. SetHF32Mode

2.3.3.4.6.3. SetHF32TransMode

2.3.3.4.7. Conv2D（废弃）

2.3.3.4.8. Gemm（废弃）

2.3.3.5. 矩阵计算的搬出

2.3.3.5.1. 总体说明

2.3.3.5.2. L0C Buffer内存结构介绍

2.3.3.5.3. L0C到GM数据搬运（DataCopy）

2.3.3.5.4. L0C到GM数据搬运（Fixpipe）

2.3.3.5.5. L0C到L1数据搬运（DataCopy）

2.3.3.5.6. L0C到L1数据搬运（Fixpipe）

2.3.3.5.7. L0C到UB数据搬运（Fixpipe）

2.3.3.5.8. L0C到UB数据搬运（DataCopy）

2.3.3.5.9. L1到UB数据搬运（DataCopyL1ToUB）

2.3.3.5.10. L1到GM数据搬运

2.3.3.5.10.1. L1ToGM连续数据搬运（DataCopy）

2.3.3.5.10.2. L1ToGM高维切分数据搬运（DataCopy）

2.3.3.5.11. 关键特性说明

2.3.3.5.11.1. NZ2ND

2.3.3.5.11.2. NZ2NZ

2.3.3.5.11.3. Int8 Channel Merge

2.3.3.5.11.4. F32 Channel Split

2.3.3.5.11.5. 随路量化

2.3.3.5.11.6. 随路relu

2.3.3.5.11.7. 随路量化与随路relu场景组合

2.3.3.5.11.8. 卷积格式转换

2.3.3.5.12. 寄存器配置说明

2.3.3.5.12.1. SetFixPipeConfig

2.3.3.5.12.2. SetFixpipePreQuantFlag

2.3.3.5.12.3. SetFixpipeNz2ndFlag

2.3.3.5.12.4. SetFixPipeClipRelu

2.3.3.5.12.5. SetFixPipeAddr

2.3.4. 矩阵计算（Tensor API）

2.3.4.1. 概述

2.3.4.1.1. 矩阵计算单元

2.3.4.1.2. 矩阵计算流程

2.3.4.2. 矩阵计算分形介绍

2.3.4.2.1. 背景与核心概念

2.3.4.2.2. 关键分形格式详解

2.3.4.2.3. 辅助矩阵分形格式详解

2.3.4.3. 矩阵计算的搬入

2.3.4.3.1. 总体说明

2.3.4.3.2. L1 Buffer/L0A Buffer/L0B Buffer内存结构介绍

2.3.4.3.3. 矩阵数据搬入至L1 Buffer

2.3.4.3.3.1. Global Memory到L1 Buffer数据搬运（Copy）

2.3.4.3.4. 矩阵数据搬入至L0 Buffer)

2.3.4.3.4.1. L1 Buffer到L0A Buffer数据搬运（Copy）

2.3.4.3.4.2. L1 Buffer到L0B Buffer数据搬运（Copy）

2.3.4.3.4.3. L1 Buffer到L0ScaleA Buffer数据搬运（Copy）

2.3.4.3.4.4. L1 Buffer到L0ScaleB Buffer数据搬运（Copy）

2.3.4.3.4.5. L1 Buffer到BiasTable Buffer数据搬运（Copy）

2.3.4.3.4.6. L1 Buffer到Fixpipe Buffer数据搬运（Copy）

2.3.4.4. Mmad计算

2.3.4.4.1. Mmad

2.3.4.4.2. 关键特性说明

2.3.4.4.2.1. GEMV

2.3.4.4.2.2. HF32

2.3.4.4.2.3. UnitFlag

2.3.4.4.3. 寄存器配置说明

2.3.4.4.3.1. SetMMColumnMajor/SetMMRowMajor

2.3.4.4.3.2. SetHF32Mode

2.3.4.4.3.3. SetHF32TransMode

2.3.4.5. 矩阵计算的搬出

2.3.4.5.1. 总体说明

2.3.4.5.2. L0C Buffer到Global Memory数据搬运（Copy）

2.3.4.5.3. L0C Buffer到Unified Buffer数据搬运（Copy）

2.3.4.5.4. 关键特性说明

2.3.4.5.4.1. F32 Channel Split

2.3.4.5.4.2. Int8 Channel Merge

2.3.4.5.4.3. L0C Buffer到Unified Buffer双目标模式

2.3.4.5.4.4. 随路量化

2.3.4.5.4.5. 随路Relu

2.3.5. Memory矢量计算

2.3.5.1. Vector逻辑架构

2.3.5.2. SIMD计算说明

2.3.5.2.1. 概述

2.3.5.2.2. 连续计算

2.3.5.2.3. 高维切分

2.3.5.2.4. 掩码

2.3.5.2.4.1. 概述

2.3.5.2.4.2. 通用说明

2.3.5.2.4.3. 接口内设置Mask

2.3.5.2.4.4. 接口外设置Mask

2.3.5.3. 数据搬运

2.3.5.3.1. GM与UB数据搬运

2.3.5.3.1.1. GM与UB连续数据搬运(DataCopy)

2.3.5.3.1.2. GM与UB高维切分数据搬运(DataCopy)

2.3.5.3.1.3. GM与UB切片数据搬运(DataCopy)

2.3.5.3.1.4. GM -> UB随路转换ND2NZ搬运(DataCopy)

2.3.5.3.1.5. UB -> GM随路转换NZ2ND搬运(DataCopy)

2.3.5.3.1.6. GM -> UB多维数据搬运NDDMA(DataCopy)

2.3.5.3.1.7. GM -> UB非对齐数据搬运(DataCopyPad)

2.3.5.3.1.8. UB -> GM非对齐数据搬运(DataCopyPad)

2.3.5.3.1.9. 寄存器配置说明

2.3.5.3.2. UB与UB数据搬运

2.3.5.3.2.1. UB -> UB连续数据搬运(DataCopy)

2.3.5.3.2.2. UB -> UB高维切分数据搬运(DataCopy)

2.3.5.3.2.3. UB -> UB连续数据搬运(Copy)

2.3.5.3.2.4. UB -> UB掩码式高维数据搬运(Copy)

2.3.5.4. 基础算术

2.3.5.4.1. Exp

2.3.5.4.2. Ln

2.3.5.4.3. Abs

2.3.5.4.4. Reciprocal

2.3.5.4.5. Sqrt

2.3.5.4.6. Rsqrt

2.3.5.4.7. Relu

2.3.5.4.8. Neg(ISASI)

2.3.5.4.9. Add

2.3.5.4.10. Sub

2.3.5.4.11. Mul

2.3.5.4.12. Div

2.3.5.4.13. Max

2.3.5.4.14. Min

2.3.5.4.15. BilinearInterpolation(ISASI)

2.3.5.4.16. Prelu(ISASI)

2.3.5.4.17. Mull(ISASI)

2.3.5.4.18. Adds

2.3.5.4.19. Adds（灵活标量位置）

2.3.5.4.20. Muls

2.3.5.4.21. Muls（灵活标量位置）

2.3.5.4.22. Maxs

2.3.5.4.23. Maxs（灵活标量位置）

2.3.5.4.24. Mins

2.3.5.4.25. Mins（灵活标量位置）

2.3.5.4.26. Subs

2.3.5.4.27. Divs

2.3.5.4.28. LeakyRelu

2.3.5.4.29. 更多样例

2.3.5.5. 逻辑计算

2.3.5.5.1. Not

2.3.5.5.2. And

2.3.5.5.3. Or

2.3.5.5.4. Ands

2.3.5.5.5. Ors

2.3.5.5.6. ShiftLeft

2.3.5.5.7. ShiftLeft（左移位数为Tensor）

2.3.5.5.8. ShiftRight

2.3.5.5.9. ShiftRight（右移位数为Tensor）

2.3.5.6. 复合计算

2.3.5.6.1. Axpy

2.3.5.6.2. CastDequant

2.3.5.6.3. AddRelu

2.3.5.6.4. AddReluCast

2.3.5.6.5. AddDeqRelu

2.3.5.6.6. SubRelu

2.3.5.6.7. SubReluCast

2.3.5.6.8. MulAddDst

2.3.5.6.9. MulCast

2.3.5.6.10. FusedMulAdd

2.3.5.6.11. MulAddRelu

2.3.5.6.12. AbsSub(ISASI)

2.3.5.6.13. ExpSub(ISASI)

2.3.5.6.14. MulsCast(ISASI)

2.3.5.7. 比较与选择

2.3.5.7.1. 概述

2.3.5.7.2. Compare

2.3.5.7.3. Compare（结果存入寄存器）

2.3.5.7.4. Compares

2.3.5.7.5. Compares（灵活标量位置）

2.3.5.7.6. GetCmpMask(ISASI)

2.3.5.7.7. SetCmpMask(ISASI)

2.3.5.7.8. Select

2.3.5.7.9. Select（灵活标量位置）

2.3.5.7.10. GatherMask

2.3.5.8. 类型转换

2.3.5.8.1. 寄存器配置说明

2.3.5.8.1.1. SetDeqScale

2.3.5.8.2. Cast

2.3.5.8.3. Truncate(ISASI)

2.3.5.9. 归约计算

2.3.5.9.1. 概述

2.3.5.9.2. ReduceDataBlock

2.3.5.9.3. ReduceRepeat

2.3.5.9.4. ReducePairElem

2.3.5.9.5. ReduceMax

2.3.5.9.6. ReduceMin

2.3.5.9.7. ReduceSum

2.3.5.9.8. 寄存器辅助接口

2.3.5.9.8.1. GetReduceRepeatSumSpr(ISASI)

2.3.5.9.8.2. GetReduceRepeatMaxMinSpr(ISASI)

2.3.5.10. 数据排布转换

2.3.5.10.1. Transpose

2.3.5.10.2. TransDataTo5HD

2.3.5.11. 数据填充

2.3.5.11.1. Duplicate

2.3.5.11.2. Brcb

2.3.5.11.3. CreateVecIndex

2.3.5.11.4. VectorPadding(ISASI)

2.3.5.12. 排序组合（ISASI）

2.3.5.12.1. ProposalConcat

2.3.5.12.2. ProposalExtract

2.3.5.12.3. RpSort16

2.3.5.12.4. MrgSort4

2.3.5.12.5. Sort32

2.3.5.12.6. MrgSort

2.3.5.12.7. GetMrgSortResult

2.3.5.13. 离散与聚合

2.3.5.13.1. Gather

2.3.5.13.2. Gatherb(ISASI)

2.3.5.13.3. Scatter(ISASI)

2.3.5.14. 掩码操作

2.3.5.14.1. SetMaskCount

2.3.5.14.2. SetMaskNorm

2.3.5.14.3. SetVectorMask

2.3.5.14.4. ResetMask

2.3.5.15. 数据重排（ISASI）

2.3.5.15.1. Interleave

2.3.5.15.2. DeInterleave

2.3.6. Reg矢量计算

2.3.6.1. 寄存器数据类型

2.3.6.1.1. RegTensor

2.3.6.1.2. MaskReg

2.3.6.1.3. UnalignRegForLoad & UnalignRegForStore

2.3.6.1.4. AddrReg

2.3.6.2. asc_vf_call

2.3.6.3. Reg数据搬运

2.3.6.3.1. 连续对齐搬入

2.3.6.3.2. 连续对齐搬出

2.3.6.3.3. 非连续对齐搬入

2.3.6.3.4. 非连续对齐搬出

2.3.6.3.5. 连续非对齐搬入

2.3.6.3.6. 连续非对齐搬出

2.3.6.3.7. MaskReg搬入

2.3.6.3.8. MaskReg搬出

2.3.6.3.9. Move

2.3.6.4. MaskReg计算

2.3.6.4.1. 概述

2.3.6.4.2. Move

2.3.6.4.3. Interleave

2.3.6.4.4. DeInterleave

2.3.6.4.5. Select

2.3.6.4.6. Pack

2.3.6.4.7. UnPack

2.3.6.4.8. MoveMask

2.3.6.5. 基础算术

2.3.6.5.1. 概述

2.3.6.5.2. Abs

2.3.6.5.3. Relu

2.3.6.5.4. Exp

2.3.6.5.5. Sqrt

2.3.6.5.6. Ln

2.3.6.5.7. Log

2.3.6.5.8. Log2

2.3.6.5.9. Log10

2.3.6.5.10. Neg

2.3.6.5.11. Add

2.3.6.5.12. Sub

2.3.6.5.13. Mul

2.3.6.5.14. Div

2.3.6.5.15. Max

2.3.6.5.16. Min

2.3.6.5.17. Mull

2.3.6.5.18. AddC

2.3.6.5.19. SubC

2.3.6.5.20. Prelu

2.3.6.5.21. Adds

2.3.6.5.22. Muls

2.3.6.5.23. Maxs

2.3.6.5.24. Mins

2.3.6.5.25. LeakyRelu

2.3.6.6. 逻辑计算

2.3.6.6.1. Not

2.3.6.6.2. And

2.3.6.6.3. Or

2.3.6.6.4. Xor

2.3.6.6.5. ShiftLeft

2.3.6.6.6. ShiftRight

2.3.6.6.7. ShiftLefts

2.3.6.6.8. ShiftRights

2.3.6.7. 复合计算

2.3.6.7.1. Axpy

2.3.6.7.2. AbsSub

2.3.6.7.3. ExpSub

2.3.6.7.4. MulDstAdd

2.3.6.7.5. MulAddDst

2.3.6.7.6. MulsCast

2.3.6.8. 比较与选择

2.3.6.8.1. Compare

2.3.6.8.2. Compares

2.3.6.8.3. Select

2.3.6.8.4. Squeeze

2.3.6.9. 类型转换

2.3.6.9.1. Cast

2.3.6.9.2. Truncate

2.3.6.10. 归约计算

2.3.6.10.1. Reduce

2.3.6.10.2. ReduceDataBlock

2.3.6.10.3. PairReduceElem

2.3.6.11. 数据填充

2.3.6.11.1. Duplicate

2.3.6.12. 离散操作

2.3.6.12.1. Gather

2.3.6.13. 数据重排

2.3.6.13.1. Interleave

2.3.6.13.2. DeInterleave

2.3.6.14. 数据压缩

2.3.6.14.1. Unsqueeze

2.3.6.14.2. Pack

2.3.6.14.3. UnPack

2.3.6.15. 直方图计算

2.3.6.15.1. Histograms

2.3.6.16. 索引操作

2.3.6.16.1. Arange

2.3.6.17. 同步控制

2.3.6.17.1. LocalMemBar

2.3.6.18. 系统变量访问

2.3.6.18.1. GetSpr

2.3.6.18.2. ClearSpr

2.3.6.19. 数据类型

2.3.6.19.1. PostLiteral

2.3.6.19.2. RegLayout

2.3.6.19.3. CastTrait

2.3.6.19.4. SatMode

2.3.6.19.5. MaskMergeMode

2.3.6.19.6. RoundMode

2.3.7. 标量计算

2.3.7.1. GetBitCount

2.3.7.2. CountLeadingZero

2.3.7.3. CountBitsCntSameAsSignBit

2.3.7.4. GetSFFValue

2.3.7.5. Cast（float转half/int32_t）

2.3.7.6. Cast（float转bfloat16_t）

2.3.7.7. Cast（多类型转float）

2.3.7.8. Nop

2.3.7.9. WriteGmByPassDCache(ISASI)

2.3.7.10. ReadGmByPassDCache(ISASI)

2.3.8. 资源管理

2.3.8.1. Pipe和Que框架

2.3.8.1.1. TPipe

2.3.8.1.1.1. TPipe简介

2.3.8.1.1.2. TPipe构造函数

2.3.8.1.1.3. Init

2.3.8.1.1.4. Destroy

2.3.8.1.1.5. DestroyWithoutPipeAll

2.3.8.1.1.6. InitBuffer

2.3.8.1.1.7. Reset

2.3.8.1.1.8. AllocEventID

2.3.8.1.1.9. ReleaseEventID

2.3.8.1.1.10. FetchEventID

2.3.8.1.1.11. GetBaseAddr

2.3.8.1.1.12. InitBufPool

2.3.8.1.1.13. InitSpmBuffer

2.3.8.1.1.14. WriteSpmBuffer

2.3.8.1.1.15. ReadSpmBuffer

2.3.8.1.2. GetTPipePtr

2.3.8.1.3. TBufPool

2.3.8.1.3.1. TBufPool简介

2.3.8.1.3.2. TBufPool构造函数

2.3.8.1.3.3. InitBufPool

2.3.8.1.3.4. InitBuffer

2.3.8.1.3.5. Reset

2.3.8.1.4. 自定义TBufPool

2.3.8.1.4.1. EXTERN_IMPL_BUFPOOL宏

2.3.8.1.4.2. Reset

2.3.8.1.4.3. Init

2.3.8.1.4.4. GetBufHandle

2.3.8.1.4.5. SetCurAddr

2.3.8.1.4.6. GetCurAddr

2.3.8.1.4.7. SetCurBufSize

2.3.8.1.4.8. GetCurBufSize

2.3.8.1.5. TQue

2.3.8.1.5.1. TQue简介

2.3.8.1.5.2. AllocTensor

2.3.8.1.5.3. FreeTensor

2.3.8.1.5.4. EnQue

2.3.8.1.5.5. DeQue

2.3.8.1.5.6. VacantInQue

2.3.8.1.5.7. HasTensorInQue

2.3.8.1.5.8. GetTensorCountInQue

2.3.8.1.5.9. HasIdleBuffer

2.3.8.1.6. TSCM

2.3.8.1.6.1. TSCM简介

2.3.8.1.6.2. AllocTensor

2.3.8.1.6.3. FreeTensor

2.3.8.1.6.4. EnQue

2.3.8.1.6.5. DeQue

2.3.8.1.7. TQueBind

2.3.8.1.7.1. TQueBind简介

2.3.8.1.7.2. TQueBind构造函数

2.3.8.1.7.3. AllocTensor

2.3.8.1.7.4. FreeTensor

2.3.8.1.7.5. EnQue

2.3.8.1.7.6. DeQue

2.3.8.1.7.7. VacantInQue

2.3.8.1.7.8. HasTensorInQue

2.3.8.1.7.9. GetTensorCountInQue

2.3.8.1.7.10. HasIdleBuffer

2.3.8.1.7.11. FreeAllEvent

2.3.8.1.7.12. InitBufHandle

2.3.8.1.7.13. InitStartBufHandle

2.3.8.1.8. TBuf

2.3.8.1.8.1. TBuf简介

2.3.8.1.8.2. TBuf构造函数

2.3.8.1.8.3. Get

2.3.8.1.8.4. GetWithOffset

2.3.8.2. 临时空间管理

2.3.8.2.1. workspace

2.3.8.2.1.1. GetSysWorkSpacePtr

2.3.8.2.1.2. SetSysWorkSpace

2.3.8.2.1.3. GetUserWorkspace

2.3.8.2.2. PopStackBuffer

2.3.8.3. 内存管理

2.3.8.3.1. LocalMemAllocator

2.3.8.3.1.1. LocalMemAllocator简介

2.3.8.3.1.2. LocalMemAllocator构造函数

2.3.8.3.1.3. GetCurAddr

2.3.8.3.1.4. Alloc

2.3.9. 同步控制

2.3.9.1. 系统同步能力概述

2.3.9.2. 核内同步

2.3.9.2.1. 核内同步能力概述

2.3.9.2.2. 关键特性说明

2.3.9.2.3. TQueSync

2.3.9.2.3.1. 模板参数

2.3.9.2.3.2. SetFlag/WaitFlag

2.3.9.2.4. SetFlag/WaitFlag(ISASI)

2.3.9.2.5. PipeBarrier(ISASI)

2.3.9.2.6. DataSyncBarrier(ISASI)

2.3.9.2.7. Mutex（ISASI）

2.3.9.2.7.1. 简介

2.3.9.2.7.2. Lock

2.3.9.2.7.3. Unlock

2.3.9.2.8. AllocMutexID (ISASI)

2.3.9.2.9. ReleaseMutexID (ISASI)

2.3.9.3. 核间同步

2.3.9.3.1. 核间同步能力概述

2.3.9.3.2. 关键特性说明

2.3.9.3.3. IBSet

2.3.9.3.4. IBWait

2.3.9.3.5. SyncAll

2.3.9.3.6. CrossCoreSetFlag(ISASI)

2.3.9.3.7. CrossCoreWaitFlag(ISASI)

2.3.9.3.8. InitDetermineComputeWorkspace

2.3.9.3.9. NotifyNextBlock

2.3.9.3.10. WaitPreBlock

2.3.9.4. 任务间同步

2.3.9.4.1. SetNextTaskStart

2.3.9.4.2. WaitPreTaskEnd

2.3.10. 缓存控制

2.3.10.1. 系统缓存概述

2.3.10.2. DataCachePreload

2.3.10.3. DataCacheCleanAndInvalid

2.3.10.4. ICachePreLoad(ISASI)

2.3.10.5. GetICachePreloadStatus(ISASI)

2.3.11. 原子操作

2.3.11.1. 原子操作概述

2.3.11.2. 关键特性说明

2.3.11.3. SetAtomicAdd

2.3.11.4. SetAtomicType

2.3.11.5. DisableDmaAtomic

2.3.11.6. SetAtomicMax(ISASI)

2.3.11.7. SetAtomicMin(ISASI)

2.3.11.8. SetStoreAtomicConfig(ISASI)

2.3.11.9. GetStoreAtomicConfig(ISASI)

2.3.11.10. AtomicAdd

2.3.11.11. AtomicMin

2.3.11.12. AtomicMax

2.3.11.13. AtomicCas

2.3.11.14. AtomicExch

2.3.12. 调试接口

2.3.12.1. 上板打印

2.3.12.1.1. DumpTensor

2.3.12.1.2. printf

2.3.12.1.3. DumpAccChkPoint

2.3.12.1.4. PrintTimeStamp

2.3.12.2. 异常检测

2.3.12.2.1. ascendc_assert

2.3.12.2.2. assert

2.3.12.2.3. Trap

2.3.12.2.4. CheckLocalMemoryIA(ISASI)

2.3.12.3. CPU孪生调试

2.3.12.3.1. GmAlloc

2.3.12.3.2. ICPU_RUN_KF

2.3.12.3.3. ICPU_SET_TILING_KEY

2.3.12.3.4. GmFree

2.3.12.3.5. SetKernelMode

2.3.12.4. 性能统计

2.3.12.4.1. MetricsProfStart

2.3.12.4.2. MetricsProfStop

2.3.12.4.3. MarkStamp

2.3.12.5. 关闭ASCENDC_DUMP说明

2.3.13. 工具接口

2.3.13.1. 执行模式

2.3.13.1.1. Async

2.3.13.2. 系统初始化

2.3.13.2.1. InitSocState

2.3.13.3. 数学计算

2.3.13.3.1. NumericLimits

2.3.13.3.1.1. 简介

2.3.13.3.1.2. Max

2.3.13.3.1.3. Lowest

2.3.13.3.1.4. Min

2.3.13.3.1.5. Infinity

2.3.13.3.1.6. NegativeInfinity

2.3.13.3.1.7. QuietNaN

2.3.13.3.1.8. SignalingNaN

2.3.13.3.1.9. DeNormMin

2.3.13.3.2. CeilDivision

2.3.13.4. 系统资源与变量

2.3.13.4.1. GetTaskRatio

2.3.13.4.2. GetUBSizeInBytes

2.3.13.4.3. GetRuntimeUBSize

2.3.13.4.4. GetVecLen

2.3.13.4.5. GetSsbufBaseAddr

2.3.13.4.6. GetSystemCycle(ISASI)

2.3.13.4.7. GetBlockNum

2.3.13.4.8. GetBlockIdx

2.3.13.4.9. GetDataBlockSizeInBytes

2.3.13.4.10. GetArchVersion

2.3.13.4.11. GetProgramCounter(ISASI)

2.3.13.4.12. GetSubBlockNum(ISASI)

2.3.13.4.13. GetSubBlockIdx(ISASI)

2.3.14. Cube分组管理（ISASI）

2.3.14.1. CubeResGroupHandle

2.3.14.1.1. CubeResGroupHandle使用说明

2.3.14.1.2. CubeResGroupHandle构造函数

2.3.14.1.3. CreateCubeResGroup

2.3.14.1.4. AssignQueue

2.3.14.1.5. AllocMessage

2.3.14.1.6. PostMessage

2.3.14.1.7. PostFakeMsg

2.3.14.1.8. SetQuit

2.3.14.1.9. Wait

2.3.14.1.10. FreeMessage

2.3.14.1.11. SetSkipMsg

2.3.14.2. GroupBarrier

2.3.14.2.1. GroupBarrier使用说明

2.3.14.2.2. GroupBarrier构造函数

2.3.14.2.3. Arrive

2.3.14.2.4. Wait

2.3.14.2.5. GetWorkspaceLen

2.3.14.3. KfcWorkspace

2.3.14.3.1. 构造函数与析构函数

2.3.14.3.2. UpdateKfcWorkspace

2.3.14.3.3. GetKfcWorkspace

2.3.15. Kernel Tiling

2.3.15.1. GET_TILING_DATA

2.3.15.2. GET_TILING_DATA_WITH_STRUCT

2.3.15.3. GET_TILING_DATA_MEMBER

2.3.15.4. GET_TILING_DATA_PTR_WITH_STRUCT

2.3.15.5. COPY_TILING_WITH_STRUCT

2.3.15.6. COPY_TILING_WITH_ARRAY

2.3.15.7. TILING_KEY_IS

2.3.15.8. TILING_KEY_LIST

2.3.15.9. REGISTER_TILING_DEFAULT

2.3.15.10. REGISTER_TILING_FOR_TILINGKEY

2.3.15.11. REGISTER_NONE_TILING

2.3.15.12. 设置Kernel类型

2.3.16. 特殊寄存器访问

2.3.16.1. SetCtrlSpr(ISASI)

2.3.16.2. GetCtrlSpr(ISASI)

2.3.16.3. ResetCtrlSpr(ISASI)

2.3.16.4. GetSaturationFlag(ISASI)

2.3.16.5. SetSaturationFlag(ISASI)

2.4. C API

2.4.1. API列表

2.4.2. 通用说明和约束

2.4.3. 数据结构

2.4.3.1. asc_fill_value_config

2.4.3.2. asc_l13d_fmatrix_config

2.4.3.3. asc_load3d_v2_config

2.4.3.4. asc_ndim_pad_count_config

2.4.3.5. asc_store_atomic_config

2.4.4. 矢量数据搬运

2.4.4.1. asc_copy_gm2ub

2.4.4.2. asc_copy_gm2ub_align

2.4.4.3. asc_copy_ub2gm

2.4.4.4. asc_copy_ub2gm_align

2.4.4.5. asc_copy_ub2l1

2.4.4.6. asc_copy_ub2ub

2.4.4.7. asc_ndim_copy_gm2ub

2.4.4.8. asc_set_copy_pad_val

2.4.4.9. asc_set_gm2ub_loop_size

2.4.4.10. asc_set_gm2ub_loop1_stride

2.4.4.11. asc_set_gm2ub_loop2_stride

2.4.4.12. asc_set_ndim_loop_stride

2.4.4.13. asc_set_ndim_pad_count

2.4.4.14. asc_set_ndim_pad_value

2.4.4.15. asc_set_ub2gm_loop_size

2.4.4.16. asc_set_ub2gm_loop1_stride

2.4.4.17. asc_set_ub2gm_loop2_stride

2.4.5. Memory矢量计算

2.4.5.1. asc_abs

2.4.5.2. asc_add

2.4.5.3. asc_add_relu

2.4.5.4. asc_add_scalar

2.4.5.5. asc_and

2.4.5.6. asc_axpy

2.4.5.7. asc_bfloat162float

2.4.5.8. asc_bfloat162int32

2.4.5.9. asc_bitsort

2.4.5.10. asc_brcb

2.4.5.11. asc_copy

2.4.5.12. asc_datablock_reduce_max

2.4.5.13. asc_datablock_reduce_min

2.4.5.14. asc_datablock_reduce_sum

2.4.5.15. asc_deq_int162b8

2.4.5.16. asc_deq_int322half

2.4.5.17. asc_div

2.4.5.18. asc_duplicate

2.4.5.19. asc_eq

2.4.5.20. asc_eq_scalar

2.4.5.21. asc_exp

2.4.5.22. asc_float2bfloat16

2.4.5.23. asc_float2float

2.4.5.24. asc_float2half

2.4.5.25. asc_float2int16

2.4.5.26. asc_float2int32

2.4.5.27. asc_float2int64

2.4.5.28. asc_fma

2.4.5.29. asc_gather

2.4.5.30. asc_gather_datablock

2.4.5.31. asc_ge

2.4.5.32. asc_ge_scalar

2.4.5.33. asc_get_cmp_mask

2.4.5.34. asc_get_reduce_max_cnt

2.4.5.35. asc_get_reduce_min_cnt

2.4.5.36. asc_get_rsvd_count

2.4.5.37. asc_get_vms4_sr

2.4.5.38. asc_gt

2.4.5.39. asc_gt_scalar

2.4.5.40. asc_half2float

2.4.5.41. asc_half2int16

2.4.5.42. asc_half2int32

2.4.5.43. asc_half2int4

2.4.5.44. asc_half2int8

2.4.5.45. asc_half2uint8

2.4.5.46. asc_int162float

2.4.5.47. asc_int162half

2.4.5.48. asc_int322float

2.4.5.49. asc_int322int16

2.4.5.50. asc_int322int64

2.4.5.51. asc_int42half

2.4.5.52. asc_int642float

2.4.5.53. asc_int642int32

2.4.5.54. asc_int82half

2.4.5.55. asc_le

2.4.5.56. asc_le_scalar

2.4.5.57. asc_leakyrelu

2.4.5.58. asc_log

2.4.5.59. asc_lt

2.4.5.60. asc_lt_scalar

2.4.5.61. asc_max

2.4.5.62. asc_max_scalar

2.4.5.63. asc_min

2.4.5.64. asc_min_scalar

2.4.5.65. asc_mrgsort4

2.4.5.66. asc_mul

2.4.5.67. asc_mul_add

2.4.5.68. asc_mul_add_relu

2.4.5.69. asc_mul_cast_half2int8

2.4.5.70. asc_mul_cast_half2uint8

2.4.5.71. asc_mul_scalar

2.4.5.72. asc_ne

2.4.5.73. asc_ne_scalar

2.4.5.74. asc_not

2.4.5.75. asc_or

2.4.5.76. asc_pair_reduce_sum

2.4.5.77. asc_rcp

2.4.5.78. asc_reduce

2.4.5.79. asc_relu

2.4.5.80. asc_repeat_reduce_max

2.4.5.81. asc_repeat_reduce_min

2.4.5.82. asc_repeat_reduce_sum

2.4.5.83. asc_rsqrt

2.4.5.84. asc_select

2.4.5.85. asc_set_cmp_mask

2.4.5.86. asc_set_deq_scale

2.4.5.87. asc_set_mask_count

2.4.5.88. asc_set_mask_norm

2.4.5.89. asc_set_va_reg

2.4.5.90. asc_set_vector_mask

2.4.5.91. asc_shiftleft

2.4.5.92. asc_shiftright

2.4.5.93. asc_sqrt

2.4.5.94. asc_squeeze

2.4.5.95. asc_sub

2.4.5.96. asc_sub_relu

2.4.5.97. asc_sub_scalar

2.4.5.98. asc_transto5hd

2.4.5.99. asc_transpose

2.4.5.100. asc_uint82half

2.4.5.101. asc_vdeq_int162b8

2.4.6. Reg矢量计算

2.4.6.1. reg数据类型定义

2.4.6.2. reg_load

2.4.6.2.1. asc_loadalign

2.4.6.2.1.1. asc_loadalign_v1

2.4.6.2.1.2. asc_loadalign_v2

2.4.6.2.1.3. asc_loadalign_v3

2.4.6.2.1.4. asc_loadalign_v4

2.4.6.2.1.5. asc_loadalign_v5

2.4.6.2.1.6. asc_loadalign_v6

2.4.6.2.2. asc_loadalign_postupdate

2.4.6.2.3. asc_loadalign_deintlv

2.4.6.2.4. asc_loadalign_deintlv_postupdate

2.4.6.2.5. asc_gather

2.4.6.2.6. asc_gather_datablock

2.4.6.2.7. asc_get_mask_spr

2.4.6.2.8. asc_load

2.4.6.2.9. asc_loadunalign

2.4.6.2.10. asc_loadunalign_pre

2.4.6.2.11. asc_loadunalign_postupdate

2.4.6.2.12. asc_scatter

2.4.6.3. reg_store

2.4.6.3.1. asc_storealign

2.4.6.3.1.1. asc_storealign_v1

2.4.6.3.1.2. asc_storealign_v2

2.4.6.3.1.3. asc_storealign_v3

2.4.6.3.1.4. asc_storealign_v4

2.4.6.3.1.5. asc_storealign_v5

2.4.6.3.2. asc_store

2.4.6.3.3. asc_storeunalign

2.4.6.3.4. asc_storeunalign_post

2.4.6.3.5. asc_storeunalign_postupdate

2.4.6.3.6. asc_storeunalign_post_postupdate

2.4.6.4. reg_vector

2.4.6.4.1. asc_abs

2.4.6.4.2. asc_abs_sub

2.4.6.4.3. asc_add

2.4.6.4.4. asc_add_scalar

2.4.6.4.5. asc_addc

2.4.6.4.6. asc_and

2.4.6.4.7. asc_arange

2.4.6.4.8. asc_axpy

2.4.6.4.9. asc_bfloat162e1m2x2

2.4.6.4.10. asc_bfloat162e2m1x2

2.4.6.4.11. asc_bfloat162float

2.4.6.4.12. asc_bfloat162half

2.4.6.4.13. asc_bfloat162int32

2.4.6.4.14. asc_clear_ar_spr

2.4.6.4.15. asc_copy

2.4.6.4.16. asc_create_iter_reg

2.4.6.4.17. asc_create_mask

2.4.6.4.18. asc_cumulative_histogram

2.4.6.4.19. asc_deintlv

2.4.6.4.20. asc_div

2.4.6.4.21. asc_duplicate

2.4.6.4.22. asc_duplicate_scalar

2.4.6.4.23. asc_e1m2x22bfloat16

2.4.6.4.24. asc_e2m1x22bfloat16

2.4.6.4.25. asc_e4m32float

2.4.6.4.26. asc_e5m22float

2.4.6.4.27. asc_eq

2.4.6.4.28. asc_eq_scalar

2.4.6.4.29. asc_exp

2.4.6.4.30. asc_exp_sub

2.4.6.4.31. asc_float2bfloat16

2.4.6.4.32. asc_float2e4m3

2.4.6.4.33. asc_float2e5m2

2.4.6.4.34. asc_float2half

2.4.6.4.35. asc_float2hif8

2.4.6.4.36. asc_float2int16

2.4.6.4.37. asc_float2int32

2.4.6.4.38. asc_float2int64

2.4.6.4.39. asc_frequency_histogram

2.4.6.4.40. asc_ge

2.4.6.4.41. asc_ge_scalar

2.4.6.4.42. asc_gt

2.4.6.4.43. asc_gt_scalar

2.4.6.4.44. asc_half2bfloat16

2.4.6.4.45. asc_half2float

2.4.6.4.46. asc_half2hif8

2.4.6.4.47. asc_half2int16

2.4.6.4.48. asc_half2int32

2.4.6.4.49. asc_half2int4x2

2.4.6.4.50. asc_half2int8

2.4.6.4.51. asc_half2uint8

2.4.6.4.52. asc_hif82float

2.4.6.4.53. asc_hif82half

2.4.6.4.54. asc_int162float

2.4.6.4.55. asc_int162half

2.4.6.4.56. asc_int162int32

2.4.6.4.57. asc_int162uint32

2.4.6.4.58. asc_int162uint8

2.4.6.4.59. asc_int322float

2.4.6.4.60. asc_int322int16

2.4.6.4.61. asc_int322int64

2.4.6.4.62. asc_int322uint16

2.4.6.4.63. asc_int322uint8

2.4.6.4.64. asc_int4x22bfloat16

2.4.6.4.65. asc_int4x22half

2.4.6.4.66. asc_int4x22int16

2.4.6.4.67. asc_int642float

2.4.6.4.68. asc_int642int32

2.4.6.4.69. asc_int82half

2.4.6.4.70. asc_int82int16

2.4.6.4.71. asc_int82int32

2.4.6.4.72. asc_intlv

2.4.6.4.73. asc_le

2.4.6.4.74. asc_le_scalar

2.4.6.4.75. asc_leakyrelu

2.4.6.4.76. asc_ln

2.4.6.4.77. asc_lt

2.4.6.4.78. asc_lt_scalar

2.4.6.4.79. asc_madd

2.4.6.4.80. asc_max

2.4.6.4.81. asc_max_scalar

2.4.6.4.82. asc_mem_bar

2.4.6.4.83. asc_min

2.4.6.4.84. asc_min_scalar

2.4.6.4.85. asc_mul

2.4.6.4.86. asc_mul_scalar

2.4.6.4.87. asc_mull

2.4.6.4.88. asc_muls

2.4.6.4.89. asc_ne

2.4.6.4.90. asc_ne_scalar

2.4.6.4.91. asc_neg

2.4.6.4.92. asc_not

2.4.6.4.93. asc_or

2.4.6.4.94. asc_pack

2.4.6.4.95. asc_pair_reduce_sum

2.4.6.4.96. asc_prelu

2.4.6.4.97. asc_reduce_max

2.4.6.4.98. asc_reduce_max_datablock

2.4.6.4.99. asc_reduce_min

2.4.6.4.100. asc_reduce_min_datablock

2.4.6.4.101. asc_reduce_sum

2.4.6.4.102. asc_reduce_sum_datablock

2.4.6.4.103. asc_relu

2.4.6.4.104. asc_select

2.4.6.4.105. asc_shiftleft

2.4.6.4.106. asc_shiftleft_scalar

2.4.6.4.107. asc_shiftright

2.4.6.4.108. asc_shiftright_scalar

2.4.6.4.109. asc_sqrt

2.4.6.4.110. asc_squeeze

2.4.6.4.111. asc_sub

2.4.6.4.112. asc_subc

2.4.6.4.113. asc_truncate

2.4.6.4.114. asc_uint162uint32

2.4.6.4.115. asc_uint162uint8

2.4.6.4.116. asc_uint322int16

2.4.6.4.117. asc_uint322uint16

2.4.6.4.118. asc_uint322uint8

2.4.6.4.119. asc_uint82half

2.4.6.4.120. asc_uint82uint16

2.4.6.4.121. asc_uint82uint32

2.4.6.4.122. asc_unpack

2.4.6.4.123. asc_unsqueeze

2.4.6.4.124. asc_update_mask

2.4.6.4.125. asc_xor

2.4.7. 矩阵数据搬运

2.4.7.1. asc_copy_gm2l0a

2.4.7.2. asc_copy_gm2l0b

2.4.7.3. asc_copy_gm2l1

2.4.7.4. asc_copy_gm2l1_align

2.4.7.5. asc_copy_gm2l1_dn2nz

2.4.7.6. asc_copy_gm2l1_nd2nz

2.4.7.7. asc_copy_l0c2gm

2.4.7.8. asc_copy_l0c2l1

2.4.7.9. asc_copy_l0c2ub

2.4.7.10. asc_copy_l12bt

2.4.7.11. asc_copy_l12fb_arch_2201

2.4.7.12. asc_copy_l12fb_arch_3510

2.4.7.13. asc_copy_l12gm

2.4.7.14. asc_copy_l12l0a

2.4.7.15. asc_copy_l12l0a_mx

2.4.7.16. asc_copy_l12l0a_trans

2.4.7.17. asc_copy_l12l0b

2.4.7.18. asc_copy_l12l0b_mx

2.4.7.19. asc_copy_l12l0b_sparse

2.4.7.20. asc_copy_l12l0b_trans

2.4.7.21. asc_copy_l12l0c

2.4.7.22. asc_copy_l12ub

2.4.7.23. asc_fill_l0a

2.4.7.24. asc_fill_l0b

2.4.7.25. asc_fill_l1

2.4.7.26. asc_load_image_to_cbuf

2.4.7.27. asc_set_gm2l1_loop_size

2.4.7.28. asc_set_gm2l1_loop1_stride

2.4.7.29. asc_set_gm2l1_loop2_stride

2.4.7.30. asc_set_gm2l1_pad

2.4.7.31. asc_set_l0c_copy_params

2.4.7.32. asc_set_l0c_copy_prequant

2.4.7.33. asc_set_l0c2gm_lrelu_alpha

2.4.7.34. asc_set_l13d_fmatrix

2.4.7.35. asc_set_l13d_fmatrix_b

2.4.7.36. asc_set_l13d_padding

2.4.7.37. asc_set_l13d_rpt

2.4.7.38. asc_set_l13d_size

2.4.8. 矩阵计算

2.4.8.1. asc_enable_hf32

2.4.8.2. asc_enable_hf32_trans

2.4.8.3. asc_get_l0c2gm_prequant

2.4.8.4. asc_get_l0c2gm_relu

2.4.8.5. asc_get_l0c2gm_unitflag

2.4.8.6. asc_mmad

2.4.8.7. asc_mmad_mx

2.4.8.8. asc_mmad_sparse

2.4.8.9. asc_set_fp32_mode

2.4.8.10. asc_set_l0c2gm_config

2.4.8.11. asc_set_l0c2gm_nz2nd

2.4.8.12. asc_set_mmad_direction_m

2.4.8.13. asc_set_mmad_direction_n

2.4.9. 标量计算

2.4.9.1. asc_clear_nthbit

2.4.9.2. asc_clz

2.4.9.3. asc_ffs

2.4.9.4. asc_ffz

2.4.9.5. asc_float2int32

2.4.9.6. asc_popc

2.4.9.7. asc_set_nthbit

2.4.9.8. asc_sflbits

2.4.9.9. asc_store_dev

2.4.9.10. asc_zero_bits_cnt

2.4.10. 同步控制

2.4.10.1. asc_lock

2.4.10.2. asc_sync

2.4.10.3. asc_sync_block_arrive

2.4.10.4. asc_sync_block_wait

2.4.10.5. asc_sync_data_barrier

2.4.10.6. asc_sync_inter_wait

2.4.10.7. asc_sync_intra_arrive

2.4.10.8. asc_sync_intra_wait

2.4.10.9. asc_sync_mte2

2.4.10.10. asc_sync_mte3

2.4.10.11. asc_sync_notify

2.4.10.12. asc_sync_pipe

2.4.10.13. asc_sync_vec

2.4.10.14. asc_sync_wait

2.4.10.15. asc_unlock

2.4.11. 系统变量

2.4.11.1. asc_get_arch_ver

2.4.11.2. asc_get_ar_spr

2.4.11.3. asc_get_block_idx

2.4.11.4. asc_get_block_num

2.4.11.5. asc_get_core_id

2.4.11.6. asc_get_ctrl

2.4.11.7. asc_get_ffts_base_addr

2.4.11.8. asc_get_phy_buf_addr

2.4.11.9. asc_get_phy_stack_base

2.4.11.10. asc_get_program_counter

2.4.11.11. asc_get_smmu_tag_version

2.4.11.12. asc_get_status

2.4.11.13. asc_get_sub_block_id

2.4.11.14. asc_get_sub_block_num

2.4.11.15. asc_get_sys_virtual_base

2.4.11.16. asc_get_system_cycle

2.4.11.17. asc_get_vf_len

2.4.11.18. asc_set_ctrl

2.4.11.19. asc_set_ffts_base_addr

2.4.11.20. asc_set_gm2l1_nz_para

2.4.11.21. asc_set_l0c2gm_channel_para

2.4.11.22. asc_set_l0c2gm_quant_post

2.4.11.23. asc_set_l0c2gm_relu_alpha

2.4.11.24. asc_set_l12l0_padding_val

2.4.11.25. asc_set_l3d_rpt_b

2.4.12. 缓存控制

2.4.12.1. asc_datacache_preload

2.4.12.2. asc_dcci

2.4.12.3. asc_dci

2.4.12.4. asc_get_icache_preload_status

2.4.12.5. asc_icache_preload

2.4.13. 原子操作

2.4.13.1. asc_get_store_atomic_config

2.4.13.2. asc_set_atomic_add

2.4.13.3. asc_set_atomic_max

2.4.13.4. asc_set_atomic_min

2.4.13.5. asc_set_atomic_none

2.4.13.6. asc_set_store_atomic_config_v1

2.4.13.7. asc_set_store_atomic_config_v2

2.4.14. 其他操作

2.4.14.1. asc_init

2.5. 高阶API

2.5.1. 数学计算

2.5.1.1. Tanh接口

2.5.1.1.1. Tanh

2.5.1.1.2. GetTanhMaxMinTmpSize

2.5.1.1.3. GetTanhTmpBufferFactorSize

2.5.1.2. Asin接口

2.5.1.2.1. Asin

2.5.1.2.2. GetAsinMaxMinTmpSize

2.5.1.2.3. GetAsinTmpBufferFactorSize

2.5.1.3. Sin接口

2.5.1.3.1. Sin

2.5.1.3.2. GetSinMaxMinTmpSize

2.5.1.3.3. GetSinTmpBufferFactorSize

2.5.1.4. Acos接口

2.5.1.4.1. Acos

2.5.1.4.2. GetAcosMaxMinTmpSize

2.5.1.4.3. GetAcosTmpBufferFactorSize

2.5.1.5. Cos接口

2.5.1.5.1. Cos

2.5.1.5.2. GetCosMaxMinTmpSize

2.5.1.5.3. GetCosTmpBufferFactorSize

2.5.1.6. Log接口

2.5.1.6.1. Log

2.5.1.6.2. GetLogMaxMinTmpSize

2.5.1.6.3. GetLogTmpBufferFactorSize

2.5.1.7. Atan接口

2.5.1.7.1. Atan

2.5.1.7.2. GetAtanMaxMinTmpSize

2.5.1.7.3. GetAtanTmpBufferFactorSize

2.5.1.8. Power接口

2.5.1.8.1. Power

2.5.1.8.2. GetPowerMaxMinTmpSize

2.5.1.8.3. GetPowerTmpBufferFactorSize

2.5.1.9. Sinh接口

2.5.1.9.1. Sinh

2.5.1.9.2. GetSinhMaxMinTmpSize

2.5.1.9.3. GetSinhTmpBufferFactorSize

2.5.1.10. Cosh接口

2.5.1.10.1. Cosh

2.5.1.10.2. GetCoshMaxMinTmpSize

2.5.1.10.3. GetCoshTmpBufferFactorSize

2.5.1.11. Tan接口

2.5.1.11.1. Tan

2.5.1.11.2. GetTanMaxMinTmpSize

2.5.1.11.3. GetTanTmpBufferFactorSize

2.5.1.12. Trunc接口

2.5.1.12.1. Trunc

2.5.1.12.2. GetTruncMaxMinTmpSize

2.5.1.12.3. GetTruncTmpBufferFactorSize

2.5.1.13. Frac接口

2.5.1.13.1. Frac

2.5.1.13.2. GetFracMaxMinTmpSize

2.5.1.13.3. GetFracTmpBufferFactorSize

2.5.1.14. Erf接口

2.5.1.14.1. Erf

2.5.1.14.2. GetErfMaxMinTmpSize

2.5.1.14.3. GetErfTmpBufferFactorSize

2.5.1.15. Erfc接口

2.5.1.15.1. Erfc

2.5.1.15.2. GetErfcMaxMinTmpSize

2.5.1.15.3. GetErfcTmpBufferFactorSize

2.5.1.16. Sign接口

2.5.1.16.1. Sign

2.5.1.16.2. GetSignMaxMinTmpSize

2.5.1.16.3. GetSignTmpBufferFactorSize

2.5.1.17. Atanh接口

2.5.1.17.1. Atanh

2.5.1.17.2. GetAtanhMaxMinTmpSize

2.5.1.17.3. GetAtanhTmpBufferFactorSize

2.5.1.18. Asinh接口

2.5.1.18.1. Asinh

2.5.1.18.2. GetAsinhMaxMinTmpSize

2.5.1.18.3. GetAsinhTmpBufferFactorSize

2.5.1.19. Acosh接口

2.5.1.19.1. Acosh

2.5.1.19.2. GetAcoshMaxMinTmpSize

2.5.1.19.3. GetAcoshTmpBufferFactorSize

2.5.1.20. Floor接口

2.5.1.20.1. Floor

2.5.1.20.2. GetFloorMaxMinTmpSize

2.5.1.20.3. GetFloorTmpBufferFactorSize

2.5.1.21. Ceil接口

2.5.1.21.1. Ceil

2.5.1.21.2. GetCeilMaxMinTmpSize

2.5.1.21.3. GetCeilTmpBufferFactorSize

2.5.1.22. Clamp接口

2.5.1.22.1. Clamp

2.5.1.22.2. ClampMax

2.5.1.22.3. ClampMin

2.5.1.22.4. GetClampMaxMinTmpSize

2.5.1.22.5. GetClampTmpBufferFactorSize

2.5.1.23. Round接口

2.5.1.23.1. Round

2.5.1.23.2. GetRoundMaxMinTmpSize

2.5.1.23.3. GetRoundTmpBufferFactorSize

2.5.1.24. Axpy接口

2.5.1.24.1. Axpy

2.5.1.24.2. GetAxpyMaxMinTmpSize

2.5.1.24.3. GetAxpyTmpBufferFactorSize

2.5.1.25. Exp接口

2.5.1.25.1. Exp

2.5.1.25.2. GetExpMaxMinTmpSize

2.5.1.25.3. GetExpTmpBufferFactorSize

2.5.1.26. Lgamma接口

2.5.1.26.1. Lgamma

2.5.1.26.2. GetLgammaMaxMinTmpSize

2.5.1.26.3. GetLgammaTmpBufferFactorSize

2.5.1.27. Digamma接口

2.5.1.27.1. Digamma

2.5.1.27.2. GetDigammaMaxMinTmpSize

2.5.1.27.3. GetDigammaTmpBufferFactorSize

2.5.1.28. Xor接口

2.5.1.28.1. Xor

2.5.1.28.2. GetXorMaxMinTmpSize

2.5.1.28.3. GetXorTmpBufferFactorSize

2.5.1.29. CumSum接口

2.5.1.29.1. CumSum

2.5.1.29.2. GetCumSumMaxMinTmpSize

2.5.1.30. Fmod接口

2.5.1.30.1. Fmod

2.5.1.30.2. GetFmodMaxMinTmpSize

2.5.1.30.3. GetFmodTmpBufferFactorSize

2.5.1.31. IsFinite接口

2.5.1.31.1. IsFinite

2.5.1.32. Hypot接口

2.5.1.32.1. Hypot

2.5.1.32.2. GetHypotMaxMinTmpSize

2.5.1.32.3. GetHypotTmpBufferFactorSize

2.5.1.33. Fma接口

2.5.1.33.1. Fma

2.5.1.33.2. GetFmaMaxMinTmpSize

2.5.1.33.3. GetFmaTmpBufferFactorSize

2.5.1.34. IsNan接口

2.5.1.34.1. IsNan

2.5.1.34.2. GetIsNanMaxMinTmpSize

2.5.1.34.3. GetIsNanTmpBufferFactorSize

2.5.1.35. IsInf接口

2.5.1.35.1. IsInf

2.5.1.35.2. GetIsInfMaxMinTmpSize

2.5.1.35.3. GetIsInfTmpBufferFactorSize

2.5.1.36. Rint接口

2.5.1.36.1. Rint

2.5.1.36.2. GetRintMaxMinTmpSize

2.5.1.36.3. GetRintTmpBufferFactorSize

2.5.1.37. SinCos接口

2.5.1.37.1. SinCos

2.5.1.37.2. GetSinCosMaxMinTmpSize

2.5.1.37.3. GetSinCosTmpBufferFactorSize

2.5.1.38. LogicalNot接口

2.5.1.38.1. LogicalNot

2.5.1.38.2. GetLogicalNotMaxMinTmpSize

2.5.1.38.3. GetLogicalNotTmpBufferFactorSize

2.5.1.39. LogicalAnd接口

2.5.1.39.1. LogicalAnd

2.5.1.39.2. GetLogicalAndMaxMinTmpSize

2.5.1.39.3. GetLogicalAndTmpBufferFactorSize

2.5.1.40. LogicalAnds接口

2.5.1.40.1. LogicalAnds

2.5.1.40.2. GetLogicalAndsMaxMinTmpSize

2.5.1.40.3. GetLogicalAndsTmpBufferFactorSize

2.5.1.41. LogicalOr接口

2.5.1.41.1. LogicalOr

2.5.1.41.2. GetLogicalOrMaxMinTmpSize

2.5.1.41.3. GetLogicalOrTmpBufferFactorSize

2.5.1.42. LogicalOrs接口

2.5.1.42.1. LogicalOrs

2.5.1.42.2. GetLogicalOrsMaxMinTmpSize

2.5.1.42.3. GetLogicalOrsTmpBufferFactorSize

2.5.1.43. LogicalXor接口

2.5.1.43.1. LogicalXor

2.5.1.43.2. GetLogicalXorMaxMinTmpSize

2.5.1.43.3. GetLogicalXorTmpBufferFactorSize

2.5.1.44. BitwiseNot接口

2.5.1.44.1. BitwiseNot

2.5.1.44.2. GetBitwiseNotMaxMinTmpSize

2.5.1.44.3. GetBitwiseNotTmpBufferFactorSize

2.5.1.45. BitwiseAnd接口

2.5.1.45.1. BitwiseAnd

2.5.1.45.2. GetBitwiseAndMaxMinTmpSize

2.5.1.45.3. GetBitwiseAndTmpBufferFactorSize

2.5.1.46. BitwiseOr接口

2.5.1.46.1. BitwiseOr

2.5.1.46.2. GetBitwiseOrMaxMinTmpSize

2.5.1.46.3. GetBitwiseOrTmpBufferFactorSize

2.5.1.47. BitwiseXor接口

2.5.1.47.1. BitwiseXor

2.5.1.47.2. GetBitwiseXorMaxMinTmpSize

2.5.1.47.3. GetBitwiseXorTmpBufferFactorSize

2.5.1.48. Where接口

2.5.1.48.1. Where

2.5.1.48.2. GetWhereMaxMinTmpSize

2.5.1.48.3. GetWhereTmpBufferFactorSize

2.5.1.49. 更多样例

2.5.2. 矩阵计算

2.5.2.1. Matmul Kernel侧接口

2.5.2.1.1. Matmul使用说明

2.5.2.1.2. Matmul模板参数

2.5.2.1.3. MatmulConfig

2.5.2.1.4. MatmulCallBackFunc

2.5.2.1.5. MatmulPolicy

2.5.2.1.6. GetNormalConfig

2.5.2.1.7. GetMDLConfig

2.5.2.1.8. GetSpecialMDLConfig

2.5.2.1.9. GetIBShareNormConfig

2.5.2.1.10. GetBasicConfig

2.5.2.1.11. GetMMConfig

2.5.2.1.12. REGIST_MATMUL_OBJ

2.5.2.1.13. Init

2.5.2.1.14. SetTensorA

2.5.2.1.15. SetTensorB

2.5.2.1.16. SetTensorScaleA

2.5.2.1.17. SetTensorScaleB

2.5.2.1.18. SetBias

2.5.2.1.19. DisableBias

2.5.2.1.20. GetBatchTensorC

2.5.2.1.21. Iterate

2.5.2.1.22. GetTensorC

2.5.2.1.23. IterateAll

2.5.2.1.24. WaitIterateAll

2.5.2.1.25. IterateBatch

2.5.2.1.26. WaitIterateBatch

2.5.2.1.27. IterateNBatch

2.5.2.1.28. End

2.5.2.1.29. SetHF32

2.5.2.1.30. SetTail

2.5.2.1.31. SetBatchNum

2.5.2.1.32. SetQuantScalar

2.5.2.1.33. SetQuantVector

2.5.2.1.34. SetOrgShape

2.5.2.1.35. SetSingleShape

2.5.2.1.36. SetLocalWorkspace

2.5.2.1.37. SetWorkspace

2.5.2.1.38. SetAntiQuantScalar

2.5.2.1.39. SetAntiQuantVector

2.5.2.1.40. WaitGetTensorC

2.5.2.1.41. GetOffsetC

2.5.2.1.42. AsyncGetTensorC

2.5.2.1.43. SetSubBlockIdx

2.5.2.1.44. GetSubBlockIdx

2.5.2.1.45. SetUserDefInfo

2.5.2.1.46. SetSelfDefineData

2.5.2.1.47. GetMatmulApiTiling

2.5.2.1.48. ClearBias

2.5.2.1.49. GetBatchC

2.5.2.1.50. SetSparseIndex

2.5.2.2. Matmul Tiling侧接口

2.5.2.2.1. Matmul Tiling类

2.5.2.2.1.1. Matmul Tiling类使用说明

2.5.2.2.1.2. Matmul Tiling类构造函数

2.5.2.2.1.3. TCubeTiling结构体

2.5.2.2.1.4. SetAType

2.5.2.2.1.5. SetBType

2.5.2.2.1.6. SetScaleAType

2.5.2.2.1.7. SetScaleBType

2.5.2.2.1.8. SetCType

2.5.2.2.1.9. SetBiasType

2.5.2.2.1.10. SetSingleShape

2.5.2.2.1.11. SetShape

2.5.2.2.1.12. SetOrgShape

2.5.2.2.1.13. SetFixSplit

2.5.2.2.1.14. EnableMultiCoreSplitK

2.5.2.2.1.15. EnableBias

2.5.2.2.1.16. SetBufferSpace

2.5.2.2.1.17. SetTraverse

2.5.2.2.1.18. SetMadType

2.5.2.2.1.19. SetSplitRange

2.5.2.2.1.20. SetDoubleBuffer

2.5.2.2.1.21. GetBaseM

2.5.2.2.1.22. GetBaseN

2.5.2.2.1.23. GetBaseK

2.5.2.2.1.24. GetTiling

2.5.2.2.1.25. EnableL1BankConflictOptimise

2.5.2.2.1.26. SetDim

2.5.2.2.1.27. SetSingleRange

2.5.2.2.1.28. GetSingleShape

2.5.2.2.1.29. GetCoreNum

2.5.2.2.1.30. SetAlignSplit

2.5.2.2.1.31. SetDequantType

2.5.2.2.1.32. SetALayout

2.5.2.2.1.33. SetBLayout

2.5.2.2.1.34. SetCLayout

2.5.2.2.1.35. SetBatchNum

2.5.2.2.1.36. SetBatchInfoForNormal

2.5.2.2.1.37. SetMatmulConfigParams

2.5.2.2.1.38. SetBias

2.5.2.2.1.39. SetSplitK

2.5.2.2.1.40. SetSparse

2.5.2.2.2. 获取Matmul计算所需空间

2.5.2.2.2.1. MultiCoreMatmulGetTmpBufSize

2.5.2.2.2.2. MultiCoreMatmulGetTmpBufSizeV2

2.5.2.2.2.3. BatchMatmulGetTmpBufSize

2.5.2.2.2.4. BatchMatmulGetTmpBufSizeV2

2.5.2.2.2.5. MatmulGetTmpBufSize

2.5.2.2.2.6. MatmulGetTmpBufSizeV2

2.5.3. 激活函数

2.5.3.1. SoftMax接口

2.5.3.1.1. SoftMax

2.5.3.1.2. SimpleSoftMax

2.5.3.1.3. SoftmaxFlash

2.5.3.1.4. SoftmaxGrad

2.5.3.1.5. SoftmaxFlashV2

2.5.3.1.6. SoftmaxFlashV3

2.5.3.1.7. SoftmaxGradFront

2.5.3.1.8. AdjustSoftMaxRes

2.5.3.1.9. SoftMax Tiling使用说明

2.5.3.1.10. SoftMax/SimpleSoftMax Tiling

2.5.3.1.11. SoftmaxFlash Tiling接口

2.5.3.1.12. SoftmaxGrad Tiling接口

2.5.3.1.13. SoftmaxFlashV2 Tiling接口

2.5.3.1.14. SoftmaxFlashV3 Tiling接口

2.5.3.1.15. IsBasicBlockInSoftMax

2.5.3.2. LogSoftMax接口

2.5.3.2.1. LogSoftMax

2.5.3.2.2. LogSoftMax Tiling

2.5.3.3. Gelu接口

2.5.3.3.1. Gelu

2.5.3.3.2. FasterGelu

2.5.3.3.3. FasterGeluV2

2.5.3.3.4. GetGeluMaxMinTmpSize

2.5.3.4. SwiGLU接口

2.5.3.4.1. SwiGLU

2.5.3.4.2. GetSwiGLUMaxMinTmpSize

2.5.3.4.3. GetSwiGLUTmpBufferFactorSize

2.5.3.5. Silu接口

2.5.3.5.1. Silu

2.5.3.5.2. GetSiluTmpSize

2.5.3.6. Swish接口

2.5.3.6.1. Swish

2.5.3.6.2. GetSwishTmpSize

2.5.3.7. GeGLU接口

2.5.3.7.1. GeGLU

2.5.3.7.2. GetGeGLUMaxMinTmpSize

2.5.3.7.3. GetGeGLUTmpBufferFactorSize

2.5.3.8. ReGlu接口

2.5.3.8.1. ReGlu

2.5.3.8.2. GetReGluMaxMinTmpSize

2.5.3.9. Sigmoid接口

2.5.3.9.1. Sigmoid

2.5.3.9.2. GetSigmoidMaxMinTmpSize

2.5.4. 归一化操作

2.5.4.1. LayerNorm

2.5.4.2. LayerNorm Tiling

2.5.4.3. LayerNormGrad

2.5.4.4. LayerNormGrad Tiling

2.5.4.5. LayerNormGradBeta

2.5.4.6. LayerNormGradBeta Tiling

2.5.4.7. RmsNorm

2.5.4.8. RmsNorm Tiling

2.5.4.9. BatchNorm

2.5.4.10. BatchNorm Tiling

2.5.4.11. DeepNorm

2.5.4.12. DeepNorm Tiling

2.5.4.13. Normalize

2.5.4.14. Normalize Tiling

2.5.4.15. WelfordUpdate

2.5.4.16. WelfordUpdate Tiling

2.5.4.17. WelfordFinalize

2.5.4.18. WelfordFinalize Tiling

2.5.4.19. GroupNorm

2.5.4.20. GroupNorm Tiling

2.5.5. 量化操作

2.5.5.1. AscendQuant

2.5.5.2. GetAscendQuantMaxMinTmpSize

2.5.5.3. GetAscendQuantTmpBufferFactorSize

2.5.5.4. AscendDequant

2.5.5.5. GetAscendDequantMaxMinTmpSize

2.5.5.6. GetAscendDequantTmpBufferFactorSize

2.5.5.7. AscendAntiQuant

2.5.5.8. GetAscendAntiQuantMaxMinTmpSize

2.5.5.9. GetAscendAntiQuantTmpBufferFactorSize

2.5.5.10. Quantize

2.5.5.11. GetQuantizeMaxMinTmpSize

2.5.5.12. GetQuantizeTmpBufferFactorSize

2.5.5.13. Dequantize

2.5.5.14. GetDequantizeMaxMinTmpSize

2.5.5.15. GetDequantizeTmpBufferFactorSize

2.5.5.16. AntiQuantize

2.5.5.17. GetAntiQuantizeMaxMinTmpSize

2.5.5.18. GetAntiQuantizeTmpBufferFactorSize

2.5.6. 归约操作

2.5.6.1. Sum接口

2.5.6.1.1. Sum

2.5.6.1.2. GetSumMaxMinTmpSize

2.5.6.2. Mean接口

2.5.6.2.1. Mean

2.5.6.2.2. GetMeanMaxMinTmpSize

2.5.6.2.3. GetMeanTmpBufferFactorSize

2.5.6.3. ReduceXorSum接口

2.5.6.3.1. ReduceXorSum

2.5.6.3.2. GetReduceXorSumMaxMinTmpSize

2.5.6.4. ReduceSum接口

2.5.6.4.1. ReduceSum

2.5.6.4.2. GetReduceSumMaxMinTmpSize

2.5.6.5. ReduceMean接口

2.5.6.5.1. ReduceMean

2.5.6.5.2. GetReduceMeanMaxMinTmpSize

2.5.6.6. ReduceMax接口

2.5.6.6.1. ReduceMax

2.5.6.6.2. GetReduceMaxMaxMinTmpSize

2.5.6.7. ReduceMin接口

2.5.6.7.1. ReduceMin

2.5.6.7.2. GetReduceMinMaxMinTmpSize

2.5.6.8. ReduceAny接口

2.5.6.8.1. ReduceAny

2.5.6.8.2. GetReduceAnyMaxMinTmpSize

2.5.6.9. ReduceAll接口

2.5.6.9.1. ReduceAll

2.5.6.9.2. GetReduceAllMaxMinTmpSize

2.5.6.10. ReduceProd接口

2.5.6.10.1. ReduceProd

2.5.6.10.2. GetReduceProdMaxMinTmpSize

2.5.7. 排序操作

2.5.7.1. TopK

2.5.7.2. TopK Tiling

2.5.7.3. Concat

2.5.7.4. GetConcatTmpSize

2.5.7.5. Extract

2.5.7.6. Sort

2.5.7.7. GetSortTmpSize

2.5.7.8. GetSortMaxMinTmpSize

2.5.7.9. GetSortOffset

2.5.7.10. GetSortLen

2.5.7.11. MrgSort

2.5.8. 索引计算

2.5.8.1. Arange

2.5.8.2. GetArangeMaxMinTmpSize

2.5.9. 数据过滤

2.5.9.1. Select

2.5.9.2. GetSelectMaxMinTmpSize

2.5.9.3. DropOut

2.5.9.4. GetDropOutMaxMinTmpSize

2.5.10. 张量变换

2.5.10.1. Transpose

2.5.10.2. Transpose Tiling

2.5.10.3. TransData

2.5.10.4. GetTransDataMaxMinTmpSize

2.5.10.5. Pad

2.5.10.6. Pad Tiling

2.5.10.7. UnPad

2.5.10.8. UnPad Tiling

2.5.10.9. Broadcast

2.5.10.10. GetBroadCastMaxMinTmpSize

2.5.10.11. Fill

2.5.11. HCCL通信类

2.5.11.1. HCCL Kernel侧接口

2.5.11.1.1. HCCL使用说明

2.5.11.1.2. HCCL模板参数

2.5.11.1.3. InitV2

2.5.11.1.4. SetCcTilingV2

2.5.11.1.5. AllReduce

2.5.11.1.6. AllGather

2.5.11.1.7. ReduceScatter

2.5.11.1.8. AlltoAll

2.5.11.1.9. AlltoAllV

2.5.11.1.10. AlltoAllvWrite

2.5.11.1.11. BatchWrite

2.5.11.1.12. Commit

2.5.11.1.13. Wait

2.5.11.1.14. Iterate

2.5.11.1.15. Query

2.5.11.1.16. InterHcclGroupSync

2.5.11.1.17. Finalize

2.5.11.1.18. GetWindowsInAddr

2.5.11.1.19. GetWindowsOutAddr

2.5.11.1.20. GetRankId

2.5.11.1.21. GetRankDim

2.5.11.1.22. QueueBarrier

2.5.11.1.23. GetQueueNum

2.5.11.1.24. Init（废弃）

2.5.11.1.25. SetCcTiling（废弃）

2.5.11.2. HCCL Tiling侧接口

2.5.11.2.1. HCCL Tiling使用说明

2.5.11.2.2. TilingData结构体

2.5.11.2.3. HCCL Tiling构造函数

2.5.11.2.4. GetTiling

2.5.11.2.5. SetOpType

2.5.11.2.6. SetGroupName

2.5.11.2.7. SetAlgConfig

2.5.11.2.8. SetReduceType

2.5.11.2.9. SetStepSize

2.5.11.2.10. SetSkipLocalRankCopy

2.5.11.2.11. SetSkipBufferWindowCopy

2.5.11.2.12. SetDebugMode

2.5.11.2.13. SetCommBlockNum

2.5.11.2.14. SetQueueNum

2.5.11.2.15. SetCommEngine

2.5.11.2.16. v1版本TilingData（废弃）

2.5.11.2.17. v2版本TilingData（废弃）

2.5.11.3. HCCL Context

2.5.11.3.1. HCCL Context简介

2.5.11.3.2. SetHcclContext

2.5.11.3.3. GetHcclContext

2.5.12. 卷积计算

2.5.12.1. Conv3D

2.5.12.1.1. Conv3D Kernel侧接口

2.5.12.1.1.1. Conv3D使用说明

2.5.12.1.1.2. Conv3D模板参数

2.5.12.1.1.3. Init

2.5.12.1.1.4. SetInput

2.5.12.1.1.5. SetWeight

2.5.12.1.1.6. SetBias

2.5.12.1.1.7. SetSingleOutputShape

2.5.12.1.1.8. SetInputStartPosition

2.5.12.1.1.9. IterateAll

2.5.12.1.1.10. End

2.5.12.1.2. Conv3D Tiling侧接口

2.5.12.1.2.1. Conv3D Tiling使用说明

2.5.12.1.2.2. Conv3D Tiling构造函数

2.5.12.1.2.3. TConv3DApiTiling结构体

2.5.12.1.2.4. GetTiling

2.5.12.1.2.5. SetOrgWeightShape

2.5.12.1.2.6. SetOrgInputShape

2.5.12.1.2.7. SetSingleWeightShape

2.5.12.1.2.8. SetSingleOutputShape

2.5.12.1.2.9. SetInputType

2.5.12.1.2.10. SetWeightType

2.5.12.1.2.11. SetBiasType

2.5.12.1.2.12. SetOutputType

2.5.12.1.2.13. SetPadding

2.5.12.1.2.14. SetDilation

2.5.12.1.2.15. SetStride

2.5.12.1.2.16. SetGroups

2.5.12.2. Conv3DBackpropInput

2.5.12.2.1. Conv3DBackpropInput Kernel侧接口

2.5.12.2.1.1. Conv3DBackpropInput使用说明

2.5.12.2.1.2. Init

2.5.12.2.1.3. SetGradOutput

2.5.12.2.1.4. SetWeight

2.5.12.2.1.5. SetSingleShape

2.5.12.2.1.6. SetStartPosition

2.5.12.2.1.7. Iterate

2.5.12.2.1.8. GetTensorC

2.5.12.2.1.9. End

2.5.12.2.2. Conv3DBackpropInput Tiling侧接口

2.5.12.2.2.1. Conv3DBackpropInput Tiling使用说明

2.5.12.2.2.2. Conv3DBackpropInput Tiling构造函数

2.5.12.2.2.3. TConv3DBackpropInputTiling结构体

2.5.12.2.2.4. GetTiling

2.5.12.2.2.5. SetWeightShape

2.5.12.2.2.6. SetInputShape

2.5.12.2.2.7. SetGradOutputShape

2.5.12.2.2.8. SetWeightType

2.5.12.2.2.9. SetInputType

2.5.12.2.2.10. SetGradOutputType

2.5.12.2.2.11. SetPadding

2.5.12.2.2.12. SetStride

2.5.12.2.2.13. SetDilation

2.5.12.2.2.14. SetOutputPadding

2.5.12.3. Conv3DBackpropFilter

2.5.12.3.1. Conv3DBackpropFilter Kernel侧接口

2.5.12.3.1.1. Conv3DBackpropFilter使用说明

2.5.12.3.1.2. Init

2.5.12.3.1.3. SetInput

2.5.12.3.1.4. SetGradOutput

2.5.12.3.1.5. SetSingleShape

2.5.12.3.1.6. SetStartPosition

2.5.12.3.1.7. Iterate

2.5.12.3.1.8. GetTensorC

2.5.12.3.1.9. End

2.5.12.3.2. Conv3DBackpropFilter Tiling侧接口

2.5.12.3.2.1. Conv3DBackpropFilter Tiling使用说明

2.5.12.3.2.2. Conv3DBackpropFilter Tiling构造函数

2.5.12.3.2.3. TConv3DBpFilterTiling结构体

2.5.12.3.2.4. GetTiling

2.5.12.3.2.5. SetWeightShape

2.5.12.3.2.6. SetInputShape

2.5.12.3.2.7. SetGradOutputShape

2.5.12.3.2.8. SetWeightType

2.5.12.3.2.9. SetInputType

2.5.12.3.2.10. SetGradOutputType

2.5.12.3.2.11. SetPadding

2.5.12.3.2.12. SetStride

2.5.12.3.2.13. SetDilation

2.5.13. 随机函数

2.5.13.1. PhiloxRandom

3. SIMT API

3.1. 概述

3.2. SIMT编程简介

3.2.1. 编程模型

3.2.2. 扩展语法

3.2.2.1. 函数执行空间限定符

3.2.2.2. 内存空间限定符

3.2.2.3. 内置数据类型

3.2.2.4. 内置变量

3.2.2.5. 内置宏

3.2.2.6. 核函数配置

3.2.3. API列表

3.3. SIMD与SIMT混合编程简介

3.3.1. 编程模型

3.3.2. 扩展语法

3.3.2.1. 函数执行空间限定符

3.3.2.2. 内存空间限定符

3.3.2.3. 内置数据类型

3.3.2.4. 内置变量

3.3.2.5. 内置宏

3.3.2.6. 核函数配置

3.3.3. API列表

3.4. 协作组

3.4.1. 协作组简介

3.4.2. thread_block

3.4.2.1. thread_block简介

3.4.2.2. thread_block构造函数

3.4.2.3. sync

3.4.2.4. size

3.4.2.5. num_threads

3.4.2.6. thread_rank

3.4.2.7. thread_index

3.4.2.8. group_index

3.4.2.9. group_dim

3.4.2.10. dim_threads

3.4.3. coalesced_group

3.4.3.1. coalesced_group简介

3.4.3.2. coalesced_group构造函数

3.4.3.3. sync

3.4.3.4. size

3.4.3.5. num_threads

3.4.3.6. thread_rank

3.4.3.7. meta_group_rank

3.4.3.8. meta_group_size

3.4.3.9. shfl

3.4.3.10. shfl_up

3.4.3.11. shfl_down

3.4.3.12. ballot

3.4.3.13. any

3.4.3.14. all

3.4.4. thread_block_tile

3.4.4.1. thread_block_tile简介

3.4.4.2. thread_block_tile构造函数

3.4.4.3. sync

3.4.4.4. size

3.4.4.5. num_threads

3.4.4.6. thread_rank

3.4.4.7. meta_group_rank

3.4.4.8. meta_group_size

3.4.4.9. shfl

3.4.4.10. shfl_up

3.4.4.11. shfl_down

3.4.4.12. shfl_xor

3.4.4.13. ballot

3.4.4.14. any

3.4.4.15. all

3.4.5. tiled_partition

3.4.6. binary_partition

3.5. 同步与内存栅栏

3.5.1. 同步与内存栅栏简介

3.5.2. 同步接口

3.5.2.1. asc_syncthreads

3.5.3. 内存栅栏接口

3.5.3.1. asc_threadfence

3.5.3.2. asc_threadfence_block

3.6. 原子操作

3.6.1. 原子操作简介

3.6.2. asc_atomic_add

3.6.3. asc_atomic_sub

3.6.4. asc_atomic_exch

3.6.5. asc_atomic_max

3.6.6. asc_atomic_min

3.6.7. asc_atomic_inc

3.6.8. asc_atomic_dec

3.6.9. asc_atomic_cas

3.6.10. asc_atomic_and

3.6.11. asc_atomic_or

3.6.12. asc_atomic_xor

3.7. Warp函数

3.7.1. Warp函数简介

3.7.2. Warp Vote类函数

3.7.2.1. asc_all

3.7.2.2. asc_any

3.7.2.3. asc_ballot

3.7.2.4. asc_activemask

3.7.3. Warp Shfl类函数

3.7.3.1. asc_shfl

3.7.3.2. asc_shfl_up

3.7.3.3. asc_shfl_down

3.7.3.4. asc_shfl_xor

3.7.4. Warp Reduce类函数

3.7.4.1. asc_reduce_add

3.7.4.2. asc_reduce_max

3.7.4.3. asc_reduce_min

3.7.5. LaneID类函数

3.7.5.1. laneid

3.7.5.2. lanemask_eq

3.7.5.3. lanemask_le

3.7.5.4. lanemask_lt

3.7.5.5. lanemask_ge

3.7.5.6. lanemask_gt

3.8. 数学函数

3.8.1. fp8类型

3.8.1.1. fp8数据类型简介

3.8.1.2. fp8数据转换函数

3.8.1.2.1. __float22hif82_rna

3.8.1.2.2. __float22hif82_rna_sat

3.8.1.2.3. __float22hif82_rh

3.8.1.2.4. __float22hif82_rh_sat

3.8.1.2.5. __asc_cvt_float2_to_fp8x2

3.8.1.2.6. __half22hif82_rna

3.8.1.2.7. __half22hif82_rna_sat

3.8.1.2.8. __half22hif82_rh

3.8.1.2.9. __half22hif82_rh_sat

3.8.1.2.10. __hif822float2

3.8.1.2.11. __hif822half2

3.8.1.2.12. __e4m3x22float2

3.8.1.2.13. __e5m2x22float2

3.8.2. half类型

3.8.2.1. half类型算术函数

3.8.2.1.1. __habs

3.8.2.1.2. __hfma

3.8.2.1.3. __hadd

3.8.2.1.4. __hsub

3.8.2.1.5. __hmul

3.8.2.1.6. __hdiv

3.8.2.1.7. __hneg

3.8.2.1.8. __hfma_relu

3.8.2.2. half类型比较函数

3.8.2.2.1. __hmax

3.8.2.2.2. __hmin

3.8.2.2.3. __hisnan

3.8.2.2.4. __hisinf

3.8.2.2.5. __heq

3.8.2.2.6. __hne

3.8.2.2.7. __hle

3.8.2.2.8. __hge

3.8.2.2.9. __hlt

3.8.2.2.10. __hgt

3.8.2.2.11. __hequ

3.8.2.2.12. __hneu

3.8.2.2.13. __hleu

3.8.2.2.14. __hgeu

3.8.2.2.15. __hltu

3.8.2.2.16. __hgtu

3.8.2.2.17. __hmax_nan

3.8.2.2.18. __hmin_nan

3.8.2.3. half类型数学库函数

3.8.2.3.1. htanh

3.8.2.3.2. hexp

3.8.2.3.3. hexp2

3.8.2.3.4. hexp10

3.8.2.3.5. hlog

3.8.2.3.6. hlog2

3.8.2.3.7. hlog10

3.8.2.3.8. hcos

3.8.2.3.9. hsin

3.8.2.3.10. hsqrt

3.8.2.3.11. hrsqrt

3.8.2.3.12. hrcp

3.8.2.3.13. hrint

3.8.2.3.14. hfloor

3.8.2.3.15. hceil

3.8.2.3.16. htrunc

3.8.2.4. half类型精度转换函数

3.8.2.4.1. __float2half

3.8.2.4.2. __float2half_rn

3.8.2.4.3. __float2half_rn_sat

3.8.2.4.4. __float22half2_rn_sat

3.8.2.4.5. __float2half_rz

3.8.2.4.6. __float2half_rz_sat

3.8.2.4.7. __float22half2_rz

3.8.2.4.8. __float22half2_rz_sat

3.8.2.4.9. __float2half_rd

3.8.2.4.10. __float2half_rd_sat

3.8.2.4.11. __float22half2_rd

3.8.2.4.12. __float22half2_rd_sat

3.8.2.4.13. __float2half_ru

3.8.2.4.14. __float2half_ru_sat

3.8.2.4.15. __float22half2_ru

3.8.2.4.16. __float22half2_ru_sat

3.8.2.4.17. __float2half_rna

3.8.2.4.18. __float2half_rna_sat

3.8.2.4.19. __float22half2_rna

3.8.2.4.20. __float22half2_rna_sat

3.8.2.4.21. __float2half_ro

3.8.2.4.22. __float2half_ro_sat

3.8.2.4.23. __float22half2_ro

3.8.2.4.24. __float22half2_ro_sat

3.8.2.4.25. __half2float

3.8.2.4.26. __half2half_rn

3.8.2.4.27. __half2half_rz

3.8.2.4.28. __half2half_rd

3.8.2.4.29. __half2half_ru

3.8.2.4.30. __half2half_rna

3.8.2.4.31. __half2uint_rn

3.8.2.4.32. __half2uint_rz

3.8.2.4.33. __half2uint_rd

3.8.2.4.34. __half2uint_ru

3.8.2.4.35. __half2uint_rna

3.8.2.4.36. __half2int_rn

3.8.2.4.37. __half2int_rz

3.8.2.4.38. __half2int_rd

3.8.2.4.39. __half2int_ru

3.8.2.4.40. __half2ull_rn

3.8.2.4.41. __half2int_rna

3.8.2.4.42. __half2ull_rz

3.8.2.4.43. __half2ull_rd

3.8.2.4.44. __half2ull_ru

3.8.2.4.45. __half2ull_rna

3.8.2.4.46. __half2ll_rn

3.8.2.4.47. __half2ll_rz

3.8.2.4.48. __half2ll_rd

3.8.2.4.49. __half2ll_ru

3.8.2.4.50. __half2ll_rna

3.8.2.4.51. __bfloat162half_rn

3.8.2.4.52. __bfloat162half_rn_sat

3.8.2.4.53. __bfloat162half_rz

3.8.2.4.54. __bfloat162half_rz_sat

3.8.2.4.55. __bfloat162half_rd

3.8.2.4.56. __bfloat162half_rd_sat

3.8.2.4.57. __bfloat162half_ru

3.8.2.4.58. __bfloat162half_ru_sat

3.8.2.4.59. __bfloat162half_rna

3.8.2.4.60. __bfloat162half_rna_sat

3.8.2.4.61. __uint2half_rn

3.8.2.4.62. __uint2half_rn_sat

3.8.2.4.63. __uint2half_rz

3.8.2.4.64. __uint2half_rz_sat

3.8.2.4.65. __uint2half_rd

3.8.2.4.66. __uint2half_rd_sat

3.8.2.4.67. __uint2half_ru

3.8.2.4.68. __uint2half_ru_sat

3.8.2.4.69. __uint2half_rna

3.8.2.4.70. __uint2half_rna_sat

3.8.2.4.71. __int2half_rn

3.8.2.4.72. __int2half_rn_sat

3.8.2.4.73. __int2half_rz

3.8.2.4.74. __int2half_rz_sat

3.8.2.4.75. __int2half_rd

3.8.2.4.76. __int2half_rd_sat

3.8.2.4.77. __int2half_ru

3.8.2.4.78. __int2half_ru_sat

3.8.2.4.79. __int2half_rna

3.8.2.4.80. __int2half_rna_sat

3.8.2.4.81. __ull2half_rn

3.8.2.4.82. __ull2half_rz

3.8.2.4.83. __ull2half_rd

3.8.2.4.84. __ull2half_ru

3.8.2.4.85. __ull2half_rna

3.8.2.4.86. __ll2half_rn

3.8.2.4.87. __ll2half_rz

3.8.2.4.88. __ll2half_rd

3.8.2.4.89. __ll2half_ru

3.8.2.4.90. __ll2half_rna

3.8.2.4.91. __floats2half2_rn

3.8.2.4.92. __float22half2_rn

3.8.2.4.93. __low2half

3.8.2.4.94. __low2half2

3.8.2.4.95. __low2float

3.8.2.4.96. __lowhigh2highlow

3.8.2.4.97. __high2half

3.8.2.4.98. __high2half2

3.8.2.4.99. __high2float

3.8.2.4.100. __highs2half2

3.8.2.4.101. __lows2half2

3.8.2.4.102. __halves2half2

3.8.2.4.103. __half22float2

3.8.2.4.104. __ushort_as_half

3.8.2.5. half2类型算术函数

3.8.2.5.1. __haddx2

3.8.2.5.2. __hsubx2

3.8.2.5.3. __hmulx2

3.8.2.5.4. __hdivx2

3.8.2.5.5. __habsx2

3.8.2.5.6. __hfmax2

3.8.2.5.7. __hnegx2

3.8.2.5.8. __hfmax2_relu

3.8.2.5.9. __hcmadd

3.8.2.6. half2类型比较函数

3.8.2.6.1. __hbeqx2

3.8.2.6.2. __hbnex2

3.8.2.6.3. __hblex2

3.8.2.6.4. __hbgex2

3.8.2.6.5. __hbltx2

3.8.2.6.6. __hbgtx2

3.8.2.6.7. __hbequx2

3.8.2.6.8. __hbneux2

3.8.2.6.9. __hbleux2

3.8.2.6.10. __hbgeux2

3.8.2.6.11. __hbltux2

3.8.2.6.12. __hbgtux2

3.8.2.6.13. __heqx2

3.8.2.6.14. __hnex2

3.8.2.6.15. __hlex2

3.8.2.6.16. __hgex2

3.8.2.6.17. __hltx2

3.8.2.6.18. __hgtx2

3.8.2.6.19. __hequx2

3.8.2.6.20. __hneux2

3.8.2.6.21. __hleux2

3.8.2.6.22. __hgeux2

3.8.2.6.23. __hltux2

3.8.2.6.24. __hgtux2

3.8.2.6.25. __heqx2_mask

3.8.2.6.26. __hnex2_mask

3.8.2.6.27. __hlex2_mask

3.8.2.6.28. __hgex2_mask

3.8.2.6.29. __hltx2_mask

3.8.2.6.30. __hgtx2_mask

3.8.2.6.31. __hequx2_mask

3.8.2.6.32. __hneux2_mask

3.8.2.6.33. __hleux2_mask

3.8.2.6.34. __hgeux2_mask

3.8.2.6.35. __hltux2_mask

3.8.2.6.36. __hgtux2_mask

3.8.2.6.37. __isnanx2

3.8.2.6.38. __hmaxx2

3.8.2.6.39. __hmaxx2_nan

3.8.2.6.40. __hminx2

3.8.2.6.41. __hminx2_nan

3.8.2.7. half2类型数学库函数

3.8.2.7.1. h2tanh

3.8.2.7.2. h2exp

3.8.2.7.3. h2exp2

3.8.2.7.4. h2exp10

3.8.2.7.5. h2log

3.8.2.7.6. h2log2

3.8.2.7.7. h2log10

3.8.2.7.8. h2cos

3.8.2.7.9. h2sin

3.8.2.7.10. h2sqrt

3.8.2.7.11. h2rsqrt

3.8.2.7.12. h2rcp

3.8.2.7.13. h2rint

3.8.2.7.14. h2floor

3.8.2.7.15. h2ceil

3.8.2.7.16. h2trunc

3.8.3. bfloat16类型

3.8.3.1. bfloat16类型算术函数

3.8.3.1.1. __habs

3.8.3.1.2. __hfma

3.8.3.1.3. __hadd

3.8.3.1.4. __hsub

3.8.3.1.5. __hmul

3.8.3.1.6. __hdiv

3.8.3.1.7. __hneg

3.8.3.1.8. __hfma_relu

3.8.3.2. bfloat16类型比较函数

3.8.3.2.1. __hmax

3.8.3.2.2. __hmin

3.8.3.2.3. __hisnan

3.8.3.2.4. __hisinf

3.8.3.2.5. __heq

3.8.3.2.6. __hne

3.8.3.2.7. __hle

3.8.3.2.8. __hge

3.8.3.2.9. __hlt

3.8.3.2.10. __hgt

3.8.3.2.11. __hequ

3.8.3.2.12. __hneu

3.8.3.2.13. __hleu

3.8.3.2.14. __hgeu

3.8.3.2.15. __hltu

3.8.3.2.16. __hgtu

3.8.3.2.17. __hmax_nan

3.8.3.2.18. __hmin_nan

3.8.3.3. bfloat16类型数学库函数

3.8.3.3.1. htanh

3.8.3.3.2. hexp

3.8.3.3.3. hexp2

3.8.3.3.4. hexp10

3.8.3.3.5. hlog

3.8.3.3.6. hlog2

3.8.3.3.7. hlog10

3.8.3.3.8. hcos

3.8.3.3.9. hsin

3.8.3.3.10. hsqrt

3.8.3.3.11. hrsqrt

3.8.3.3.12. hrcp

3.8.3.3.13. hrint

3.8.3.3.14. hfloor

3.8.3.3.15. hceil

3.8.3.3.16. htrunc

3.8.3.4. bfloat16类型精度转换函数

3.8.3.4.1. __float2bfloat16

3.8.3.4.2. __float2bfloat16_rn

3.8.3.4.3. __float2bfloat16_rn_sat

3.8.3.4.4. __float22bfloat162_rn_sat

3.8.3.4.5. __float2bfloat16_rz

3.8.3.4.6. __float2bfloat16_rz_sat

3.8.3.4.7. __float22bfloat162_rz

3.8.3.4.8. __float22bfloat162_rz_sat

3.8.3.4.9. __float2bfloat16_rd

3.8.3.4.10. __float2bfloat16_rd_sat

3.8.3.4.11. __float22bfloat162_rd

3.8.3.4.12. __float22bfloat162_rd_sat

3.8.3.4.13. __float2bfloat16_ru

3.8.3.4.14. __float2bfloat16_ru_sat

3.8.3.4.15. __float22bfloat162_ru

3.8.3.4.16. __float22bfloat162_ru_sat

3.8.3.4.17. __float2bfloat16_rna

3.8.3.4.18. __float2bfloat16_rna_sat

3.8.3.4.19. __float22bfloat162_rna

3.8.3.4.20. __float22bfloat162_rna_sat

3.8.3.4.21. __half2bfloat16_rn

3.8.3.4.22. __half2bfloat16_rz

3.8.3.4.23. __half2bfloat16_rd

3.8.3.4.24. __half2bfloat16_ru

3.8.3.4.25. __half2bfloat16_rna

3.8.3.4.26. __bfloat162float

3.8.3.4.27. __bfloat162bfloat16_rn

3.8.3.4.28. __bfloat162bfloat16_rz

3.8.3.4.29. __bfloat162bfloat16_rd

3.8.3.4.30. __bfloat162bfloat16_ru

3.8.3.4.31. __bfloat162bfloat16_rna

3.8.3.4.32. __bfloat162uint_rn

3.8.3.4.33. __bfloat162uint_rz

3.8.3.4.34. __bfloat162uint_rd

3.8.3.4.35. __bfloat162uint_ru

3.8.3.4.36. __bfloat162uint_rna

3.8.3.4.37. __bfloat162int_rn

3.8.3.4.38. __bfloat162int_rz

3.8.3.4.39. __bfloat162int_rd

3.8.3.4.40. __bfloat162int_ru

3.8.3.4.41. __bfloat162int_rna

3.8.3.4.42. __bfloat162ull_rn

3.8.3.4.43. __bfloat162ull_rz

3.8.3.4.44. __bfloat162ull_rd

3.8.3.4.45. __bfloat162ull_ru

3.8.3.4.46. __bfloat162ull_rna

3.8.3.4.47. __bfloat162ll_rn

3.8.3.4.48. __bfloat162ll_rz

3.8.3.4.49. __bfloat162ll_rd

3.8.3.4.50. __bfloat162ll_ru

3.8.3.4.51. __bfloat162ll_rna

3.8.3.4.52. __uint2bfloat16_rn

3.8.3.4.53. __uint2bfloat16_rz

3.8.3.4.54. __uint2bfloat16_rd

3.8.3.4.55. __uint2bfloat16_ru

3.8.3.4.56. __uint2bfloat16_rna

3.8.3.4.57. __int2bfloat16_rn

3.8.3.4.58. __int2bfloat16_rz

3.8.3.4.59. __int2bfloat16_rd

3.8.3.4.60. __int2bfloat16_ru

3.8.3.4.61. __int2bfloat16_rna

3.8.3.4.62. __ull2bfloat16_rn

3.8.3.4.63. __ull2bfloat16_rz

3.8.3.4.64. __ull2bfloat16_rd

3.8.3.4.65. __ull2bfloat16_ru

3.8.3.4.66. __ull2bfloat16_rna

3.8.3.4.67. __ll2bfloat16_rn

3.8.3.4.68. __ll2bfloat16_rz

3.8.3.4.69. __ll2bfloat16_rd

3.8.3.4.70. __ll2bfloat16_ru

3.8.3.4.71. __ll2bfloat16_rna

3.8.3.4.72. __float2bfloat162_rn

3.8.3.4.73. __floats2bfloat162_rn

3.8.3.4.74. __float22bfloat162_rn

3.8.3.4.75. __bfloat162bfloat162

3.8.3.4.76. __halves2bfloat162

3.8.3.4.77. __high2bfloat16

3.8.3.4.78. __high2bfloat162

3.8.3.4.79. __high2float

3.8.3.4.80. __highs2bfloat162

3.8.3.4.81. __low2bfloat16

3.8.3.4.82. __low2bfloat162

3.8.3.4.83. __low2float

3.8.3.4.84. __lowhigh2highlow

3.8.3.4.85. __lows2bfloat162

3.8.3.4.86. __bfloat1622float2

3.8.3.4.87. __ushort_as_bfloat16

3.8.3.5. bfloat16x2类型算术函数

3.8.3.5.1. __haddx2

3.8.3.5.2. __hsubx2

3.8.3.5.3. __hmulx2

3.8.3.5.4. __hdivx2

3.8.3.5.5. __habsx2

3.8.3.5.6. __hfmax2

3.8.3.5.7. __hnegx2

3.8.3.5.8. __hfmax2_relu

3.8.3.5.9. __hcmadd

3.8.3.6. bfloat16x2类型比较函数

3.8.3.6.1. __hbeqx2

3.8.3.6.2. __hbnex2

3.8.3.6.3. __hblex2

3.8.3.6.4. __hbgex2

3.8.3.6.5. __hbltx2

3.8.3.6.6. __hbgtx2

3.8.3.6.7. __hbequx2

3.8.3.6.8. __hbneux2

3.8.3.6.9. __hbleux2

3.8.3.6.10. __hbgeux2

3.8.3.6.11. __hbltux2

3.8.3.6.12. __hbgtux2

3.8.3.6.13. __heqx2

3.8.3.6.14. __hnex2

3.8.3.6.15. __hlex2

3.8.3.6.16. __hgex2

3.8.3.6.17. __hltx2

3.8.3.6.18. __hgtx2

3.8.3.6.19. __hequx2

3.8.3.6.20. __hneux2

3.8.3.6.21. __hleux2

3.8.3.6.22. __hgeux2

3.8.3.6.23. __hltux2

3.8.3.6.24. __hgtux2

3.8.3.6.25. __heqx2_mask

3.8.3.6.26. __hnex2_mask

3.8.3.6.27. __hlex2_mask

3.8.3.6.28. __hgex2_mask

3.8.3.6.29. __hltx2_mask

3.8.3.6.30. __hgtx2_mask

3.8.3.6.31. __hequx2_mask

3.8.3.6.32. __hneux2_mask

3.8.3.6.33. __hleux2_mask

3.8.3.6.34. __hgeux2_mask

3.8.3.6.35. __hltux2_mask

3.8.3.6.36. __hgtux2_mask

3.8.3.6.37. __isnanx2

3.8.3.6.38. __hmaxx2

3.8.3.6.39. __hmaxx2_nan

3.8.3.6.40. __hminx2

3.8.3.6.41. __hminx2_nan

3.8.3.7. bfloat16x2类型数学库函数

3.8.3.7.1. h2tanh

3.8.3.7.2. h2exp

3.8.3.7.3. h2exp2

3.8.3.7.4. h2exp10

3.8.3.7.5. h2log

3.8.3.7.6. h2log2

3.8.3.7.7. h2log10

3.8.3.7.8. h2cos

3.8.3.7.9. h2sin

3.8.3.7.10. h2sqrt

3.8.3.7.11. h2rsqrt

3.8.3.7.12. h2rcp

3.8.3.7.13. h2rint

3.8.3.7.14. h2floor

3.8.3.7.15. h2ceil

3.8.3.7.16. h2trunc

3.8.4. float类型数学库函数

3.8.4.1. tanf

3.8.4.2. tanhf

3.8.4.3. tanpif

3.8.4.4. atanf

3.8.4.5. atan2f

3.8.4.6. atanhf

3.8.4.7. expf

3.8.4.8. exp2f

3.8.4.9. exp10f

3.8.4.10. expm1f

3.8.4.11. logf

3.8.4.12. log2f

3.8.4.13. log10f

3.8.4.14. log1pf

3.8.4.15. logbf

3.8.4.16. ilogbf

3.8.4.17. cosf

3.8.4.18. coshf

3.8.4.19. cospif

3.8.4.20. acosf

3.8.4.21. acoshf

3.8.4.22. sinf

3.8.4.23. sinhf

3.8.4.24. sinpif

3.8.4.25. asinf

3.8.4.26. asinhf

3.8.4.27. sincosf

3.8.4.28. sincospif

3.8.4.29. frexpf

3.8.4.30. ldexpf

3.8.4.31. sqrtf

3.8.4.32. rsqrtf

3.8.4.33. hypotf

3.8.4.34. rhypotf

3.8.4.35. powf

3.8.4.36. norm3df

3.8.4.37. rnorm3df

3.8.4.38. norm4df

3.8.4.39. rnorm4df

3.8.4.40. normf

3.8.4.41. rnormf

3.8.4.42. cbrtf

3.8.4.43. rcbrtf

3.8.4.44. erff

3.8.4.45. erfcf

3.8.4.46. erfinvf

3.8.4.47. erfcinvf

3.8.4.48. erfcxf

3.8.4.49. tgammaf

3.8.4.50. lgammaf

3.8.4.51. cyl_bessel_i0f

3.8.4.52. cyl_bessel_i1f

3.8.4.53. normcdff

3.8.4.54. normcdfinvf

3.8.4.55. j0f

3.8.4.56. j1f

3.8.4.57. jnf

3.8.4.58. y0f

3.8.4.59. y1f

3.8.4.60. ynf

3.8.4.61. fabsf

3.8.4.62. fmaf

3.8.4.63. fmaxf

3.8.4.64. fminf

3.8.4.65. fdimf

3.8.4.66. remquof

3.8.4.67. fmodf

3.8.4.68. remainderf

3.8.4.69. copysignf

3.8.4.70. nearbyintf

3.8.4.71. nextafterf

3.8.4.72. scalbnf

3.8.4.73. scalblnf

3.8.4.74. modff

3.8.4.75. fdividef

3.8.4.76. signbit

3.8.4.77. __saturatef

3.8.4.78. __fdividef

3.8.4.79. rintf

3.8.4.80. lrintf

3.8.4.81. llrintf

3.8.4.82. roundf

3.8.4.83. lroundf

3.8.4.84. llroundf

3.8.4.85. floorf

3.8.4.86. ceilf

3.8.4.87. truncf

3.8.4.88. isfinite

3.8.4.89. isnan

3.8.4.90. isinf

3.8.5. 数据类型转换

3.8.5.1. 概述

3.8.5.2. 类型转换函数

3.8.5.2.1. __float2float_rn

3.8.5.2.2. __float2float_rz

3.8.5.2.3. __float2float_rd

3.8.5.2.4. __float2float_ru

3.8.5.2.5. __float2float_rna

3.8.5.2.6. __float2uint_rn

3.8.5.2.7. __float2uint_rz

3.8.5.2.8. __float2uint_rd

3.8.5.2.9. __float2uint_ru

3.8.5.2.10. __float2uint_rna

3.8.5.2.11. __float2int_rn

3.8.5.2.12. __float2int_rz

3.8.5.2.13. __float2int_rd

3.8.5.2.14. __float2int_ru

3.8.5.2.15. __float2int_rna

3.8.5.2.16. __float2ull_rn

3.8.5.2.17. __float2ull_rz

3.8.5.2.18. __float2ull_rd

3.8.5.2.19. __float2ull_ru

3.8.5.2.20. __float2ull_rna

3.8.5.2.21. __float2ll_rn

3.8.5.2.22. __float2ll_rz

3.8.5.2.23. __float2ll_rd

3.8.5.2.24. __float2ll_ru

3.8.5.2.25. __float2ll_rna

3.8.5.2.26. __uint2float_rn

3.8.5.2.27. __uint2float_rz

3.8.5.2.28. __uint2float_rd

3.8.5.2.29. __uint2float_ru

3.8.5.2.30. __uint2float_rna

3.8.5.2.31. __int2float_rn

3.8.5.2.32. __int2float_rz

3.8.5.2.33. __int2float_rd

3.8.5.2.34. __int2float_ru

3.8.5.2.35. __int2float_rna

3.8.5.2.36. __ull2float_rn

3.8.5.2.37. __ull2float_rz

3.8.5.2.38. __ull2float_rd

3.8.5.2.39. __ull2float_ru

3.8.5.2.40. __ull2float_rna

3.8.5.2.41. __ll2float_rn

3.8.5.2.42. __ll2float_rz

3.8.5.2.43. __ll2float_rd

3.8.5.2.44. __ll2float_ru

3.8.5.2.45. __ll2float_rna

3.8.5.2.46. __int_as_float

3.8.5.2.47. __uint_as_float

3.8.5.2.48. __float_as_int

3.8.5.2.49. __float_as_uint

3.8.6. 整型数学库函数

3.8.6.1. labs

3.8.6.2. llabs

3.8.6.3. llmax

3.8.6.4. ullmax

3.8.6.5. umax

3.8.6.6. llmin

3.8.6.7. ullmin

3.8.6.8. umin

3.8.6.9. __mulhi

3.8.6.10. __umulhi

3.8.6.11. __mul64hi

3.8.6.12. __umul64hi

3.8.6.13. __mul_i32toi64

3.8.6.14. __brev

3.8.6.15. __clz

3.8.6.16. __ffs

3.8.6.17. __popc

3.8.6.18. __byte_perm

3.8.6.19. __sad

3.8.6.20. __usad

3.8.6.21. __mul24

3.8.6.22. __umul24

3.8.6.23. __hadd

3.8.6.24. __rhadd

3.8.6.25. __uhadd

3.8.6.26. __urhadd

3.8.6.27. max

3.8.6.28. min

3.9. 地址空间谓词函数

3.9.1. __isGlobal

3.9.2. __isUbuf

3.9.3. __isLocal

3.10. 地址空间转换函数

3.10.1. __cvta_generic_to_global

3.10.2. __cvta_generic_to_ubuf

3.10.3. __cvta_generic_to_local

3.10.4. __cvta_global_to_generic

3.10.5. __cvta_ubuf_to_generic

3.10.6. __cvta_local_to_generic

3.11. 访存函数

3.11.1. 访存函数简介

3.11.2. asc_ldcg

3.11.3. asc_ldca

3.11.4. asc_stcg

3.11.5. asc_stwt

3.11.6. asc_dcci_single

3.11.7. asc_dcci_entire

4. Utils API

4.1. Utils API列表

4.2. C++标准库

4.2.1. 算法

4.2.1.1. max

4.2.1.2. min

4.2.2. 数学函数

4.2.2.1. abs

4.2.2.2. sqrt

4.2.3. 容器函数

4.2.3.1. tuple

4.2.3.2. get

4.2.3.3. make_tuple

4.2.4. 类型特性

4.2.4.1. is_convertible

4.2.4.2. is_base_of

4.2.4.3. is_same

4.2.4.4. is_void

4.2.4.5. is_integral

4.2.4.6. is_floating_point

4.2.4.7. is_array

4.2.4.8. is_pointer

4.2.4.9. is_reference

4.2.4.10. is_const

4.2.4.11. remove_const

4.2.4.12. remove_volatile

4.2.4.13. remove_cv

4.2.4.14. remove_reference

4.2.4.15. remove_pointer

4.2.4.16. add_const

4.2.4.17. add_volatile

4.2.4.18. add_cv

4.2.4.19. add_pointer

4.2.4.20. add_lvalue_reference

4.2.4.21. add_rvalue_reference

4.2.4.22. enable_if

4.2.4.23. conditional

4.2.4.24. integral_constant

4.2.5. 通用工具

4.2.5.1. integer_sequence

4.3. 平台信息获取

4.3.1. PlatformAscendC

4.3.1.1. PlatformAscendC简介

4.3.1.2. 构造及析构函数

4.3.1.3. GetCoreNum

4.3.1.4. GetSocVersion

4.3.1.5. GetCurNpuArch

4.3.1.6. GetVecRegLen

4.3.1.7. GetCoreNumAic

4.3.1.8. GetCoreNumAiv

4.3.1.9. GetCoreNumVector

4.3.1.10. CalcTschNumBlocks

4.3.1.11. GetCoreMemSize

4.3.1.12. GetCoreMemBw

4.3.1.13. GetLibApiWorkSpaceSize

4.3.1.14. GetResGroupBarrierWorkSpaceSize

4.3.1.15. GetResCubeGroupWorkSpaceSize

4.3.1.16. ReserveLocalMemory

4.3.2. PlatformAscendCManager

4.4. 原型注册与管理

4.4.1. 原型注册接口（OP_ADD）

4.4.2. OpAICoreConfig注册接口（REGISTER_OP_AICORE_CONFIG）

4.4.3. OpDef

4.4.3.1. Input

4.4.3.2. Output

4.4.3.3. Attr

4.4.3.4. SetInferShape

4.4.3.5. SetInferShapeRange

4.4.3.6. SetInferDataType

4.4.3.7. AICore

4.4.3.8. AICPU

4.4.3.9. HostCPU

4.4.3.10. MC2

4.4.3.11. EnableFallBack

4.4.3.12. Comment

4.4.3.13. FormatMatchMode

4.4.4. OpParamDef

4.4.4.1. 构造&拷贝构造函数

4.4.4.2. ParamType

4.4.4.3. DataType

4.4.4.4. DataTypeForBinQuery

4.4.4.5. DataTypeList

4.4.4.6. Format

4.4.4.7. FormatForBinQuery

4.4.4.8. FormatList

4.4.4.9. UnknownShapeFormat（废弃）

4.4.4.10. ValueDepend

4.4.4.11. IgnoreContiguous

4.4.4.12. AutoContiguous

4.4.4.13. Scalar

4.4.4.14. ScalarList

4.4.4.15. To

4.4.4.16. Version

4.4.4.17. InitValue

4.4.4.18. OutputShapeDependOnCompute

4.4.4.19. Follow

4.4.4.20. Comment

4.4.5. OpAttrDef

4.4.5.1. Comment

4.4.6. OpAICoreDef

4.4.6.1. SetTiling

4.4.6.2. SetCheckSupport

4.4.6.3. SetOpSelectFormat

4.4.6.4. SetOpSupportInfo

4.4.6.5. SetOpSpecInfo

4.4.6.6. SetParamGeneralize

4.4.6.7. AddConfig

4.4.6.8. LaunchWithZeroEleOutputTensors

4.4.7. OpAICPUDef

4.4.7.1. Engine

4.4.7.2. FlagPartial

4.4.7.3. ComputeCost

4.4.7.4. FlagAsync

4.4.7.5. OpkernelLib

4.4.7.6. KernelSo

4.4.7.7. FunctionName

4.4.7.8. UserDefined

4.4.7.9. ExtendCfgInfo

4.4.8. OpHostCPUDef

4.4.8.1. Engine

4.4.8.2. FlagPartial

4.4.8.3. ComputeCost

4.4.8.4. FlagAsync

4.4.8.5. OpKernelLib

4.4.8.6. KernelSo

4.4.8.7. FunctionName

4.4.8.8. UserDefined

4.4.8.9. ExtendCfgInfo

4.4.9. OpAICoreConfig

4.4.9.1. OpAICoreConfig构造函数

4.4.9.2. Input

4.4.9.3. Output

4.4.9.4. DynamicCompileStaticFlag

4.4.9.5. DynamicFormatFlag

4.4.9.6. DynamicRankSupportFlag

4.4.9.7. DynamicShapeSupportFlag

4.4.9.8. NeedCheckSupportFlag

4.4.9.9. PrecisionReduceFlag

4.4.9.10. ExtendCfgInfo

4.4.9.11. operator =

4.4.10. OpMC2Def

4.4.10.1. OpMC2Def简介

4.4.10.2. OpMC2Def构造函数

4.4.10.3. HcclGroup

4.4.10.4. HcclServerType

4.4.10.5. operator=

4.5. Tiling数据结构注册

4.5.1. TilingData结构定义

4.5.2. TilingData结构注册

4.6. Tiling调测

4.6.1. OpTilingRegistry

4.6.1.1. 简介

4.6.1.2. 构造和析构函数

4.6.1.3. GetTilingFunc

4.6.1.4. LoadTilingLibrary

4.6.2. ContextBuilder

4.6.2.1. 简介

4.6.2.2. ContextBuilder构造函数

4.6.2.3. KernelRunContextHolder结构定义

4.6.2.4. Inputs

4.6.2.5. Outputs

4.6.2.6. BuildKernelRunContext

4.6.2.7. NodeIoNum

4.6.2.8. SetOpNameType

4.6.2.9. IrInstanceNum

4.6.2.10. AddInputTd

4.6.2.11. AddOutputTd

4.6.2.12. AddAttr

4.6.2.13. CompileInfo

4.6.2.14. PlatformInfo

4.6.2.15. AddPlatformInfo

4.6.2.16. TilingData

4.6.2.17. Workspace

4.6.2.18. BuildTilingContext

4.7. Tiling模板编程

4.7.1. 模板参数定义

4.7.2. GET_TPL_TILING_KEY

4.7.3. ASCENDC_TPL_SEL_PARAM

4.8. Tiling下沉

4.8.1. DEVICE_IMPL_OP_OPTILING

4.9. RTC

4.9.1. RTC简介

4.9.2. aclrtcCompileProg

4.9.3. aclrtcCreateProg

4.9.4. aclrtcDestroyProg

4.9.5. aclrtcGetBinData

4.9.6. aclrtcGetBinDataSize

4.9.7. aclrtcAddNameExpr

4.9.8. aclrtcGetLoweredName

4.9.9. aclrtcGetCompileLogSize

4.9.10. aclrtcGetCompileLog

4.9.11. RTC错误码

4.10. log

4.10.1. ASC_CPU_LOG

4.11. 调测接口

4.11.1. printf

4.11.2. assert

4.11.3. __trap

4.11.4. asc_dump

4.11.5. clock

4.11.6. asc_time_stamp

4.11.7. asc_prof_start

4.11.8. asc_prof_stop

4.11.9. asc_mark_stamp

4.11.10. TRACE_START

4.11.11. TRACE_STOP

4.12. SuperKernel

4.12.1. SK_BIND

5. AI CPU API

5.1. AI CPU API列表

5.2. printf

5.3. assert

5.4. DataStoreBarrier

6. 附录

6.1. 预留接口

6.2. 接口变更说明

README

On this page

thread_block

thread_block简介
thread_block构造函数
sync
size
num_threads
thread_rank
thread_index
group_index
group_dim
dim_threads

在 Gitcode 上打开此页

Pager

下一页1. Ascend C API列表

免责声明：本站内容由 asc-devkit 仓 master 分支自动编译生成，属于持续开发版本，可能存在缺陷，仅供预览与参考。如需稳定及商用资料，请查阅官方昇腾社区。

Copyright Huawei Technologies Co., Ltd.