Skip to content

SoftMax/SimpleSoftMax Tiling

功能说明

用于获取SoftMax/SimpleSoftMax Tiling参数。

函数原型

  • 获取Kernel接口计算所需最大/最小临时空间的接口

    Text
    uint32_t GetSoftMaxMaxTmpSize(const AscendC::TensorShape& srcShape, const uint32_t dataTypeSize, const bool isReuseSource)
    
    Text
    uint32_t GetSoftMaxMinTmpSize(const AscendC::TensorShape& srcShape, const uint32_t dataTypeSize, const bool isReuseSource)
    
  • Tiling计算接口

    • AscendC::optiling命名空间下的计算接口

      Text
      void SoftMaxTilingFunc(const AscendC::TensorShape& srcShape, const uint32_t dataTypeSize, const uint32_t localWorkSpaceSize, optiling::SoftMaxTiling& softmaxTiling)
      
    • AscendC命名空间下的计算接口

      Text
      void SoftMaxTilingFunc(const AscendC::TensorShape& srcShape, const uint32_t dataTypeSize, const uint32_t localWorkSpaceSize, AscendC::tiling::SoftMaxTiling& softmaxTiling)
      

参数说明

表1 SoftMax/SimpleSoftMax GetSoftMaxMaxTmpSize/GetSoftMaxMinTmpSize接口参数列表

参数名输入/输出功能
srcShape输入输入srcTensor的shape信息,参数类型为AscendC::TensorShape
dataTypeSize输入参与计算的max和sum的数据类型,比如half=2。
isReuseSource输入与kernel侧接口配置保持一致。

表2 SoftMax/SimpleSoftMax SoftMaxTilingFunc接口参数列表

参数名输入/输出功能
srcShape输入输入srcTensor的shape信息,参数类型为AscendC::TensorShape
dataTypeSize输入参与计算的max和sum的数据类型,比如half=2。
localWorkSpaceSize输入剩余的可供SoftMax接口计算的空间大小,单位为Byte。localWorkSpaceSize的取值必须大于GetSoftMaxMinTmpSize接口返回的计算所需的最小临时空间大小。
softmaxTiling输出输出SoftMax接口所需的tiling信息,支持optiling::SoftMaxTiling形式入参和AscendC::tiling::SoftMaxTiling形式入参。

返回值说明

GetSoftMaxMaxTmpSize返回SoftMax/SimpleSoftMax接口能完成计算所需最大临时空间大小,单位为Byte。

GetSoftMaxMinTmpSize返回SoftMax/SimpleSoftMax接口能完成计算所需最小临时空间大小,单位为Byte。

约束说明

免责声明:本站内容由 asc-devkit 仓 master 分支自动编译生成,属于持续开发版本,可能存在缺陷,仅供预览与参考。如需稳定及商用资料,请查阅官方 昇腾社区