FreeTensor
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
- Atlas 200I/500 A2 推理产品:支持
- Atlas 推理系列产品AI Core:支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:支持
- Kirin X90:支持
- Kirin 9030:支持
功能说明
头文件路径为:"basic_api/kernel_tpipe.h"。
释放Que中的指定Tensor。
函数原型
C++
template <typename T>
__aicore__ inline void FreeTensor(LocalTensor<T>& tensor)
参数说明
表1 模板参数说明
参数名 | 说明 |
|---|---|
T | Tensor的数据类型,支持的类型请见LocalTensor相关描述。 |
表2 参数说明
参数名称 | 输入/输出 | 含义 |
|---|---|---|
tensor | 输入 | 待释放的Tensor。 |
约束说明
无
返回值说明
无
调用示例
C++
// 使用FreeTensor释放通过AllocTensor分配的Tensor,注意配对使用
AscendC::TPipe pipe;
AscendC::TQue<AscendC::TPosition::VECOUT, 2> que;
int num = 4;
int len = 1024;
pipe.InitBuffer(que, num, len);
AscendC::LocalTensor<half> tensor1 = que.AllocTensor<half>();
que.FreeTensor<half>(tensor1);