DeQue产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品√Atlas 推理系列产品 AI Core√Atlas 推理系列产品 Vector CorexAtlas 训练系列产品√Kirin X90√Kirin 9030√功能说明将Tensor从队列中取出用于后续处理。函数原型无需指定源和目的位置non-inplace接口将入队的LocalTensor地址从队列中取出赋值给新创建的Tensor并返回template typename T __aicore__ inline LocalTensorT DeQue()inplace接口通过出参的方式返回可以减少Tensor反复创建的开销具体使用指导可参考Tensor原地操作。template typename T __aicore__ inline void DeQue(LocalTensorT tensor)需要指定源和目的位置通过TQueBind绑定VECIN和VECOUT可实现VECIN和VECOUT内存复用如下接口用于存在Vector计算的场景下实现复用在出队时需要指定源和目的位置不存在Vector计算的场景下可直接调用LocalTensorT DeQue()出队接口。template TPosition srcUserPos, TPosition dstUserPos, typename T __aicore__ inline LocalTensorT DeQue()参数说明表 1模板参数说明参数名说明TTensor的数据类型。srcUserPos用户指定队列的src position当前只支持如下通路GM-VECIN/VECOUT-GM。dstUserPos用户指定队列的dst position当前只支持如下通路GM-VECIN/VECOUT-GM。表 2参数说明参数名称输入/输出含义tensor输出inplace接口需要通过出参的方式返回Tensor。约束说明对空队列执行DeQue是一种异常行为会在CPU调测时报错。non-inplace接口和指定源和目的位置的接口需要将TQueBind的depth模板参数设置为非零值inplace接口需要将TQueBind的depth模板参数设置为0。返回值说明non-inplace接口和指定源和目的位置的接口返回值为从队列中取出的LocalTensorinplace接口没有返回值。调用示例// 接口: DeQue Tensor AscendC::TPipe pipe; AscendC::TQueAscendC::TPosition::VECOUT, 4 que; int num 4; int len 1024; pipe.InitBuffer(que, num, len); AscendC::LocalTensorhalf tensor1 que.AllocTensorhalf(); que.EnQue(tensor1); AscendC::LocalTensorhalf tensor2 que.DeQuehalf(); // 将tensor从VECOUT的Queue中搬出 // 接口: DeQue Tensor指定特定的Src/Dst position AscendC::TPipe pipe; AscendC::TQueBindAscendC::TPosition::VECIN, AscendC::TPosition::VECOUT, 1 que; int num 4; int len 1024; pipe.InitBuffer(que, num, len); AscendC::LocalTensorhalf tensor1 que.AllocTensorhalf(); que.EnQueAscendC::TPosition::GM, AscendC::TPosition::VECIN, half(tensor1); // 将tensor从VECIN的Queue中搬出 AscendC::LocalTensorhalf tensor2 que.DeQueAscendC::TPosition::GM, AscendC::TPosition::VECIN, half(); // inplace接口 AscendC::TPipe pipe; AscendC::TQueAscendC::TPosition::VECOUT, 0 que; int num 2; int len 1024; pipe.InitBuffer(que, num, len); AscendC::LocalTensorhalf tensor1; que.AllocTensorhalf(tensor1); que.EnQue(tensor1); que.DeQuehalf(tensor1); // 将tensor从VECOUT的Queue中搬出 que.FreeTensorhalf(tensor1);创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考