CANN asc-devkit SetAtomicAdd原子操作 SetAtomicAdd【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品支持功能说明头文件路径为basic_api/kernel_operator_set_atomic_intf.h。对后续目的地址为GM的数据搬运开启原子累加。原子累加过程将待拷贝的内容和GM已有内容进行求和然后将求和结果写入GM。SetAtomicAdd接口可通过模板参数设定不同的累加数据类型。函数原型template typename T __aicore__ inline void SetAtomicAdd()参数说明表1模板参数说明参数名描述T设定不同的原子累加操作数据类型。数据类型Ascend 950PR/Ascend 950DT支持的数据类型为int8_t、int16_t、half、bfloat16_t、int32_t、float。Atlas A3 训练系列产品/Atlas A3 推理系列产品支持的数据类型为int8_t、int16_t、half、bfloat16_t、int32_t、float。Atlas A2 训练系列产品/Atlas A2 推理系列产品支持的数据类型为int8_t、int16_t、half、bfloat16_t、int32_t、float。Atlas 200I/500 A2 推理产品支持的数据类型为int16_t、half、int32_t、float。Atlas 推理系列产品AI Core支持的数据类型为int16_t、half、float。Atlas 训练系列产品支持的数据类型为float。返回值说明无约束说明Ascend 950PR/Ascend 950DT支持的数据通路为UB/L0C Buffer-GM。Atlas A3 训练系列产品/Atlas A3 推理系列产品支持的数据通路为UB/L0C Buffer/L1 Buffer-GM。Atlas A2 训练系列产品/Atlas A2 推理系列产品支持的数据通路为UB/L0C Buffer/L1 Buffer-GM。Atlas 200I/500 A2 推理产品支持的数据通路为UB/L0C Buffer/L1 Buffer-GM。Atlas 推理系列产品AI Core支持的数据通路为UB-GM。Atlas 训练系列产品支持的数据通路为UB-GM。累加操作完成后建议通过DisableDmaAtomic关闭原子累加以免影响后续相关指令功能。该接口执行前不会自动清零GM数据。开发者需根据算子逻辑判断是否清零如需清零请在执行前手动完成。SetAtomicAdd内部已集成与SetAtomicType相同的功能。建议调用上述接口时通过设置模板参数显式指定原子操作的数据类型无需额外调用SetAtomicType接口。调用示例AscendC::LocalMemAllocatorAscendC::Hardware::UB ubAllocator; AscendC::LocalTensorT srcLocal ubAllocator.AllocT, SIZE(); AscendC::DisableDmaAtomic(); AscendC::DataCopy(srcLocal, srcGlobal, SIZE); AscendC::SetFlagAscendC::HardEvent::MTE2_MTE3(EVENT_ID0); AscendC::WaitFlagAscendC::HardEvent::MTE2_MTE3(EVENT_ID0); AscendC::SyncAll(); // 开启原子累加将UB数据原子累加到GM AscendC::SetAtomicAddT(); AscendC::DataCopy(dstGlobal, srcLocal, SIZE); // 关闭原子累加 AscendC::DisableDmaAtomic();完整样例请参考DataMovementWithAtomicOperations样例。【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考