Async【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/kernel_operator_utils_intf.h。基于分离模式AIC和AIV分离开发融合算子时算子逻辑中通常同时包含AIV和AIC的处理逻辑此时需要使用Ascend C提供的宏ASCEND_IS_AIV/ASCEND_IS_AIC实现如下硬件条件分支来对AIV和AIC的代码进行隔离if ASCEND_IS_AIV { // AIV处理逻辑 } if ASCEND_IS_AIC { // AIC处理逻辑 }Async通过模板函数的方式对这种隔离模式进行了封装提供了一个统一的接口用于在不同执行单元AIC或AIV下执行特定函数从而避免在代码中使用硬件条件分支。函数原型template EngineType engine, auto funPtr, class... Args __aicore__ void Async(Args... args)参数说明表1模板参数说明参数名描述engineEngineType枚举类型可取值如下对应不同的硬件执行单元• AIC• AIVfunPtr函数指针指定要执行的函数函数签名和参数类型由class... Args决定。class... Args可变参数模板表示函数参数的类型列表用于传递给funPtr。表2参数说明参数名输入/输出描述Args... args输入与class... Args对应的参数列表表示传递给funPtr的实际参数。返回值说明无约束说明无调用示例__aicore__ inline void cubeProcess(KernelMmad op, GM_ADDR A, GM_ADDR B, GM_ADDR c) { op.InitAIC(A, B, c); op.ProcessAIC(); } __aicore__ inline void vectorProcess(KernelMmad op, GM_ADDR a, GM_ADDR b, GM_ADDR A, GM_ADDR B, GM_ADDR c) { op.InitAIV(a, b, A, B, c); op.ProcessAIV(); } __global__ __mix__(1,2) void mmad_custom(GM_ADDR a, GM_ADDR b, GM_ADDR A, GM_ADDR B, GM_ADDR c) { AscendC::InitSocState(); KernelMmad op; AscendC::AsyncAscendC::EngineType::AIC, cubeProcess(op, A, B, c); AscendC::AsyncAscendC::EngineType::AIV, vectorProcess(op, a, b, A, B, c); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考