asc_copy_l12l0b_sparse【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径c_api/cube_datamove/cube_datamove.h。用于搬运存放在L1 Buffer里的512B大小的稠密权重矩阵到L0B Buffer里同时读取128B大小的索引矩阵用于稠密矩阵的稀疏化。索引矩阵在一个int8_t的地址中的排布是逆序排布的例如索引矩阵1 2 0 1 0 2 1 0在地址中的排布为1 0 2 1 0 1 2 0其中1 0 2 1对应索引矩阵前四位1 2 0 1拼成一个int8_t数据0 1 2 0对应索引矩阵后四位0 2 1 0拼成一个int8_t数据。函数原型高维切分搬运__aicore__ inline void asc_copy_l12l0b_sparse(__cb__ int8_t* dst, __cbuf__ int8_t* src, __cbuf__ int8_t* index, uint16_t start_index, uint8_t repeat)同步搬运__aicore__ inline void asc_copy_l12l0b_sparse_sync(__cb__ int8_t* dst, __cbuf__ int8_t* src, __cbuf__ int8_t* index, uint16_t start_index, uint8_t repeat)参数说明表1参数说明 | 参数名 | 输入/输出 | 描述 | | :--- | :--- | :--- | | dst | 输出 | 目的操作数在L0B Buffer的起始地址。 | | src | 输入 | 源操作数在L1 Buffer的起始地址。 | | index | 输入 | 索引矩阵在L1 Buffer的起始地址。 | | start_index | 输入 | 分形矩阵ID说明搬运起始位置为源操作数中第几个分形0为源操作数中第1个分形矩阵。取值范围[0, 65535]。单位512B。 | | repeat | 输入 | 迭代次数每个迭代可以处理512B数据。取值范围[1, 255]。 |返回值说明无流水类型PIPE_MTE1约束说明操作数地址重叠约束请参考通用地址重叠约束。dst、src的起始地址需要32字节对齐。repeat为0表示不执行。start_index不能小于0。不支持转置功能。调用示例__cb__ int8_t dst[256]; __cbuf__ int8_t src[256]; __cbuf__ int8_t index[64]; uint16_t start_index 1; uint8_t repeat 8; asc_copy_l12l0b_sparse(dst, src, index, start_index, repeat);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考