【注意力机制】CVPR 2025 | Lighten Cross-Attention (LCA):轻量化交叉注意力融合色度-强度特征,双路协同增强照亮暗部! 一、论文信息论文标题:HVI: A New Color Space for Low-light Image Enhancement论文链接:https://arxiv.org/abs/2502.20272发表会议:CVPR 2025所属机构:Northwestern Polytechnical University / The University of Adelaide代码仓库:https://github.com/Fediory/HVI-CIDNet二、模块概述Lighten Cross-Attention (LCA)是一种轻量化交叉注意力模块,用于 CIDNet(Color and Intensity Decoupling Network)中,在 HVI(Horizontal/Vertical-Intensity)颜色空间的色度(HV)和强度(I)两个并行编码器-解码器分支之间进行跨分支特征交互。LCA 的核心设计思路是:将低光照图像的增强分解为两个并行的子任务——色度信息处理(HV Pathway)和强度信息处理(I Pathway),并通过轻量化的交叉注意力机制让两个分支互相指导、互补增强。在编码器和解码器的每个层级之间,LCA 模块对两条路径的特征进行交互融合,实现色度-强度的协同优化。关键特性轻量化:使用深度可分离卷积 + 多头交叉注意力,参数量极小双向交互:HV → I 和 I → HV 两条路径同时进行交叉注意力即插即用:可直接嵌入到编码器-解码器架构的跳跃连接处三、模块结构详解3.1 CIDNet 架构概览CIDNet 的整体架构如下:LCA 模块被放置在 HV 和 I 两条路径的对应层级之间(共 6 处),实现跨路径特征交互。3.2 LCA 模块的内部结构LCA 模块包含两个核心子模块:CAB(Cross Attention Block):跨多头注意力块IEL(Intensity Enhancement Layer):强度增强层(门控前馈网络)HV_LCA 与 I_LCALCA 有两种变体,分别用于两条路径:HV_LCA:X = X + C A B ( L N ( X ) , L N ( Y ) ) X = X + CAB(LN(X), LN(Y))X=X+CAB(LN(X),LN(Y)),X = I E L ( L N ( X ) ) X = IEL(LN(X))X=IEL(LN(X))I_LCA:X = X + C A B ( L N ( X ) , L N ( Y ) ) X = X + CAB(LN(X), LN(Y))X=X+CAB(LN(X),LN(Y)),X = X + I E L ( L N ( X ) ) X = X + IEL(LN(X))X=X+IEL(LN(X))两者的区别在于:I_LCA 在 IEL 后额外保留了一条残差连接,使得 Intensity 路径的信息能够更完整地保留。3.3 CAB(Cross Attention Block)CAB 是 LCA 的核心注意力组件,执行标准的多头交叉注意力操作:# 伪代码逻辑defforward(self,x,y):# x 作为 Query, y 作为 Key/Valueq=DWConv(Conv1×1(x))# 深度可分离卷积处理 Queryk,v=chunk(DWConv(Conv1×1(y)))# 深度可分离卷积处理 Key/Value# 多头注意力q=normalize(q)# L2 归一化k=normalize(k)# L2 归一化attn=softmax(q @ k^T*temperature)# 可学习温度缩放out=attn @ vreturnConv1×1(out)详细实现:q = D W C o n v 3 × 3 ( C o n v 1 × 1 ( x ) ) q = DWConv_{3\times3}(Conv_{1\times1}(x))q=DWConv3×3​(Conv