103、DAT 深度解析：可变形注意力 Transformer 如何提升超分性能上周调试一个4倍超分模型，跑完200个epoch，PSNR死活卡在28.5上不去。换了几种常见的注意力机制——Swin的窗口注意力、CSWin的十字注意力，甚至试了EDT的稀疏注意力——效果都差不多。直到我把DAT（Deformable Attention Transformer）塞进去，同样的训练配置，PSNR直接跳到29.1。当时第一反应是“这玩意儿是不是过拟合了”，但验证集上的表现确实稳住了。后来仔细扒了DAT的源码和论文，发现它解决了一个我一直忽略的问题：超分任务中，不同区域的纹理复杂度差异巨大。平滑区域不需要太多注意力，但边缘和纹理密集区域需要长距离的、非规则的感受野。传统Transformer的固定窗口注意力，本质上是在“一刀切”。可变形注意力到底在变形什么DAT的核心思路其实很直观：让每个query自己决定去哪里找相关的key。不是像Swin那样把特征图切成固定大小的窗口，而是让模型学习一组偏移量（offset），动态调整采样位置。具体来说，DAT的注意力机制分两步走：第一步，对输入特征图做一次轻量级的子网络预测，输出每个query对应的偏移量。这个子网络通常就是个3x3卷积加一个全连接层，参数量不大，但决定了后续采样的质量。第二步，根据偏移量在特征图上做双线性插值采样，得到变形后的key和value，然后计算标准的多头注意力。这里有个容易踩坑的地方：偏移量的范围需要做归一化/