期刊Transactions on Medical Imaging年份2020英文名字Discriminative Regularized Auto-Encoder for Early Detection of Knee OsteoArthritis: Data from the Osteoarthritis Initiative中文译为用于膝骨关节炎早期检测的判别正则化自编码器基于 OAI 数据一、摘要膝骨关节炎的 X 光视觉诊断存在较强主观性而早期 OA 的影像变化尤其细微。虽然深度学习能够自动学习影像特征但对于KL0, KL1, KL2这些早期阶段不同类别的 X 光纹理非常相似普通 Auto-Encoder 学到的特征虽然能够描述图像却不一定具有足够的分类判别能力。因此作者提出DRAE。传统 Auto-Encoder 只要求输入图像→编码特征→重建原图即主要优化重建误差。DRAE 在此基础上加入Discriminative Loss显式要求 同类特征更接近不同类特征更远从而使隐藏空间中的特征更适合早期 OA 分类。最终提取的 DRAE 特征再输入传统分类器进行健康与早期 OA 判别。二、创新点1 提出判别正则化自编码器 DRAE普通 AE 关注能否重建图像DRAE进一步关注 学到的特征能否区分OA和正常因此作者在 AE 损失中加入判别约束使隐藏特征类内距离减小类间距离增大。2 将 Fisher 判别思想引入 Auto-Encoder作者借鉴 Fisher Linear Discriminant Analysis 的思想设计其中μ1,μ2两个类别特征均值σ12,σ22两个类别特征方差。最小化该损失相当于 减小类内方差增大类间均值距离从而直接提升潜在空间的可分性。3 关注胫骨软骨下骨微结构的早期改变论文没有直接把整张膝关节 X 光输入网络而是在胫骨平台下方提取 5 个 32×32 ROI。这些区域覆盖内侧中央外侧胫骨松质骨。作者认为早期 OA 发生时软骨下骨微结构可能已经出现肉眼难以察觉的纹理变化因此专门对这些区域进行特征学习。三、方法为解决这一问题我们提出了一种名为判别正则化自编码器DRAE的新型AE架构如图2所示。除了标准的重建目标外DRAE还要求网络捕捉能够最大化特征类别之间距离的判别性特征。DRAE有两个主要目标一是使网络捕捉到能i最小化类内距离、ii最大化类间距离的判别性特征。为此在初始成本函数中增加了一个称为判别惩罚项的额外项。本研究最终将总体目标函数定义为三个项的组合重建误差、判别惩罚项以及一个L2正则化项Reconstruction Loss JAE 保证隐藏特征能够保存原始影像的重要信息。Discriminative LossΩdisc约束 同类聚集同时 异类分离这是 DRAE 与普通 AE 最大的区别。L2 RegularizationΩweights限制网络参数过大减少过拟合提高模型稳定性。因此整体思想可以概括为 重建图像判别类别防止过拟合四、试验4.1 数据集使用公开OAI即Osteoarthritis Initiative。共选择 3900张膝关节 X 光。其中KL01300张KL11300张KL21300张。这样三个等级的数据量完全平衡。论文主要首先测试 KL0 vs. KL2然后进一步测试 KL0 vs. KL1和 KL1 vs. KL24.2 结果作者还比较ResNet-101DenseNet-121Siamese CNNDRAE。其中ResNet-101Accuracy59.25%DenseNet-121 Accuracy61.30%Siamese方法 Accuracy≈79.65%DRAE Accuracy82.53%作者认为原因在于该任务关键并不是明显的形态变化而是非常细微的骨小梁纹理变化DRAE针对 ROI 的纹理表征更适合这个任务。五、结论这篇论文的核心思想可以概括为传统 Auto-Encoder只要求“能重建”DRAE 既要“能重建”又要“能区分类别”作者通过在 AE 潜在特征空间中加入判别约束使正常膝特征更加聚集正常与早期OA特征更加分离然后利用 SVM 对这些纹理特征进行分类。实验表明 DRAE 优于传统 AE、Sparse AE 以及文中比较的 CNN 方法并发现胫骨内侧软骨下骨区域的纹理具有更强的早期 OA 判别能力。
