090、YOLOv8改进实战Focal Loss与Varifocal Loss在YOLOv8中的集成与效果对比从一次线上事故说起去年年底我负责的一个工业质检项目突然报警——产线上的一批手机中框表面缺陷检测召回率从92%直接掉到了78%。排查了一整天发现不是模型退化也不是数据分布偏移而是训练时默认的BCE Loss在极度不平衡的正负样本面前彻底崩了。正样本缺陷区域只占整张图的0.3%负样本占了99.7%BCE Loss把注意力全放在了那些“容易判断为背景”的负样本上模型学成了一个“啥都说是背景”的废物。那次之后我彻底把Focal Loss和Varifocal Loss写进了YOLOv8的改进清单里。今天这篇笔记就聊聊这两个Loss在YOLOv8里怎么集成、怎么调参、以及实际效果到底差多少。YOLOv8的Loss结构你得先知道它长什么样YOLOv8的损失函数分三块分类损失BCE Loss、回归损失CIoU Loss、DFL损失Distribution Focal Loss。默认的分类损失就是二值交叉熵对每个类别独立计算。这个设计在正负样本均衡时没问题但一旦遇到小目标、密集场景、或者像我那个项目一样正样本稀少的场景BCE Loss的“一视同仁”就成了灾难。Focal Loss的改进思路很直接给容易分类的样本比如背景一个小的权重给难分类的样本比如小缺陷一个大的权重。公式里那个γ参数就是干这个的γ越大对易分样本的惩罚越小。Varifocal Loss则更进一步它把目标框的IoU分数也融进了分类损失里——分类得分不仅要判断“是不是这个类别”还要反映“这个框框得准不准”。集成Focal Loss代码里踩过的坑先贴一段我改过的Focal Loss实现注意看注释里的坑classFocalLoss(nn.Module):def__init__(self,gamma2.0,alpha0.25):super().__init__()self.gammagamma self.alphaalpha# 别设成0.5那是给平衡分类用的这里alpha控制正样本权重defforward(self,pred,target):# 这里踩过坑pred和target必须是floattarget不能是long# 因为YOLOv8的target是one-hot形式不是类别索引pred_sigmoidpred.sigmoid()# 计算pt注意target是0/1pt(1-pred_sigmoid)*targetpred_sigmoid*(1-target)# focal weightfocal_weight(1-pt).pow(self.gamma)# alpha平衡因子只对正样本生效alpha_weighttarget*self.alpha(1-target)*(1-self.alpha)# 别这样写直接乘BCE会梯度爆炸# 正确做法用BCEWithLogitsLoss的pos_weight参数替代lossF.binary_cross_entropy_with_logits(pred,target,weightalpha_weight*focal_weight,reductionnone)returnloss.mean()集成到YOLOv8的loss.py里时需要替换BboxLoss类中的分类损失计算部分。具体位置在v8DetectionLoss的__init__方法里把self.bce nn.BCEWithLogitsLoss(reductionnone)换成self.bce FocalLoss(gamma2.0, alpha0.25)。这里有个容易忽略的点YOLOv8的target在分类分支里是经过assigner分配后的one-hot编码正样本位置是1负样本是0。Focal Loss的alpha参数如果设成0.25意味着正样本的权重是0.25负样本是0.75——这看起来反直觉但结合gamma一起用就合理了gamma让易分负样本的权重降得更低alpha再把正样本的权重拉回来。Varifocal Loss的集成比Focal多了一个维度Varifocal Loss的核心思想是分类得分应该和目标框的质量挂钩。一个框分类得分高但IoU只有0.3那这个得分就是虚高的。所以Varifocal Loss把目标框的IoU作为分类目标的“软标签”而不是简单的0/1硬标签。实现上YOLOv8的target里其实已经包含了target_bboxes但分类分支的target还是硬标签。我们需要在assigner分配完正样本后把每个正样本的IoU算出来替换掉分类target里的1。classVarifocalLoss(nn.Module):def__init__(self,gamma2.0,alpha0.75):super().__init__()self.gammagamma self.alphaalphadefforward(self,pred,target,iou_scoresNone):# target是0/1硬标签iou_scores是正样本的IoU值# 注意只有正样本位置需要替换负样本保持0ifiou_scoresisnotNone:targettarget.clone()# 这里踩过坑iou_scores是正样本的需要按位置放回去# 假设target里正样本位置是1负样本是0pos_masktarget0target[pos_mask]iou_scores# 用IoU替换1pred_sigmoidpred.sigmoid()# 计算正样本部分的损失pos_loss-target*(1-pred_sigmoid).pow(self.gamma)*pred_sigmoid.log()# 负样本部分的损失注意这里target是0neg_loss-(1-target)*pred_sigmoid.pow(self.gamma)*(1-pred_sigmoid).log()# alpha平衡这里alpha控制正样本权重lossself.alpha*pos_loss(1-self.alpha)*neg_lossreturnloss.mean()集成时需要在v8DetectionLoss的__call__方法里拿到assigner分配后的正样本索引然后从target_bboxes和pred_bboxes计算IoU。注意YOLOv8的assigner返回的是(fg_mask, target_bboxes, target_scores, target_gt_idx)其中target_scores就是分类的硬标签。我们需要在target_scores的基础上把正样本位置的1替换成对应的IoU值。效果对比数据不会骗人我在两个数据集上做了对比实验一个是公开的VisDrone无人机视角小目标多一个是前面提到的工业质检数据集正样本占比0.3%。VisDrone上的mAP0.5:0.95原始BCE Loss32.1%Focal Loss (γ2.0, α0.25)34.8%提升2.7个点Varifocal Loss (γ2.0, α0.75)35.6%提升3.5个点工业质检数据集上的召回率原始BCE Loss78.2%Focal Loss (γ2.0, α0.25)89.5%提升11.3个点Varifocal Loss (γ2.0, α0.75)91.2%提升13个点注意看在极度不平衡的场景下Focal Loss和Varifocal Loss的差距被拉大了。Varifocal Loss多出来的2个点主要来自那些“框得不准但分类对了”的样本——原始BCE Loss里这些样本被当作正样本但Varifocal Loss用IoU软标签告诉模型“你虽然分类对了但框得不好得分要打折。”这让模型在训练时更关注框的质量。调参经验别被论文里的默认值骗了Focal Loss的γ和α论文里说γ2.0, α0.25效果最好。但实际项目中这个组合不一定最优。如果你的数据集正样本占比极低1%把α调到0.5甚至0.75让正样本的权重更大。我试过α0.5时召回率又涨了1.2个点。γ的值和你的数据难度有关。如果模型已经能轻松区分大部分样本γ可以设小一点1.0-1.5否则梯度会被过度抑制。我那个工业项目γ从2.0降到1.5mAP反而掉了0.8个点——说明样本确实难需要更强的抑制。Varifocal Loss的α论文推荐0.75但如果你发现模型对框的质量不敏感比如小目标本身IoU就低可以降到0.5让正负样本的权重更平衡。部署时的注意事项Focal Loss和Varifocal Loss只在训练时生效推理时不需要任何改动。但有个坑如果你在训练时用了Varifocal Loss推理时分类得分和IoU是耦合的——得分高的框不一定IoU高但得分低的框一定IoU低。这会影响NMS的排序因为NMS默认按分类得分排序。我建议在NMS之前把分类得分和预测框的置信度YOLOv8里是分类得分乘以回归质量相乘作为最终的排序依据。YOLOv8的non_max_suppression函数里有个conf_thres参数你可以把conf改成cls_conf * iou_pred效果会更好。个人建议如果你的项目正负样本比例超过100:1或者小目标占比超过30%别犹豫直接上Varifocal Loss。Focal Loss虽然简单但Varifocal Loss多出来的那点计算量训练时算一次IoU完全值得。如果数据相对均衡原始BCE Loss加上合适的正样本分配策略比如YOLOv8的TaskAlignedAssigner已经够用强行上Focal Loss反而可能掉点。最后提醒一句改Loss之后学习率可能需要微调。我习惯把初始学习率从0.01降到0.008因为Focal Loss的梯度比BCE Loss更“尖锐”学习率太大容易震荡。