• YOLOv5涨点必备!改进损失函数EIoU,SIoU,AlphaIoU,FocalEIoU,Wise-IoU


    目录

    一,改进损失函数的作用

    二,具体实现


    一,改进损失函数的作用

    YOLOv5损失函数的作用是衡量预测框与真实框之间的差异,并根据这些差异来更新模型的参数。它帮助模型学习如何准确地检测和定位目标物体,从而提高检测的精度和准确性。

    YOLOv5中的损失函数主要包括三个部分:目标分类损失、边界框坐标损失和对象置信度损失。

    1. 目标分类损失:该损失函数用于衡量预测框中的目标类别与真实框中的目标类别之间的差异。它使用交叉熵损失函数来计算分类误差,促使模型学习正确地分类各个目标物体。

    2. 边界框坐标损失:该损失函数用于衡量预测框中的边界框位置与真实框中的边界框位置之间的差异。一般采用平方损失函数或者IOU(交并比)损失函数来衡量边界框的位置偏移,以便模型能够准确地定位目标物体。

    3. 对象置信度损失:该损失函数用于衡量预测框中的对象置信度与真实框中的对象置信度之间的差异。对象置信度表示预测框中是否存在目标物体,它是检测算法中一个关键的指标。通过对对象置信度的损失函数进行优化,模型可以学习如何准确地判断预测框中是否有目标物体。

    YOLOv5的损失函数综合考虑了目标分类、边界框位置和对象置信度这三个重要因素,它们共同构成了目标检测的关键要素。通过最小化损失函数,模型可以不断优化参数,提高目标检测的准确性和鲁棒性。

    二,具体实现

    YOLOv5默认的损失函数为CIoU,另外自带的还有GIoU以及DIoU,

    文件路径:utils/metrics.py

    函数名为:bbox_iou

    原损失函数定义:

    1. def bbox_iou(box1, box2, xywh=True, GIoU=False, DIoU=False, CIoU=False, eps=1e-7):
    2. # Returns Intersection over Union (IoU) of box1(1,4) to box2(n,4)
    3. # Get the coordinates of bounding boxes
    4. if xywh: # transform from xywh to xyxy
    5. (x1, y1, w1, h1), (x2, y2, w2, h2) = box1.chunk(4, -1), box2.chunk(4, -1)
    6. w1_, h1_, w2_, h2_ = w1 / 2, h1 / 2, w2 / 2, h2 / 2
    7. b1_x1, b1_x2, b1_y1, b1_y2 = x1 - w1_, x1 + w1_, y1 - h1_, y1 + h1_
    8. b2_x1, b2_x2, b2_y1, b2_y2 = x2 - w2_, x2 + w2_, y2 - h2_, y2 + h2_
    9. else: # x1, y1, x2, y2 = box1
    10. b1_x1, b1_y1, b1_x2, b1_y2 = box1.chunk(4, -1)
    11. b2_x1, b2_y1, b2_x2, b2_y2 = box2.chunk(4, -1)
    12. w1, h1 = b1_x2 - b1_x1, (b1_y2 - b1_y1).clamp(eps)
    13. w2, h2 = b2_x2 - b2_x1, (b2_y2 - b2_y1).clamp(eps)
    14. # Intersection area
    15. inter = (b1_x2.minimum(b2_x2) - b1_x1.maximum(b2_x1)).clamp(0) * \
    16. (b1_y2.minimum(b2_y2) - b1_y1.maximum(b2_y1)).clamp(0)
    17. # Union Area
    18. union = w1 * h1 + w2 * h2 - inter + eps
    19. # IoU
    20. iou = inter / union
    21. if CIoU or DIoU or GIoU:
    22. cw = b1_x2.maximum(b2_x2) - b1_x1.minimum(b2_x1) # convex (smallest enclosing box) width
    23. ch = b1_y2.maximum(b2_y2) - b1_y1.minimum(b2_y1) # convex height
    24. if CIoU or DIoU: # Distance or Complete IoU https://arxiv.org/abs/1911.08287v1
    25. c2 = cw ** 2 + ch ** 2 + eps # convex diagonal squared
    26. rho2 = ((b2_x1 + b2_x2 - b1_x1 - b1_x2) ** 2 + (b2_y1 + b2_y2 - b1_y1 - b1_y2) ** 2) / 4 # center dist ** 2
    27. if CIoU: # https://github.com/Zzh-tju/DIoU-SSD-pytorch/blob/master/utils/box/box_utils.py#L47
    28. v = (4 / math.pi ** 2) * (torch.atan(w2 / h2) - torch.atan(w1 / h1)).pow(2)
    29. with torch.no_grad():
    30. alpha = v / (v - iou + (1 + eps))
    31. return iou - (rho2 / c2 + v * alpha) # CIoU
    32. return iou - rho2 / c2 # DIoU
    33. c_area = cw * ch + eps # convex area
    34. return iou - (c_area - union) / c_area # GIoU https://arxiv.org/pdf/1902.09630.pdf
    35. return iou # IoU

    改为:把上面提及到的这个函数替换成以下

    1. def bbox_iou(box1, box2, xywh=True, GIoU=False, DIoU=False, CIoU=False, SIoU=False, EIoU=False, Focal=False, alpha=1, gamma=0.5, eps=1e-7):
    2. # Returns Intersection over Union (IoU) of box1(1,4) to box2(n,4)
    3. # Get the coordinates of bounding boxes
    4. if xywh: # transform from xywh to xyxy
    5. (x1, y1, w1, h1), (x2, y2, w2, h2) = box1.chunk(4, -1), box2.chunk(4, -1)
    6. w1_, h1_, w2_, h2_ = w1 / 2, h1 / 2, w2 / 2, h2 / 2
    7. b1_x1, b1_x2, b1_y1, b1_y2 = x1 - w1_, x1 + w1_, y1 - h1_, y1 + h1_
    8. b2_x1, b2_x2, b2_y1, b2_y2 = x2 - w2_, x2 + w2_, y2 - h2_, y2 + h2_
    9. else: # x1, y1, x2, y2 = box1
    10. b1_x1, b1_y1, b1_x2, b1_y2 = box1.chunk(4, -1)
    11. b2_x1, b2_y1, b2_x2, b2_y2 = box2.chunk(4, -1)
    12. w1, h1 = b1_x2 - b1_x1, (b1_y2 - b1_y1).clamp(eps)
    13. w2, h2 = b2_x2 - b2_x1, (b2_y2 - b2_y1).clamp(eps)
    14. # Intersection area
    15. inter = (b1_x2.minimum(b2_x2) - b1_x1.maximum(b2_x1)).clamp(0) * \
    16. (b1_y2.minimum(b2_y2) - b1_y1.maximum(b2_y1)).clamp(0)
    17. # Union Area
    18. union = w1 * h1 + w2 * h2 - inter + eps
    19. # IoU
    20. # iou = inter / union # ori iou
    21. iou = torch.pow(inter/(union + eps), alpha) # alpha iou
    22. if CIoU or DIoU or GIoU or EIoU or SIoU:
    23. cw = b1_x2.maximum(b2_x2) - b1_x1.minimum(b2_x1) # convex (smallest enclosing box) width
    24. ch = b1_y2.maximum(b2_y2) - b1_y1.minimum(b2_y1) # convex height
    25. if CIoU or DIoU or EIoU or SIoU: # Distance or Complete IoU https://arxiv.org/abs/1911.08287v1
    26. c2 = (cw ** 2 + ch ** 2) ** alpha + eps # convex diagonal squared
    27. rho2 = (((b2_x1 + b2_x2 - b1_x1 - b1_x2) ** 2 + (b2_y1 + b2_y2 - b1_y1 - b1_y2) ** 2) / 4) ** alpha # center dist ** 2
    28. if CIoU: # https://github.com/Zzh-tju/DIoU-SSD-pytorch/blob/master/utils/box/box_utils.py#L47
    29. v = (4 / math.pi ** 2) * (torch.atan(w2 / h2) - torch.atan(w1 / h1)).pow(2)
    30. with torch.no_grad():
    31. alpha_ciou = v / (v - iou + (1 + eps))
    32. if Focal:
    33. return iou - (rho2 / c2 + torch.pow(v * alpha_ciou + eps, alpha)), torch.pow(inter/(union + eps), gamma) # Focal_CIoU
    34. else:
    35. return iou - (rho2 / c2 + torch.pow(v * alpha_ciou + eps, alpha)) # CIoU
    36. elif EIoU:
    37. rho_w2 = ((b2_x2 - b2_x1) - (b1_x2 - b1_x1)) ** 2
    38. rho_h2 = ((b2_y2 - b2_y1) - (b1_y2 - b1_y1)) ** 2
    39. cw2 = torch.pow(cw ** 2 + eps, alpha)
    40. ch2 = torch.pow(ch ** 2 + eps, alpha)
    41. if Focal:
    42. return iou - (rho2 / c2 + rho_w2 / cw2 + rho_h2 / ch2), torch.pow(inter/(union + eps), gamma) # Focal_EIou
    43. else:
    44. return iou - (rho2 / c2 + rho_w2 / cw2 + rho_h2 / ch2) # EIou
    45. elif SIoU:
    46. # SIoU Loss https://arxiv.org/pdf/2205.12740.pdf
    47. s_cw = (b2_x1 + b2_x2 - b1_x1 - b1_x2) * 0.5 + eps
    48. s_ch = (b2_y1 + b2_y2 - b1_y1 - b1_y2) * 0.5 + eps
    49. sigma = torch.pow(s_cw ** 2 + s_ch ** 2, 0.5)
    50. sin_alpha_1 = torch.abs(s_cw) / sigma
    51. sin_alpha_2 = torch.abs(s_ch) / sigma
    52. threshold = pow(2, 0.5) / 2
    53. sin_alpha = torch.where(sin_alpha_1 > threshold, sin_alpha_2, sin_alpha_1)
    54. angle_cost = torch.cos(torch.arcsin(sin_alpha) * 2 - math.pi / 2)
    55. rho_x = (s_cw / cw) ** 2
    56. rho_y = (s_ch / ch) ** 2
    57. gamma = angle_cost - 2
    58. distance_cost = 2 - torch.exp(gamma * rho_x) - torch.exp(gamma * rho_y)
    59. omiga_w = torch.abs(w1 - w2) / torch.max(w1, w2)
    60. omiga_h = torch.abs(h1 - h2) / torch.max(h1, h2)
    61. shape_cost = torch.pow(1 - torch.exp(-1 * omiga_w), 4) + torch.pow(1 - torch.exp(-1 * omiga_h), 4)
    62. if Focal:
    63. return iou - torch.pow(0.5 * (distance_cost + shape_cost) + eps, alpha), torch.pow(inter/(union + eps), gamma) # Focal_SIou
    64. else:
    65. return iou - torch.pow(0.5 * (distance_cost + shape_cost) + eps, alpha) # SIou
    66. if Focal:
    67. return iou - rho2 / c2, torch.pow(inter/(union + eps), gamma) # Focal_DIoU
    68. else:
    69. return iou - rho2 / c2 # DIoU
    70. c_area = cw * ch + eps # convex area
    71. if Focal:
    72. return iou - torch.pow((c_area - union) / c_area + eps, alpha), torch.pow(inter/(union + eps), gamma) # Focal_GIoU https://arxiv.org/pdf/1902.09630.pdf
    73. else:
    74. return iou - torch.pow((c_area - union) / c_area + eps, alpha) # GIoU https://arxiv.org/pdf/1902.09630.pdf
    75. if Focal:
    76. return iou, torch.pow(inter/(union + eps), gamma) # Focal_IoU
    77. else:
    78. return iou # IoU

    Alpha-IoU的介绍:

    论文的名字很好,反映了本文的核心想法。作者将现有的基于IoU Loss推广到一个新的Power IoU系列 Loss,该系列具有一个Power IoU项和一个附加的Power正则项,具有单个Power参数α,称这种新的损失系列为α-IoU Loss。

    函数特性:


    文中,作者将现有的基于IoU Loss推广到一个新的Power IoU系列 Loss,该系列具有一个Power IoU项和一个附加的Power正则项,具有单个Power参数α。称这种新的损失系列为α-IoU Loss。在多目标检测基准和模型上的实验表明,α-IoU损失:

    可以显著地超过现有的基于IoU的损失;

    通过调节α,使检测器在实现不同水平的bbox回归精度方面具有更大的灵活性;

    对小数据集和噪声的鲁棒性更强。

    实验结果表明,α(α>1)增加了high IoU目标的损失和梯度,进而提高了bbox回归精度。

    power参数α可作为调节α-IoU损失的超参数以满足不同水平的bbox回归精度,其中α >1通过更多地关注High IoU目标来获得高的回归精度(即High IoU阈值)。

    **α对不同的模型或数据集并不过度敏感,在大多数情况下,α=3表现一贯良好。**α-IoU损失家族可以很容易地用于改进检测器的效果,在干净或嘈杂的环境下,不会引入额外的参数,也不增加训练/推理时间。
    公式如下:

    所以将  alpha  设置为1,   其实还是用的是原本的IOU,并没有加入alpha的属性,一般设置为3,

    然后再把  iou改成你需要的,这样就组合而成了  alpha-ciou   ,  alpha-Diou等等

    注意:

    1. gamma参数是Focal_EIoU中的gamma参数,一般就是为0.5,有需要可以自行更改。
    2. alpha参数为AlphaIoU中的alpha参数,默认为1,1的意思就是跟正常的IoU一样,如果想采用AlphaIoU的话,论文alpha默认值为3。
    3. 跟Focal_EIoU一样,我认为AlphaIoU的思想同样可以用在其他的IoU变种上,简单来说就是如果你设置了alpha为3,其他IoU设定的参数(GIoU,DIoU,CIoU,EIoU,SIoU)为False的时候,那就是AlphaIoU,如果你设置了alpha为3,CIoU为True的时候,那就是
    4.  
    5. 想用那个IoU变种,就直接设置参数为True即可

    除了以上这个函数替换,还需要在utils/loss.py中ComputeLoss Class中的__call__函数中修改一下:



    将红框代码替换为:

    1. iou = bbox_iou(pbox, tbox[i], CIoU=True) # iou(prediction, target)
    2. if type(iou) is tuple:
    3. lbox += (iou[1].detach().squeeze() * (1 - iou[0].squeeze())).mean()
    4. iou = iou[0].squeeze()
    5. else:
    6. lbox += (1.0 - iou.squeeze()).mean() # iou loss
    7. iou = iou.squeeze()

    最后修改参数就在调用bbox_iou中进行修改即可,比如上面的代码就是使用了CIoU,如果你想使用Focal_EIoU那么你可以修改为下:

    iou = bbox_iou(pbox, tbox[i], EIoU=True, Focal=True) 

  • 相关阅读:
    Redis缓存穿透、缓存雪崩和缓存击穿
    关于用css设置input输入框hover的时候的样式以及当input为disabled的时候,不要让hover样式生效
    网络安全(黑客)小白自学
    HTML静态网页作业——关于我的家乡介绍安庆景点
    【前端求助帖】关于使用element-plus select 模板嵌套popover中使用select选择后,上一个select自动关闭的问题
    注册配置、微服务治理、云原生网关三箭齐发,阿里云 MSE 持续升级
    threejs texture旋转后,看不到了
    使用MD5算法和sha512sum校验和检验文件完整性
    RpcProvider分发rpc服务:socket连接回调和读写事件回调的实现
    Solidity--合约最大栈深度与解决方案
  • 原文地址:https://blog.csdn.net/qq_53545309/article/details/133965809