• YOLOv5 - common.py文件解读

    🍨 本文为[🔗365天深度学习训练营学习记录博客
    🍦 参考文章：365天深度学习训练营
    🍖 原作者：[K同学啊 | 接辅导、项目定制](https://mtyjkh.blog.csdn.net/)
    🚀 文章来源：[K同学的学习圈子](https://www.yuque.com/mingtian-fkmxf/zxwb45)


    件位置：./models/common.py
    该文件是实现YOLO算法中各个模块的地方，如果我们需要修改某一模块（例如C3）,那么就需要修改这个文件中对应模块的的定义。这里我先围绕代码，带大家过一遍各个模块的 定义，详细介绍我将在后续的教案中逐步展开。由于YOLOV5版本问题，同一个模块你可能会看到不同的版本，这都是正常的，以官网为主即可。
    本周任务：将yolov5s网络模型中的C3模块按照下图方式修改，并跑通yolov5。
    任务提示：仅需修改・/models/common.yaml文件。
     

    1. import torch
    2. import torch.nn as nn
    3. class Bottleneck(nn.Module):
    4.     # Standard bottleneck  Conv + Conv + shortcut
    5.     def __init__(self, c1, c2, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, shortcut, groups, expansion
    6.         ''' 在BottleneckCSP和yolo.py的parse_model函数中被调用
    7.         :params c1: 第一个卷积的输入channel
    8.         :params c2: 第二个卷积的输入channel
    9.         :params shortcut: bool值，是否有shortcut连接，默认True
    10.         :params g: 卷积分组的个数，=1普通卷积，>1深度可分离卷积
    11.         :params e: expansion ratio，e*c2就是第一个卷积的输出channel=第二个卷积的输入channel
    12.         '''
    13.         super().__init__()
    14.         c_ = int(c2 * e)  # hidden channels
    15.         self.cv1 = Conv(c1, c_, 1, 1)      # 1x1
    16.         self.cv2 = Conv(c_, c2, 3, 1, g=g) # 3x3
    17.         self.add = shortcut and c1 == c2   # shortcut=Ture & c1==c2 才能做shortcut
    18.  
    19.     def forward(self, x):
    20.         return x + self.cv2(self.cv1(x)) if self.add else self.cv2(self.cv1(x))
    21.  
    22. def autopad(k, p=None, d=1):  # kernel, padding, dilation
    23.     # Pad to 'same' shape outputs
    24.     if d > 1:
    25.         k = d * (k - 1) + 1 if isinstance(k, int) else [d * (x - 1) + 1 for x in k]  # actual kernel-size
    26.     if p is None:
    27.         p = k // 2 if isinstance(k, int) else [x // 2 for x in k]  # auto-pad
    28.     return p
    29.  
    30. class Conv(nn.Module):
    31.     # Standard convolution with args(ch_in, ch_out, kernel, stride, padding, groups, dilation, activation)
    32.     default_act = nn.SiLU()  # default activation
    33.  
    34.     def __init__(self, c1, c2, k=1, s=1, p=None, g=1, d=1, act=True):
    35.         ''' 在Focus、Bottleneck、BottleneckCSP、C3、SPP、DWConv、TransformerBlock等模块中调用
    36.         Standard convolution : conv + BN + act
    37.         :params c1: 输入的channel值
    38.         :params c2: 输出的channel值
    39.         :params k: 卷积的kernel_size
    40.         :params s: 卷积的stride
    41.         :params p: 卷积的padding，默认是None，可以通过autopad自行计算需要的padding值
    42.         :params g: 卷积的groups数，1就是普通的卷积，>1就是深度可分离卷积
    43.         :params act: 激活函数类型，True就是SiLU()/Swish，False就是不使用激活函数，类型是nn.Module就使用传进来的激活函数类型
    44.         '''
    45.         super().__init__()
    46.         self.conv = nn.Conv2d(c1, c2, k, s, autopad(k, p, d), groups=g, dilation=d, bias=False)
    47.         self.bn = nn.BatchNorm2d(c2)
    48.         self.act = self.default_act if act is True else act if isinstance(act, nn.Module) else nn.Identity()
    49.  
    50.     def forward(self, x):
    51.         return self.act(self.bn(self.conv(x)))
    52.  
    53.     def forward_fuse(self, x):
    54.         ''' 用于Model类的fuse函数
    55.         融合 Conv + BN 加速推理，一般用于测试/验证阶段
    56.         '''
    57.         return self.act(self.conv(x))
    58. ''''''
    59. class C3(nn.Module):
    60.     # CSP Bottleneck with 3 convolutions
    61.     def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
    62.         ''' 在C3RT模块和yolo.py的parse_model函数中被调用
    63.         :params c1: 整个C3的输入channel
    64.         :params c2: 整个C3的输出channel
    65.         :params n: 有n个子模块[Bottleneck/CrossConv]
    66.         :params shortcut: bool值，子模块[Bottlenec/CrossConv]中是否有shortcut，默认True
    67.         :params g: 子模块[Bottlenec/CrossConv]中的3x3卷积类型，=1普通卷积，>1深度可分离卷积
    68.         :params e: expansion ratio，e*c2=中间其它所有层的卷积核个数=中间所有层的的输入输出channel
    69.         '''
    70.         super().__init__()
    71.         c_ = int(c2 * e)  # hidden channels
    72.         self.cv1 = Conv(c1, c_, 1, 1)
    73.         self.cv2 = Conv(c1, c_, 1, 1)
    74.         self.cv3 = Conv(2 * c_, c2, 1)  # optional act=FReLU(c2)
    75.         self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))
    76.         # 实验性 CrossConv
    77.         #self.m = nn.Sequential(*[CrossConv(c_, c_, 3, 1, g, 1.0, shortcut) for _ in range(n)])
    78.  
    79.     def forward(self, x):
    80.         return self.torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1)
    81. ''''''
    82. class C3(nn.Module):
    83.     # CSP Bottleneck with 3 convolutions
    84.     def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
    85.         super().__init__()
    86.         c_ = int(c2 * e)  # hidden channels
    87.         self.cv1 = Conv(c1, c_, 1, 1)
    88.         self.cv2 = Conv(c1, c_, 1, 1)
    89.         self.cv3 = Conv(2 * c_, c2, 1)  # optional act=FReLU(c2)
    90.         self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))
    91.  
    92.     def forward(self, x):
    93.         return torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1)
    94. x = torch.randn(1,32,120,120)
    95. c3 = C3(32,64)
    96. output = c3(x)
    97. print(output.shape)

    1. def autopad(k, p=None):   # kernel, padding
    2. 	"""
    3. 	用于Conv函数和Classify函数中
    4.     根据卷积核大小k自动计算卷积核padding数（0填充） 
    5.     v5中只有两种卷积：
    6.        1、下采样卷积:conv3x3 s=2 p=k//2=1 
    7.        2、feature size不变的卷积:conv1x1 s=1 p=k//2=1
    8.     :params k: 卷积核的kernel_size
    9.     :return p: 自动计算的需要pad值（0填充）
    10.     """
    11. 	if p is None:
    12.         p = k // 2 if isinstance(k,int) else [x // 2 for x in k]  # auto-pad
    13.     return p

     p = k // 2 if isinstance(k, int) else [x // 2 for x in k] 用于根据卷积核大小计算填充值。如果k是整数，它将p设置为k // 2；否则，它将p设置为k中每个元素的一半。

    1.  
    2. class Conv(nn.Module):
    3.     def __init__(self, c1, c2, k=1, s=1, p=None, g=1, act=True):
    4.         """
    5.         在Focus、Bottleneck、BottleneckCSP、C3、SPP、DWConv、TransformerBloc等模块中调用
    6.         Standard convolution  conv+BN+act
    7.         :params c1: 输入的channel值
    8.         :params c2: 输出的channel值
    9.         :params k: 卷积的kernel_size
    10.         :params s: 卷积的stride
    11.         :params p: 卷积的padding  一般是None  可以通过autopad自行计算需要pad的padding数
    12.         :params g: 卷积的groups数  =1就是普通的卷积  >1就是深度可分离卷积
    13.         :params act: 激活函数类型   True就是SiLU()/Swish   False就是不使用激活函数
    14.                      类型是nn.Module就使用传进来的激活函数类型
    15.         """
    16.         super(Conv, self).__init__()
    17.         self.conv = nn.Conv2d(c1, c2, k, s, autopad(k, p), groups=g, bias=False)  # conv
    18.         self.bn = nn.BatchNorm2d(c2)  # bn
    19.         self.act = nn.SiLU() if act is True else (act if isinstance(act, nn.Module) else nn.Identity())  # activation
    20.  
    21.     def forward(self, x):
    22.         return self.act(self.bn(self.conv(x)))
    23.  
    24.     def fuseforward(self, x):
    25.         """
    26.         用于Model类的fuse函数
    27.         融合conv+bn 加速推理 一般用于测试/验证阶段
    28.         """
    29.         return self.act(self.conv(x))
    30.

    • __init__ 方法是类的初始化方法，用于定义模块的结构和初始化参数。

      • c1: 输入通道数。
      • c2: 输出通道数。
      • k: 卷积核大小。
      • s: 卷积步幅。
      • p: 卷积填充大小。一般情况下为None，可以通过autopad函数自动计算所需的填充数。
      • g: 卷积的组数。当g=1时，是普通卷积；当g>1时，是深度可分离卷积。
      • act: 是否使用激活函数。如果为True，则使用SiLU（或Swish）作为激活函数；如果为False，则不使用激活函数。如果是nn.Module类型，则使用传入的激活函数。
      • super(Conv, self).__init__() 调用父类的初始化方法。
      • self.conv: 卷积层，使用nn.Conv2d进行定义，包括输入通道数、输出通道数、卷积核大小、步幅、填充、组数等参数。
      • self.bn: 批归一化层，使用nn.BatchNorm2d进行定义，对卷积输出进行标准化处理。
      • self.act: 激活函数，根据act的不同取值，选择使用SiLU（或Swish）激活函数或者不使用激活函数，或者使用传入的自定义激活函数。

    • forward 方法定义了前向传播过程，将输入 x 经过卷积、批归一化和激活函数的处理后返回。

    • fuseforward 方法用于在推理阶段加速模型。它只包含卷积和激活函数，在前向传播过程中，通过融合 Conv + BN 层，达到加速推理的作用，一般用于测试或验证阶段。

    1. class Focus(nn.Module):
    2.     def __init__(self, c1, c2, k=1, s=1, p=None, g=1, act=True):
    3.         super(Focus, self).__init__()
    4.         self.conv = Conv(c1 * 4, c2, k, s, p, g, act)  # concat后的卷积（最后的卷积）
    5.     def forward(self, x):
    6.         # x(b,c,w,h) -> y(b,4c,w/2,h/2)
    7.         return self.conv(torch.cat([x[..., ::2, ::2], x[..., 1::2, ::2], x[..., ::2, 1::2], x[..., 1::2, 1::2]], 1))
    8.

    Focus模块是作者自己设计出来，为了减少浮点数和提高速度，本质是将图像进行切片，将原图像的宽高信息切分，聚合到channel通道中。

    forward 方法定义了前向传播过程。

    • 输入 x 是一个四维张量，表示为 (batch_size, channels, width, height)。
    • 通过 torch.cat 将输入张量按照通道维度进行拼接。具体来说，将输入的特征图沿着通道维度分成4个部分，然后将这4个部分在通道维度上拼接在一起。
    • 最终，将拼接后的张量传递给之前定义的 self.conv，即使用普通卷积进行处理。
    1. class Bottleneck(nn.Module):
    2.     def __init__(self, c1, c2, shortcut=True, g=1, e=0.5):
    3.         """在BottleneckCSP和yolo.py的parse_model中调用
    4.         Standard bottleneck  Conv+Conv+shortcut
    5.         :params c1: 第一个卷积的输入channel
    6.         :params c2: 第二个卷积的输出channel
    7.         :params shortcut: bool 是否有shortcut连接 默认是True
    8.         :params g: 卷积分组的个数  =1就是普通卷积  >1就是深度可分离卷积
    9.         :params e: expansion ratio  e*c2就是第一个卷积的输出channel=第二个卷积的输入channel
    10.         """
    11.         super(Bottleneck, self).__init__()
    12.         c_ = int(c2 * e)                    # hidden channels
    13.         self.cv1 = Conv(c1, c_, 1, 1)       # 1x1
    14.         self.cv2 = Conv(c_, c2, 3, 1, g=g)  # 3x3
    15.         self.add = shortcut and c1 == c2    # shortcut=True and c1 == c2 才能做shortcut
    16.  
    17.     def forward(self, x):
    18.         return x + self.cv2(self.cv1(x)) if self.add else self.cv2(self.cv1(x))
    19.

    BottleNeckCSP

    Bottleneck 模块实现了一个标准的深度神经网络瓶颈结构，其中包括一个1x1卷积用于降维，一个3x3卷积用于捕获更丰富的特征，并且可以选择是否使用残差连接。这种结构通常被广泛用于深度神经网络中，以提高模型的表达能力。

    这个模块是由Bottleneck模块和CSP结构组成。CSP结构来源于2019年发表的一篇论文:
    CSPNet: A New Backbone that can Enhance Learning Capability of CNN

    这个模块和上面yolov5s中的C3模块等效，如果要用的话直接在yolov5s.yaml文件中讲C3改成 BottleneckCSP即可，但是一般来说不用改，因为C3更好。

    1. class SPP(nn.Module):
    2.     def __init__(self, c1, c2, k=(5, 9, 13)):
    3.         """在yolo.py的parse_model模块调用
    4.         空间金字塔池化 Spatial pyramid pooling layer used in YOLOv3-SPP
    5.         :params c1: SPP模块的输入channel
    6.         :params c2: SPP模块的输出channel
    7.         :params k: 保存着三个maxpool的卷积核大小 默认是(5, 9, 13)
    8.         """
    9.         super(SPP, self).__init__()
    10.         c_ = c1 // 2  # hidden channels
    11.         self.cv1 = Conv(c1, c_, 1, 1)  # 第一层卷积
    12.         self.cv2 = Conv(c_ * (len(k) + 1), c2, 1, 1)  # 最后一层卷积  +1是因为有len(k)+1个输入
    13.         self.m = nn.ModuleList([nn.MaxPool2d(kernel_size=x, stride=1, padding=x // 2) for x in k])
    14.  
    15.     def forward(self, x):
    16.         x = self.cv1(x)
    17.         return self.cv2(torch.cat([x] + [m(x) for m in self.m], 1))
    18.

    SPP模块 

    这是一个名为SPP的PyTorch模块（nn.Module）类，实现了空间金字塔池化（Spatial Pyramid Pooling）层，通常用于目标检测模型中，如YOLOv3-SPP。
    高层网络层的感受野的语义信息表征能力强，低层网络层的感受野空间细节信息表征能力强。空间金字塔池化(Spatial Pyramid Pooling, SPP)是目标检测算法中对高层特征进行多尺度池化以增加感受野的重要措施之一。经典的空间金字塔池化模块首先将输入的卷积特征分成不同的尺寸，然后每个尺寸提取固定维度的特征，最后将这些特征拼接成一个固定的维度，如图1所示。输入的卷积特征图的大小为(w,h),第一层空间金字塔采用4x4的刻度对特征图进行划分，其将输入的特征图分成了16个块，每块的大小为(w/4, h/4);第二层空间金字塔采用2x2刻度对特征图进行划分，其将特征图分为4个快，每块大小为(w/2,h/2);第三层空间金字塔将整张特征图作为一块，进行特征提取操作，最终的特 征向量为21=16+4+1维。

    SPP 模块的目的是通过不同尺度的最大池化操作，捕捉输入特征图的多尺度信息，以提高模型在目标检测任务中的性能。

    1. class NMS(nn.Module):
    2.     """在yolo.py中Model类的nms函数中使用
    3.     NMS非极大值抑制 Non-Maximum Suppression (NMS) module
    4.     给模型model封装nms  增加模型的扩展功能  但是我们一般不用 一般是在前向推理结束后再调用non_max_suppression函数
    5.     """
    6.     conf = 0.25     # 置信度阈值              confidence threshold
    7.     iou = 0.45      # iou阈值                IoU threshold
    8.     classes = None  # 是否nms后只保留特定的类别 (optional list) filter by class
    9.     max_det = 1000  # 每张图片的最大目标个数    maximum number of detections per image
    10.     def __init__(self):
    11.         super(NMS, self).__init__()
    12.     def forward(self, x):
    13.         """
    14.         :params x[0]: [batch, num_anchors(3个yolo预测层), (x+y+w+h+1+num_classes)]
    15.         直接调用的是general.py中的non_max_suppression函数给model扩展nms功能
    16.         """
    17.         return non_max_suppression(x[0], self.conf, iou_thres=self.iou, classes=self.classes, max_det=self.max_det)
    18.
    • num_anchors, (x+y+w+h+1+num_classes)]。该方法直接调用了 non_max_suppression 函数，该函数应该定义在 general.py 中。non_max_suppression 函数的作用是对模型的输出进行非极大值抑制，过滤掉置信度低、重叠度高的目标框。

    NMS 模块的目的是通过非极大值抑制过程对模型的输出进行后处理，保留具有高置信度的目标框，过滤掉置信度低或者与其他框重叠度高的目标框。这个模块通常在模型推理结束后用于后处理步骤。

    1. class AutoShape(nn.Module):
    2.     # YOLOv5 input-robust model wrapper for passing cv2/np/PIL/torch inputs. Includes preprocessing, inference and NMS
    3.     # YOLOv5模型包装器，用于传递 cv2/np/PIL/torch 输入，
    4.     # 包括预处理（preprocessing）, 推理（inference） and NMS
    5.     conf = 0.25  # NMS confidence threshold
    6.     iou = 0.45   # NMS IoU threshold
    7.     agnostic = False  # NMS class-agnostic
    8.     multi_label = False  # NMS multiple labels per box
    9.     classes = None  # (optional list) filter by class, i.e. = [0, 15, 16] for COCO persons, cats and dogs
    10.     max_det = 1000  # maximum number of detections per image
    11.     amp = False     # Automatic Mixed Precision (AMP) inference
    12.  
    13.     def __init__(self, model, verbose=True):
    14.         super().__init__()
    15.         if verbose:
    16.             LOGGER.info('Adding AutoShape... ')
    17.         copy_attr(self, model, include=('yaml', 'nc', 'hyp', 'names', 'stride', 'abc'), exclude=())  # copy attributes
    18.         self.dmb = isinstance(model, DetectMultiBackend)  # DetectMultiBackend() instance
    19.         self.pt = not self.dmb or model.pt  # PyTorch model
    20.         # 开启验证模式
    21.         self.model = model.eval()
    22.         if self.pt:
    23.             m = self.model.model.model[-1] if self.dmb else self.model.model[-1]  # Detect()
    24.             m.inplace = False  # Detect.inplace=False for safe multithread inference
    25.             m.export = True  # do not output loss values
    26.  
    27.     def _apply(self, fn):
    28.         # Apply to(), cpu(), cuda(), half() to model tensors that are not parameters or registered buffers
    29.         self = super()._apply(fn)
    30.         if self.pt:
    31.             m = self.model.model.model[-1] if self.dmb else self.model.model[-1]  # Detect()
    32.             m.stride = fn(m.stride)
    33.             m.grid = list(map(fn, m.grid))
    34.             if isinstance(m.anchor_grid, list):
    35.                 m.anchor_grid = list(map(fn, m.anchor_grid))
    36.         return self
    37.  
    38.     @smart_inference_mode()
    39.     def forward(self, ims, size=640, augment=False, profile=False):
    40.         # Inference from various sources. For size(height=640, width=1280), RGB images example inputs are:
    41.         #   file:        ims = 'data/images/zidane.jpg'  # str or PosixPath
    42.         #   URI:             = 'https://ultralytics.com/images/zidane.jpg'
    43.         #   OpenCV:          = cv2.imread('image.jpg')[:,:,::-1]  # HWC BGR to RGB x(640,1280,3)
    44.         #   PIL:             = Image.open('image.jpg') or ImageGrab.grab()  # HWC x(640,1280,3)
    45.         #   numpy:           = np.zeros((640,1280,3))  # HWC
    46.         #   torch:           = torch.zeros(16,3,320,640)  # BCHW (scaled to size=640, 0-1 values)
    47.         #   multiple:        = [Image.open('image1.jpg'), Image.open('image2.jpg'), ...]  # list of images
    48.  
    49.         dt = (Profile(), Profile(), Profile())
    50.         with dt[0]:
    51.             if isinstance(size, int):  # expand
    52.                 size = (size, size)
    53.             p = next(self.model.parameters()) if self.pt else torch.empty(1, device=self.model.device)  # param
    54.             autocast = self.amp and (p.device.type != 'cpu')  # Automatic Mixed Precision (AMP) inference
    55.             # 图片如果是tensor格式 说明是预处理过的, 
    56.             # 直接正常进行前向推理即可 nms在推理结束进行(函数外写)
    57.             if isinstance(ims, torch.Tensor):  # torch
    58.                 with amp.autocast(autocast):
    59.                     return self.model(ims.to(p.device).type_as(p), augment=augment)  # inference
    60.  
    61.             # Pre-process
    62.             n, ims = (len(ims), list(ims)) if isinstance(ims, (list, tuple)) else (1, [ims])  # number, list of images
    63.             shape0, shape1, files = [], [], []  # image and inference shapes, filenames
    64.             for i, im in enumerate(ims):
    65.                 f = f'image{i}'  # filename
    66.                 if isinstance(im, (str, Path)):  # filename or uri
    67.                     im, f = Image.open(requests.get(im, stream=True).raw if str(im).startswith('http') else im), im
    68.                     im = np.asarray(exif_transpose(im))
    69.                 elif isinstance(im, Image.Image):  # PIL Image
    70.                     im, f = np.asarray(exif_transpose(im)), getattr(im, 'filename', f) or f
    71.                 files.append(Path(f).with_suffix('.jpg').name)
    72.                 if im.shape[0] < 5:  # image in CHW
    73.                     im = im.transpose((1, 2, 0))  # reverse dataloader .transpose(2, 0, 1)
    74.                 im = im[..., :3] if im.ndim == 3 else cv2.cvtColor(im, cv2.COLOR_GRAY2BGR)  # enforce 3ch input
    75.                 s = im.shape[:2]  # HWC
    76.                 shape0.append(s)  # image shape
    77.                 g = max(size) / max(s)  # gain
    78.                 shape1.append([int(y * g) for y in s])
    79.                 ims[i] = im if im.data.contiguous else np.ascontiguousarray(im)  # update
    80.             shape1 = [make_divisible(x, self.stride) for x in np.array(shape1).max(0)]  # inf shape
    81.             x = [letterbox(im, shape1, auto=False)[0] for im in ims]  # pad
    82.             x = np.ascontiguousarray(np.array(x).transpose((0, 3, 1, 2)))  # stack and BHWC to BCHW
    83.             x = torch.from_numpy(x).to(p.device).type_as(p) / 255  # uint8 to fp16/32
    84.  
    85.         with amp.autocast(autocast):
    86.             # Inference
    87.             with dt[1]:
    88.                 y = self.model(x, augment=augment)  # forward
    89.             # Post-process
    90.             with dt[2]:
    91.                 y = non_max_suppression(y if self.dmb else y[0],
    92.                                         self.conf,
    93.                                         self.iou,
    94.                                         self.classes,
    95.                                         self.agnostic,
    96.                                         self.multi_label,
    97.                                         max_det=self.max_det)  # NMS
    98.                 for i in range(n):
    99.                     scale_boxes(shape1, y[i][:, :4], shape0[i])
    100.             return Detections(ims, y, files, dt, self.names, x.shape)
    101.

     AutoShape的PyTorch模块（nn.Module）类，用于对YOLOv5模型进行封装，以实现对不同输入类型的适应性（cv2/np/PIL/torch）。

    • __init__ 方法是类的初始化方法，用于初始化参数。

      • model: YOLOv5模型实例。
      • verbose: 是否在初始化时输出日志信息。

    • _apply 方法用于将函数应用于模型张量，支持对模型张量的操作。

    • forward 方法定义了前向传播过程。

      • ims: 输入的图像数据，可以是单张图像的路径、URL、OpenCV读取的图像（HWC BGR格式），PIL读取的图像（HWC格式），numpy数组（HWC格式），torch张量（BCHW格式），或图像列表。
      • size: 期望输入图像的大小，可以是单个整数表示高和宽相等，也可以是包含高和宽的元组。
      • augment: 是否进行数据增强。
      • profile: 是否开启推理性能分析。
    1.  
    2. class Detections:
    3.     # YOLOv5 detections class for inference results
    4.     # YOLOv5推理结果检测类
    5.     def __init__(self, ims, pred, files, times=(0, 0, 0), names=None, shape=None):
    6.         super().__init__()
    7.         d = pred[0].device  # device
    8.         gn = [torch.tensor([*(im.shape[i] for i in [1, 0, 1, 0]), 1, 1], device=d) for im in ims]  # normalizations
    9.         self.ims = ims  # list of images as numpy arrays
    10.         self.pred = pred  # list of tensors pred[0] = (xyxy, conf, cls)
    11.         self.names = names  # class names
    12.         self.files = files  # image filenames
    13.         self.times = times  # profiling times
    14.         self.xyxy = pred  # xyxy pixels
    15.         self.xywh = [xyxy2xywh(x) for x in pred]  # xywh pixels
    16.         self.xyxyn = [x / g for x, g in zip(self.xyxy, gn)]  # xyxy normalized
    17.         self.xywhn = [x / g for x, g in zip(self.xywh, gn)]  # xywh normalized
    18.         self.n = len(self.pred)  # number of images (batch size)
    19.         self.t = tuple(x.t / self.n * 1E3 for x in times)  # timestamps (ms)
    20.         self.s = tuple(shape)  # inference BCHW shape
    21.  
    22.     def _run(self, pprint=False, show=False, save=False, crop=False, render=False, labels=True, save_dir=Path('')):
    23.         s, crops = '', []
    24.         for i, (im, pred) in enumerate(zip(self.ims, self.pred)):
    25.             s += f'\nimage {i + 1}/{len(self.pred)}: {im.shape[0]}x{im.shape[1]} '  # string
    26.             if pred.shape[0]:
    27.                 for c in pred[:, -1].unique():
    28.                     n = (pred[:, -1] == c).sum()  # detections per class
    29.                     s += f"{n} {self.names[int(c)]}{'s' * (n > 1)}, "  # add to string
    30.                 s = s.rstrip(', ')
    31.                 if show or save or render or crop:
    32.                     annotator = Annotator(im, example=str(self.names))
    33.                     for *box, conf, cls in reversed(pred):  # xyxy, confidence, class
    34.                         label = f'{self.names[int(cls)]} {conf:.2f}'
    35.                         if crop:
    36.                             file = save_dir / 'crops' / self.names[int(cls)] / self.files[i] if save else None
    37.                             crops.append({
    38.                                 'box': box,
    39.                                 'conf': conf,
    40.                                 'cls': cls,
    41.                                 'label': label,
    42.                                 'im': save_one_box(box, im, file=file, save=save)})
    43.                         else:  # all others
    44.                             annotator.box_label(box, label if labels else '', color=colors(cls))
    45.                     im = annotator.im
    46.             else:
    47.                 s += '(no detections)'
    48.  
    49.             im = Image.fromarray(im.astype(np.uint8)) if isinstance(im, np.ndarray) else im  # from np
    50.             if show:
    51.                 display(im) if is_notebook() else im.show(self.files[i])
    52.             if save:
    53.                 f = self.files[i]
    54.                 im.save(save_dir / f)  # save
    55.                 if i == self.n - 1:
    56.                     LOGGER.info(f"Saved {self.n} image{'s' * (self.n > 1)} to {colorstr('bold', save_dir)}")
    57.             if render:
    58.                 self.ims[i] = np.asarray(im)
    59.         if pprint:
    60.             s = s.lstrip('\n')
    61.             return f'{s}\nSpeed: %.1fms pre-process, %.1fms inference, %.1fms NMS per image at shape {self.s}' % self.t
    62.         if crop:
    63.             if save:
    64.                 LOGGER.info(f'Saved results to {save_dir}\n')
    65.             return crops
    66.  
    67.     @TryExcept('Showing images is not supported in this environment')
    68.     def show(self, labels=True):
    69.         self._run(show=True, labels=labels)  # show results
    70.  
    71.     def save(self, labels=True, save_dir='runs/detect/exp', exist_ok=False):
    72.         save_dir = increment_path(save_dir, exist_ok, mkdir=True)  # increment save_dir
    73.         self._run(save=True, labels=labels, save_dir=save_dir)  # save results
    74.  
    75.     def crop(self, save=True, save_dir='runs/detect/exp', exist_ok=False):
    76.         save_dir = increment_path(save_dir, exist_ok, mkdir=True) if save else None
    77.         return self._run(crop=True, save=save, save_dir=save_dir)  # crop results
    78.  
    79.     def render(self, labels=True):
    80.         self._run(render=True, labels=labels)  # render results
    81.         return self.ims
    82.  
    83.     def pandas(self):
    84.         # return detections as pandas DataFrames, i.e. print(results.pandas().xyxy[0])
    85.         new = copy(self)  # return copy
    86.         ca = 'xmin', 'ymin', 'xmax', 'ymax', 'confidence', 'class', 'name'  # xyxy columns
    87.         cb = 'xcenter', 'ycenter', 'width', 'height', 'confidence', 'class', 'name'  # xywh columns
    88.         for k, c in zip(['xyxy', 'xyxyn', 'xywh', 'xywhn'], [ca, ca, cb, cb]):
    89.             a = [[x[:5] + [int(x[5]), self.names[int(x[5])]] for x in x.tolist()] for x in getattr(self, k)]  # update
    90.             setattr(new, k, [pd.DataFrame(x, columns=c) for x in a])
    91.         return new
    92.  
    93.     def tolist(self):
    94.         # return a list of Detections objects, i.e. 'for result in results.tolist():'
    95.         r = range(self.n)  # iterable
    96.         x = [Detections([self.ims[i]], [self.pred[i]], [self.files[i]], self.times, self.names, self.s) for i in r]
    97.         # for d in x:
    98.         #    for k in ['ims', 'pred', 'xyxy', 'xyxyn', 'xywh', 'xywhn']:
    99.         #        setattr(d, k, getattr(d, k)[0])  # pop out of list
    100.         return x
    101.  
    102.     def print(self):
    103.         LOGGER.info(self.__str__())
    104.  
    105.     def __len__(self):  # override len(results)
    106.         return self.n
    107.  
    108.     def __str__(self):  # override print(results)
    109.         return self._run(pprint=True)  # print results
    110.  
    111.     def __repr__(self):
    112.         return f'YOLOv5 {self.__class__} instance\n' + self.__str__()
    113.

    Detections的类，用于存储YOLOv5的推理结果。

    • ims: 输入图像列表，每个元素是一个图像的 numpy 数组。
    • pred: 模型的推理结果列表，每个元素是一个 tensor，表示该图像的预测框信息。
    • files: 图像文件名列表。
    • times: 推理时间的元组，包含预处理、推理和NMS的时间。
    • names: 类别名称列表。
    • shape: 推理时输入的图像尺寸。

    • _run 方法用于展示、保存、裁剪、渲染图像等操作。

      • pprint: 是否输出详细信息。
      • show: 是否显示图像。
      • save: 是否保存图像。
      • crop: 是否裁剪图像。
      • render: 是否渲染图像。
      • labels: 是否显示标签。
      • save_dir: 保存图像的目录。

    • show, save, crop, render 方法分别用于显示、保存、裁剪、渲染图像。

    • pandas 方法将检测结果转换为 Pandas 的 DataFrame 格式。

    • tolist 方法返回一个由 Detections 对象组成的列表。

    • print 方法用于打印 Detections 对象的详细信息。

    • __len__, __str__, __repr__ 方法用于获取 Detections 对象的长度、字符串表示和打印形式。

  • 相关阅读:
    算法竞赛进阶指南 基本数据结构 0x14哈希表
    Java设计模式之简单工厂模式(不属于23种设计模式)
    传感器工作原理
    计算机毕业设计Java幼儿健康管理系统(系统+程序+mysql数据库+Lw文档）
    MySql事务
    CAN-TP传输协议详解
    Linux ubuntu 1804 版 安装过程图解说明--详细
    FPGA从入门到精通（二十）SignalTapII
    Tomcat调优【精简版】
    蓝桥杯day3刷题日记--P9420 [蓝桥杯 2023 国 B] 子 2023 / 双子数
  • 原文地址：https://blog.csdn.net/qq_60245590/article/details/134330520