[ Python+OpenCV+Mediapipe ] 实现对象识别

一、写在前面

       本文所用例子为个人学习的小结，如有不足之处请各位多多海涵，欢迎小伙伴一起学习进步，如果想法可在评论区指出，我会尽快回复您，不胜感激！

        所公布代码或截图均为运行成功后展示。

二、本文内容

       使用OpenCV和Mediapipe提供的库，通过摄像头捕捉画面，调用mpp的模型识别库，识别对象的是什么，并标注可信度。

        如下图识别泰迪熊等。

 官方给出的模型库中还有很多目标，我整理在下方表格里：

https://storage.googleapis.com/mediapipe-tasks/object_detector/labelmap.txt

三、开发环境

1.Python 3.9

2.OpenCV

3.Mediapipe：https://developers.google.com/mediapipe/solutions/vision/hand_landmarker

4.comtypes

5.numpy

IDE:

1.Pycharm

四、代码实现

4.1 引入所需包

        引入后报红，则说明缺少对应module，可以通过pip install xx解决，如果pip install失败，可以尝试更换镜像源

 #更换为豆瓣的镜像源

 pip config set global.index-url https://pypi.douban.com/simple

import mediapipe as mp
from mediapipe.tasks import python
import cv2
import numpy as np
from mediapipe.tasks.python import vision

4.2 定义图像框标注的方法：

        初始化mediapipe的一些属性。

'''
用于在图像上绘制目标检测结果的边界框和标签:
函数接受两个参数：image 表示要绘制目标检测结果的图像，detection_result 是包含检测结果的对象。
对于每个检测到的对象，函数会执行以下操作：
绘制边界框：根据检测到的对象的边界框信息，使用 cv2.rectangle 在图像上绘制一个矩形框，框的颜色为 TEXT_COLOR，线宽为 3。
绘制标签和置信度：从检测结果中获取对象的类别和置信度信息，然后将类别名称和置信度值格式化为文本，将其放置在边界框的左上角，以便在图像上显示对象的标签和置信度。
最后，函数返回经过绘制标框和标识后的图像。
'''
# 图像解析标框及标识
def visualize(
        image,
        detection_result
) -> np.ndarray:
    for detection in detection_result.detections:
        # Draw bounding_box
        bbox = detection.bounding_box
        start_point = bbox.origin_x, bbox.origin_y
        end_point = bbox.origin_x + bbox.width, bbox.origin_y + bbox.height
        cv2.rectangle(image, start_point, end_point, TEXT_COLOR, 3)
 
        # Draw label and score
        category = detection.categories[0]
        category_name = category.category_name
        probability = round(category.score, 2)
        result_text = category_name + ' (' + str(probability) + ')'
        text_location = (MARGIN + bbox.origin_x,
                         MARGIN + ROW_SIZE + bbox.origin_y)
        cv2.putText(image, result_text, text_location, cv2.FONT_HERSHEY_PLAIN,
                    FONT_SIZE, TEXT_COLOR, FONT_THICKNESS)
 
    return image

4.3 定义并调用模型库

        将下载好的模型放在项目同级目录下

'''
调用识别对象模型
模型下载地址:https://storage.googleapis.com/mediapipe-models/object_detector/efficientdet_lite0/float32/latest/efficientdet_lite0.tflite
'''
base_options = python.BaseOptions(model_asset_path='efficientdet_lite0.tflite')
options = vision.ObjectDetectorOptions(base_options=base_options,
                                       score_threshold=0.5)
with vision.ObjectDetector.create_from_options(options) as detector:

4.4 转换图像并识别

        将摄像头捕捉到的每一帧图片转换为mediapipe可用的格式，并在检测后返回检测结果，调用图像标识方法绘制对象识别框及名称标注，显示于界面上

        #创建mediapipe格式的图片
        mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=frame)
        #检测该图片
        detection_result = detector.detect(mp_image)
        #复制图片数据到np数组中，以便进行数据分析
        image_copy = np.copy(mp_image.numpy_view())
        #调用图像标识方法
        annotated_image = visualize(image_copy, detection_result)
        #加载模型到界面上
        cv2.imshow("Object detection", annotated_image)  # CV2窗体

五、看一看实际效果吧

        还可以识别更多的目标，请自己尝试一下吧        

5.1 识别人脸

        （没错！我是彦祖！）

5.2 识别手机

        1+8Pro 512G 金色传说品质~

5.3 泰迪熊

        鬼知道官方为什么要识别泰迪熊？

5.4 自行车

        是时候锻炼身体了！

5.5 修狗

        乖巧金毛，我爱修狗

5.6 修猫

        小猫小猫，天下第一好！

六、完整代码

import mediapipe as mp
from mediapipe.tasks import python
import cv2
import numpy as np
from mediapipe.tasks.python import vision
 
MARGIN = 10  # pixels
ROW_SIZE = 10  # pixels
FONT_SIZE = 1
FONT_THICKNESS = 1
TEXT_COLOR = (0, 255, 0)
# 视频分辨率
resize_w = 1280
resize_h = 960
 
'''
用于在图像上绘制目标检测结果的边界框和标签:
函数接受两个参数：image 表示要绘制目标检测结果的图像，detection_result 是包含检测结果的对象。
对于每个检测到的对象，函数会执行以下操作：
绘制边界框：根据检测到的对象的边界框信息，使用 cv2.rectangle 在图像上绘制一个矩形框，框的颜色为 TEXT_COLOR，线宽为 3。
绘制标签和置信度：从检测结果中获取对象的类别和置信度信息，然后将类别名称和置信度值格式化为文本，将其放置在边界框的左上角，以便在图像上显示对象的标签和置信度。
最后，函数返回经过绘制标框和标识后的图像。
'''
# 图像解析标框及标识
def visualize(
        image,
        detection_result
) -> np.ndarray:
    for detection in detection_result.detections:
        # Draw bounding_box
        bbox = detection.bounding_box
        start_point = bbox.origin_x, bbox.origin_y
        end_point = bbox.origin_x + bbox.width, bbox.origin_y + bbox.height
        cv2.rectangle(image, start_point, end_point, TEXT_COLOR, 3)
 
        # Draw label and score
        category = detection.categories[0]
        category_name = category.category_name
        probability = round(category.score, 2)
        result_text = category_name + ' (' + str(probability) + ')'
        text_location = (MARGIN + bbox.origin_x,
                         MARGIN + ROW_SIZE + bbox.origin_y)
        cv2.putText(image, result_text, text_location, cv2.FONT_HERSHEY_PLAIN,
                    FONT_SIZE, TEXT_COLOR, FONT_THICKNESS)
 
    return image
 
 
'''
调用识别对象模型
模型下载地址:https://storage.googleapis.com/mediapipe-models/object_detector/efficientdet_lite0/float32/latest/efficientdet_lite0.tflite
'''
base_options = python.BaseOptions(model_asset_path='efficientdet_lite0.tflite')
options = vision.ObjectDetectorOptions(base_options=base_options,
                                       score_threshold=0.5)
with vision.ObjectDetector.create_from_options(options) as detector:
    # 初始化摄像头
    cap = cv2.VideoCapture(0, cv2.CAP_DSHOW)
 
    while cap.isOpened():
        #获取每一帧画面
        success, frame = cap.read()
        # 如果读取到空帧，继续循环
        if not success:
            print("空帧.")
            continue
 
        # 重置该图片的大小
        frame = cv2.resize(frame, (resize_w, resize_h))
        #创建mediapipe格式的图片
        mp_image = mp.Image(image_format=mp.ImageFormat.SRGB, data=frame)
        #检测该图片
        detection_result = detector.detect(mp_image)
        #复制图片数据到np数组中，以便进行数据分析
        image_copy = np.copy(mp_image.numpy_view())
        #调用图像标识方法
        annotated_image = visualize(image_copy, detection_result)
        #加载模型到界面上
        cv2.imshow("Object detection", annotated_image)  # CV2窗体
        # 按下'q'键退出循环
        if cv2.waitKey(1) & 0xFF == ord('q'):
            break
 
    cap.release()

七、小结

       Mediapipe还有很多库可以探索，目前我也只是在使用，之前通过opencv训练了人脸模型，后续还需要再深入研究一下模型训练之类的。想学的有很多，还要加油啊！

八、感谢

        感谢各位大佬的莅临，学习之路漫漫，吾将上下而求索。有任何想法请在评论区留言哦！

        再次感谢！