OpenCV-Python实战（番外篇）——想要识别猫咪的情绪？从猫脸检测开始

转x33g5p2x  于2022-03-11 转载在 Python  
字(7.7k)|赞(0)|评价(0)|浏览(680)

前言

前些天看到朋友分享的猫咪情绪识别软件的消息，可能小伙伴们也都跃跃欲试，想要做一个合格的铲屎官了。但是想要想识别猫的情绪表情，首先从猫脸检测开始吧！
我们已经学习了如何使用 Python Web 框架创建并部署完整的 Web人脸检测应用程序，在本项目中，我们将使用 OpenCV 和 Flask 构建检测猫脸的深度学习 Web 应用程序。

猫脸检测

在开始讲解之前，让我们首先快速浏览下项目结构：

  1. cat_detection
  2. 	|——server
  3. 	|	├─cat_detection.py
  4. 	|	└─image_processing.py
  5. 	└─client
  6. 		├─request_and_draw_rectangle.py
  7. 		└─test_example.png

使用级联检测器检测猫脸

为了更好的进行代码分离，检测程序在 image_processing.py 脚本中执行，其中编码了 ImageProcessing() 类。我们在 ImageProcessing 类中实现 cat_face_detection() 方法，利用 OpenCV 中的 detectMultiScale() 函数执行猫脸检测。

  1. # image_processing.py
  2. class ImageProcessing(object):
  3.     def __init__(self):
  4.         # 在构造函数中实例化猫脸检测器
  5.         self.file_cascade = os.path.join(os.path.join(os.path.dirname(__file__), 'data'), "haarcascade_frontalcatface_extended.xml")
  6.         self.cat_cascade = cv2.CascadeClassifier(self.file_cascade)
  8.     def cat_face_detection(self, image):
  9.         image_array = np.asarray(bytearray(image), dtype=np.uint8)
  10.         img_opencv = cv2.imdecode(image_array, -1)
  12.         output = []
  13.         gray = cv2.cvtColor(img_opencv, cv2.COLOR_BGR2GRAY)
  14.         cats = self.cat_cascade.detectMultiScale(gray, scaleFactor=1.1, minNeighbors=5, minSize=(25, 25))
  15.         for cat in cats:
  16.             # 返回检测到的猫脸检测框坐标
  17.             x, y, w, h = cat.tolist()
  18.             face = {'box': [x, y, x + w, y + h]}
  19.             output.append(face)
  20.         return output

使用深度学习模型检测图片中的猫

ImageProcessing 类的 cat_detection() 方法使用预训练的 MobileNet SSD 对象检测执行猫检测，它可以检测 20 个类。在本项目中，我们的目标是检测猫，如果 class_id 是一只猫，我们会将检测结果添加到 output 中：

  1. # 在 image_processing.py 中添加 cat_detection() 方法
  2. class ImageProcessing(object):
  3.     def __init__(self):
  4.         # 在构造函数中实例化猫脸检测器
  5.         self.file_cascade = os.path.join(os.path.join(os.path.dirname(__file__), 'data'), "haarcascade_frontalcatface_extended.xml")
  6.         self.cat_cascade = cv2.CascadeClassifier(self.file_cascade)
  7.         # 在构造函数中实例化 SSD 深度学习模型用于检测猫
  8.         self.file_prototxt = os.path.join(os.path.join(os.path.dirname(__file__), 'data'), "MobileNetSSD_deploy.prototxt.txt")
  9.         self.file_caffemodel = os.path.join(os.path.join(os.path.dirname(__file__), 'data'), "MobileNetSSD_deploy.caffemodel")
  10.         self.classes = ["background", "aeroplane", "bicycle", "bird", "boat", "bottle", "bus",
  11.                         "car", "cat", "chair", "cow", "diningtable", "dog", "horse", "motorbike",
  12.                         "person", "pottedplant", "sheep", "sofa", "train", "tvmonitor"]
  13.         self.net = cv2.dnn.readNetFromCaffe(self.file_prototxt, self.file_caffemodel)
  14.     
  15.     def cat_detection(self, image):
  16.         image_array = np.asarray(bytearray(image), dtype=np.uint8)
  17.         img_opencv = cv2.imdecode(image_array, -1)
  18.         # 图像预处理
  19.         blob = cv2.dnn.blobFromImage(img_opencv, 0.007843, (300, 300), (127.5, 127.5, 127.5))
  20.         # 前向计算
  21.         self.net.setInput(blob)
  22.         detections = self.net.forward()
  23.         # 预处理后图像尺寸
  24.         dim = 300
  25.         
  26.         output = []
  27.         
  28.         for i in range(detections.shape[2]):
  29.             confidence = detections[0, 0, i, 2]
  30.             if confidence > 0.1:
  31.                 # 获取类别标签
  32.                 class_id = int(detections[0, 0, i, 1])
  33.                 # 获取对象位置的坐标
  34.                 left = int(detections[0, 0, i, 3] * dim)
  35.                 top = int(detections[0, 0, i, 4] * dim)
  36.                 right = int(detections[0, 0, i, 5] * dim)
  37.                 bottom = int(detections[0, 0, i, 6] * dim)
  38.                 # 图像尺寸的比例系数
  39.                 heightFactor = img_opencv.shape[0] / dim
  40.                 widthFactor = img_opencv.shape[1] / dim
  41.                 # 检测框坐标
  42.                 left = int(widthFactor * left)
  43.                 top = int(heightFactor * top)
  44.                 right = int(widthFactor * right)
  45.                 bottom = int(heightFactor * bottom)
  46.                 # 检测目标是否是猫
  47.                 if self.classes[class_id] == 'cat':
  48.                     cat = {'box': [left, top, right, bottom]}
  49.                     output.append(cat)
  50.         return output

以上猫检测模型，使用了 MobileNet-SSD 目标检测模型，这里对训练后 MobileNet-SSD 模型架构和模型权重参数文件进行压缩供大家进行下载，也可以自己构建模型训练获得 MobileNet-SSD 模型参数。

将 OpenCV 猫脸检测程序部署在 Web 端

接下来将使用 OpenCV 创建一个深度学习猫检测 Web API，cat_detection 项目对 Web 服务器应用程序实现在 Web 端检测猫，cat_detection.py 脚本负责解析请求并构建对客户端的响应：

  1. # cat_detection.py
  2. from flask import Flask, request, jsonify
  3. import urllib.request
  4. from image_processing import ImageProcessing
  6. app = Flask(__name__)
  7. ip = ImageProcessing()
  9. @app.errorhandler(400)
  10. def bad_request(e):
  11.     return jsonify({'status': 'Not ok', 'message': 'This server could not understand your request'}), 400
  13. @app.errorhandler(404)
  14. def not_found(e):
  15.     return jsonify({'status': 'Not found', 'message': 'Route not found'}), 404
  17. @app.errorhandler(500)
  18. def not_found(e):
  19.     return jsonify({'status': 'Internal error', 'message': 'Internal error occurred in server'}), 500
  21. @app.route('/catfacedetection', methods=['GET', 'POST', 'PUT'])
  22. def detect_cat_faces():
  23.     if request.method == 'GET':
  24.         if request.args.get('url'):
  25.             with urllib.request.urlopen(request.args.get('url')) as url:
  26.                 return jsonify({'status': 'Ok', 'result': ip.cat_face_detection(url.read())}), 200
  27.         else:
  28.             return jsonify({'status': 'Bad request', 'message': 'Parameter url is not present'}), 400
  29.     elif request.method == 'POST':
  30.         if request.files.get('image'):
  31.             return jsonify({'status': 'Ok', 'result': ip.cat_face_detection(request.files['image'].read())}), 200
  32.         else:
  33.             return jsonify({'status': 'Bad request', 'message': 'Parameter image is not present'}), 400
  34.     else:
  35.         return jsonify({'status': 'Failure', 'message': 'PUT method not supported for API'}), 405
  37. @app.route('/catdetection', methods=['GET', 'POST', 'PUT'])
  38. def detect_cats():
  39.     if request.method == 'GET':
  40.         if request.args.get('url'):
  41.             with urllib.request.urlopen(request.args.get('url')) as url:
  42.                 return jsonify({'status': 'Ok', 'result': ip.cat_detection(url.read())}), 200
  43.         else:
  44.             return jsonify({'status': 'Bad request', 'message': 'Parameter url is not present'}), 400
  45.     elif request.method == 'POST':
  46.         if request.files.get('image'):
  47.             return jsonify({'status': 'Ok', 'result': ip.cat_detection(request.files['image'].read())}), 200
  48.         else:
  49.             return jsonify({'status': 'Bad request', 'message': 'Parameter image is not present'}), 400
  50.     else:
  51.         return jsonify({'status': 'Failure', 'message': 'PUT method not supported for API'}), 405
  53. if __name__ == '__main__':
  54.     app.run(host='0.0.0.0')

如上所示，使用 route() 装饰器将 detect_cat_faces() 函数绑定到 /catfacedetection URL，并将detect_cats() 函数绑定到 /catdetection URL，并且使用 jsonify() 函数创建 application/json MIME 类型的给定参数的 JSON 表示，此 API 支持 GET 和 POST 请求，我们还通过使用 errorhandler() 装饰函数来注册错误处理程序。

构造请求检测图像中的猫和猫脸

为了测试此API，编写 request_and_draw_rectangle.py 程序：

  1. # request_and_draw_rectangle.py
  2. import cv2
  3. import numpy as np
  4. import requests
  5. from matplotlib import pyplot as plt
  7. def show_img_with_matplotlib(color_img, title, pos):
  8.     img_RGB = color_img[:, :, ::-1]
  9.     ax = plt.subplot(1, 2, pos)
  10.     plt.imshow(img_RGB)
  11.     plt.title(title, fontsize=10)
  12.     plt.axis('off')
  14. CAT_FACE_DETECTION_REST_API_URL = "http://localhost:5000/catfacedetection"
  15. CAT_DETECTION_REST_API_URL = "http://localhost:5000/catdetection"
  16. IMAGE_PATH = "test_example.png"
  18. # 加载图像构建有效负载
  19. image = open(IMAGE_PATH, 'rb').read()
  20. payload = {'image': image}
  22. image_array = np.asarray(bytearray(image), dtype=np.uint8)
  23. img_opencv = cv2.imdecode(image_array, -1)
  25. fig = plt.figure(figsize=(12, 7))
  26. plt.suptitle("Using cat detection API", fontsize=14, fontweight='bold')
  27. show_img_with_matplotlib(img_opencv, "source image", 1)
  28. # 发送 GET 请求
  29. r = requests.post(CAT_DETECTION_REST_API_URL, files=payload)
  30. # 解析返回信息
  31. print("status code: {}".format(r.status_code))
  32. print("headers: {}".format(r.headers))
  33. print("content: {}".format(r.json()))
  34. json_data = r.json()
  35. result = json_data['result']
  36. # 绘制猫脸检测框
  37. for cat in result:
  38.     left, top, right, bottom = cat['box']
  39.     cv2.rectangle(img_opencv, (left, top), (right, bottom), (0, 255, 0), 2)
  40.     cv2.circle(img_opencv, (left, top), 10, (0, 0, 255), -1)
  41.     cv2.circle(img_opencv, (right, bottom), 10, (255, 0, 0), -1)
  43. # 发送 GET 请求
  44. r = requests.post(CAT_FACE_DETECTION_REST_API_URL, files=payload)
  45. # 解析返回信息
  46. print("status code: {}".format(r.status_code))
  47. print("headers: {}".format(r.headers))
  48. print("content: {}".format(r.json()))
  49. json_data = r.json()
  50. result = json_data['result']
  51. # 绘制猫检测框
  52. for face in result:
  53.     left, top, right, bottom = face['box']
  54.     cv2.rectangle(img_opencv, (left, top), (right, bottom), (0, 255, 255), 2)
  55.     cv2.circle(img_opencv, (left, top), 10, (0, 0, 255), -1)
  56.     cv2.circle(img_opencv, (right, bottom), 10, (255, 0, 0), -1)
  58. # 结果可视化
  59. show_img_with_matplotlib(img_opencv, "cat detection", 2)
  60. plt.show()

在以上示例中，我们发送了两个 POST 请求以检测猫脸以及图像中的猫，然后根据结果解析来自两个请求的响应并绘制结果：

后记

可以对以上项目进行修改，例如可以在服务器端直接绘制检测框，返回带有检测框的图像；或者读取摄像头视频帧，从而可以实时看到猫咪的行动状态；或者通过检测到的猫脸进一步进行情绪识别，当然需要首先简单的训练一个猫咪情绪识别模型。

相关链接

OpenCV-Python实战（14）——一文详解人脸检测（仅需6行代码轻松学会4种人脸检测方法）
OpenCV-Python实战（19）——OpenCV与深度学习的碰撞
OpenCV-Python实战（20）——OpenCV计算机视觉项目在Web端的部署
OpenCV-Python实战（21）——OpenCV人脸检测项目在Web端的部署

版权说明 : 本文为转载文章, 版权归原作者所有 版权申明

原文链接 : https://blog.csdn.net/LOVEmy134611/article/details/120584236

内容来源于网络，如有侵权，请联系作者删除！

pythonopencv计算机视觉

相关文章

    查看更多

    热门标签

    更多
    JavaquerypythonNode开发语言requestUtil数据库Table后端算法LoggerMessageElementParser

    最新文章

    更多
    • 蜀ICP备13028337号-1 大数据知识库 https://www.saoniuhuo.com © All rights reserved
    • 本站内容来源互联网,如果侵犯您的权益请联系我们删除, 联系方式：448109455@qq.com