基于面部识别的日志系统的设计与实现
基于面部识别的日志系统的设计与实现
@(GUI程序开发)[PyQt, 信号, 面部识别, 多线程, 媒体播放, opencv]
[TOC]
需求与设计
使用面部识别技术,识别进出重要通道的人员,并对人员进出动作进行记录。在人员进出时,在摄像机前采集画面,使用采集到的画面与历史记录对比,如果人员已经存在出入记录,追加一条记录即可;如果不存在则新建记录。
技术与实现
核心技术
使用Python来完成整个程序的编写,面部识别采用python开源库face_recognition, 基于dlib(C++实现)。
使用opencv来捕获视频流,支持本地摄像头和网络摄像头。
使用QThread创建线程更新每一帧图片到PyQt界面。
数据存储
使用Sqlite3作为单机版数据库,同时支持MySQL数据库。
使用sqlite3进行数据存储。
前端界面
使用PyQt4作为前端界面,使用绝对布局。
显示监控画面
opencv捕获摄像机视频流
Opencv捕获视频流,主要使用opencv的videoCapture方法, 传入摄像头物理地址(0-99)或者网络视频流地址。
- 安装(Ubuntu):
sudo apt install
- 使用(Python2.7 代码示例):
import cv2
#以下的代码片段应当被放在单独的线程中
#使用videoCapture捕获视频
#address可以是usb摄像头的地址(0-99)
#address也可以是视频流的网络地址 如海康摄像机rtsp地址
address = "rtsp://admin:12345@192.0.0.64:554/h264/ch1/main/av_stream"
cap = cv2.videoCapture(address)
#当视频流捕获到以后,开始获取捕获的每一帧
#拿到的frame实际上是以矩阵的形式存储的,具体的数据结构是numpy的ndarray
#并转换为PyQt可以显示的QPixmap(图片)
while cap.isOpened():
ret, frame = cap.read()
#拿到frame的信息,并从cv2默认的BGR模式转成RGB模式
height, width, fps = frame.shape
bytesPerLine = 3 * width
cv2.cvtColor(frame, cv2.COLOR_BGR2RGB, frame)
image = QtGui.QImage(frame.data, width, height,bytesPerLine, QtGui.QImage.Format_RGB888)
#然后在主线程中更新image,Pyqt4发送信号并传送image到主线程即可
PyQt4子线程控制UI线程更新
使用场景一:子线程获取视频流的frame,主线程更新frame
使用QT提供的线程类:QThread
使用opencv获取视频流之后,应在UI线程中更新获得的每一帧。
可以自定义一个控件,集成自QLabel,然后自定义信号,这个信号将会在自线程里被触发,在主线程里执行。
具体实现方法:
class VideoPlayer(QtGui.QLabel):
def __init__(self, parent, address):
QtGui.QLabel.__init__(self, parent, address)
#这里创建子线程,传递流媒体地址
self.video_provider = videoThread(address)
self.video_provider.start()
#这里自定义一个信号,以便于在子线程里面触发更新帧的方法
self.connect(self.video_provider, QtCore.SIGNAL('newImage(PyQt_PyObject)'), self.setFrame)
#这里创建一个当前帧,初始化为None,方便以后截图
self.current_frame = None
#这个方法将在newImage信号触发之后执行
def setFrame(self):
pixmap = QtGui.QPixmap.fromImage(frame)
self.current_frame = pixmap
self.setPixmap(pixmap)
这样主线程(UI线程已经做好了所有的准备工作,接下来就是在子线程内获取视频的每一帧,然后发送信号过来)
创建一个线程类,继承QtCore.QThread
#其实就是上面opencv的方法放在一个线程内
class videoThread(QtCore.QThread):
'''线程类,负责更新视频的每一帧'''
def __init__(self, address):
'''初始化的时候传入视频流的地址'''
super(videoThread, self).__init__()
self.address = address
def run(self):
'''重写run函数,读取到视频流之后不断更新frame到主线程'''
self.cap = cv2.VideoCapture(self.address)
while self.cap.isOpened():
_, frame = self.cap.read()
if frame is not None:
#这里进行frame的转换
height, width, fps = frame.shape
bytesPerLine = 3 * width
cv2.cvtColor(frame, cv2.COLOR_BGR2RGB, frame)
image = QtGui.QImage(frame.data, width, \
height,bytesPerLine, QtGui.QImage.Format_RGB888)
else:
#如果没有拿到frame,则给一个摄像头连接失败的图片,递归,直到摄像头重新连接
image = QtGui.QImage("./icons/no_video.png")
self.run()
#在这里发送信号的主线程,主线程会自动执行之前定义的setFrame方法,更新图片
self.emit(QtCore.SIGNAL('newImage(PyQt_PyObject)'), image)
#如果摄像头没有获取到,给链接失败的图片,然后递归
image = QtGui.QImage("./icons/no_video.png")
self.emit(QtCore.SIGNAL('newImage(PyQt_PyObject)'), image)
self.run()
这样就可以在前端播放画面了。
使用场景二:视频的截屏,在子线程里截屏并保存到本地
使用Python原声的threading.thread创建线程,只想简单工作
截屏的时候应当在界面显示:准备,3, 2, 1 的提示,这样的提示每一次间隔1秒钟,以便于给用户3秒的调整时间。 这样的工作必须在子线程内执行,否则在主线程内执行会阻断UI线程更新视频流的业务,造成视频卡顿。
实现方法: 首先创建一个用于显示提示消息的Label,然后在子线程里更新Label的text即可。
from PtQt4 import QtGui, QtCore
from thread import threading
class MainWindow(QtGui.QWidget):
def __init__(self):
#...
#...
self.notify_label = QtGui.QLabel(self)
self.take_photo_button = QtGui.QPushButton(self)
self.take_photo_button.setText(u"拍照")
self.connect(self.take_photo_button, QtCore.SIGNAL("clicked()"),\
self, QtCore.SOLT("takePhoto()"))
#自定义的槽,在class内应加上 装饰器
@QtCore.pyqtSlot()
def takePhoto(self):
thread = threading(target=self.updateNotifyAndTakePhoto)
thread.start()
#这里是真正进行提示和截图的方法
def updateNotifyAndTakePhoto(self):
#先进性一轮循环,显示四个提示,每一次间隔一秒,持续四秒
for text in [u"准备", '3', '2', '1']:
self.notify_label.setText(text)
time.sleep(1)
#然后设置提示消息为空
self.notify_label.setText("")
#开始截图
img = self.video_player.current_frame
img.save("./tmp/face.jpg")
PyQt4信号的另一种定义方法
在子线程内打开新的窗口
定义信号,初始化的时候绑定,在子线程内调用
class MainWindow(QtGui.QMainWindow):
'''程序主窗口'''
#自定义的信号一定要作为类的成员变量
record_window_signal = QtCore.pyqtSignal()
def __init__(self):
#... other code
self.record_window_signal.connect(self.showRecordWindow)
self.history_window_signal.connect(self.showHistoryWindow)
#这里直接调用启动一个线程
thread = threading(tearget=self.backgroundWork)
thread.start()
#一个函数,做后台工作
def backgroundWork(self):
#...做一些后台工作,比如人脸识别
#需要打开新的窗口的时候,触发这个信号即可
self.record_window_signal.emit()
#自定义的信号被触发时打开一个自定义的Dialog
def showRecordWindow(self):
#CSInfoWindow是一个自定义的Didlog
self.add_dialog = CSInfoWindow()
self.add_dialog.exec_()
人脸检测和比对
使用face_recognition检测图片内有没有人脸
在进行人脸识别的时候,首先要从图片内找到人脸,有时候图片内根本没有人脸,有时候由很多张脸,都需要进行判断
安装face_recognition模块
- 安装依赖
cmake 负责编译dlibsudo apt install cmake
libboost dlib的依赖sudo apt install libboost1.61-dev
dlib 机器学习类库sudo apt install libdlib-dev
- 安装模块
pil python的图像处理模块pip install pillow
numpy 机器学习核心模块,无需多言pip install numpy face_recognition
使用face_recognition检测照片内的人脸
主要是一些API的使用,后台的方法都在dlib中实现,python只是调用而已
上一张效果图:
![](http://upload-images.jianshu.io/upload_images/78834-fccdb0d6dae9e02d.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/508)
这张图片直接检测出来,两个人脸!!! 但是,其实我们只需要一张人脸。
#face_locations 就是对一张照片中人脸的定义,本质上是一个数组
face_locations = face_recognition.face_locations(image)
#如果有多张人脸,则不作处理,因为不符合我们的使用场景
if len(face_locations) > 1:
print u"检测出了多张人脸,请确保镜头中只有一个人"
#如果没有任何人脸,也不做处理
if len(face_locations) == 0:
print u"没有检测出来人脸,请重新识别"
#有且只有一张人脸的时候才开始进行人脸的定位
else:
#face_locations[0]就是惟一的一张人脸
top, right, bottom, left = face_locations[0]
#按照人脸的尺寸,裁剪出来人脸
face_image = image[top:bottom, left:right]
pil_image = Image.fromarray(face_image)
#显示截取出来的人脸
pil_image.show()
print u"人脸检测成功"
filename = FACE_DIR + str(datetime.now()) + ".jpg"
image = Image.fromarray(image)
image.save(filename)
使用face_recognition进行人脸的比对
在人员数据库中存储了很多的人脸,当用户刷脸之后,要对人脸进行比对,确定用户身份。
人脸比对的API:
face_recognition.api.compare_faces(known_face_encodings, face_encoding_to_check, tolerance=0.6)
Compare a list of face encodings against a candidate encoding to see if they match.
Parameters:
known_face_encodings
– A list of known face encodings
face_encoding_to_check
– A single face encoding to compare against the list
tolerance
– How much distance between faces to consider it a match. Lower is more strict. 0.6 is typical best performance.
Returns:
A list of True/False values indicating which known_face_encodings match the face encoding to check
- 参数1: 需要数据库内的所有人脸数据组成的数组(
know_face_encodings
) - 参数2: 需要未知人脸的数据(矩阵): (
face_encoding_to_check
) - 严格程度:
tolerance
严格程度从0.1 到1 越来越宽松,数值设置越大约有可能识别错误,数据太小由难以识别到。
具体实现的代码:
def recognite(unknow_img):
#传入一张未知图片的编码,转换成矩阵
unknow_face_encoding = face_recognition.face_encodings(unknow_img)[0]
know_faces = []
know_labels = []
# 从本地的文件夹内加载所有已经存在的人脸并转为矩阵,放在一个数组内
for filename in os.listdir(FACE_DIR):
path = os.path.join(FACE_DIR,filename)
image = face_recognition.load_image_file(path)
know_face_encoding = face_recognition.face_encodings(image)[0]
know_faces.append(know_face_encoding)
know_labels.append(filename)
# 进行人脸的比对,这里精准度设置为0.4 具体需要根据摄像头的分辨率 拍摄距离等进行调试
result = face_recognition.compare_faces(know_faces, unknow_face_encoding, tolerance=0.4)
# 返回检测的结果级和对应的标签(姓名或者其他唯一性标识)
return result, know_labels
总结
接到任务的第一反映
在刚开始接到这个任务的时候,其实是很震惊的,因为作为机器学期或者人工智能的内行人来讲,我很清楚人脸识别意味着什么。(....意味着算法,预测模型,训练模型,计算机图形学),总之这就是一个经典的课题,要从头实现绝非一个人一年两年就能出成果的。但是好在前人有很多经验!
最初的计划
额!最初的想法是自己实现人脸比对的算法, 因为之前使用knn算法随手写数字进行过识别,是一个典型的监督学分类案例,具体的方法就是将图片转换为矩阵,再对矩阵进行归一化,使用欧式距离公式来计算出来n维空间中这些点的距离,然后根据距离它最近的几个点进行概率判断,从而进行分类。但是人脸识别这样做根本不可行,人脸识别中既有回归分析又有分类,还是很棘手的。
第三方SDK
经过查阅资料发现,使用第三方SDK还是比较靠谱的,目前主流的由opencv和dlib,这里选择了dlib,因为dlib的面部识别的密度比较大,所以精准度会高一点,但是项目中还是使用了Opencv来进行视频流的获取。
最终结果
本来打算在windows环境下使用c#实现,但是考虑到开发效率, 决定还是用python开发比较靠谱。但在此之前并没有python GUI程序的开发经验,所以从头学习了python的QT开发, 开发环境选择在linux下,但是QT跨平台,今后也可在windows平台下部署,不过一想到windows下复杂的软件和类库安装过程,我就呵呵了,决定运行环境依旧在Linux下,避免电脑中毒导致系统崩溃(这个以前有血的教训,所以强烈建议使用Linux来运行重要系统)。
经过三天两夜的开发, 从零开始实现了人脸识别的程序, 测试之后还比较稳定,关于精准度的问题,这个还是需要根据实际环境来调试,并且也需要在拍照的时候做好用户引导。因为,天知道以后有多少人会被录在数据库内,而且精准度又不能太低,所以必须做好使用人员的培训,确保不会认错人,或者认不出来人。 如果单位的人比较少,大可以慢慢采集原始数据,正脸,侧脸,各种角度表情都可以存在数据库进行比对,但是这个程序要检测的对象是随机的,不是固定的那么几个人,但从目前测试的结果来看,正常使用,距离摄像头2到4米的距离拍照,基本上不会再误报,不遮挡眼睛,不吐舌头,微笑,大笑都可以正确识别。