1. 口罩识别简介
口罩识别是一种基于深度学习的判断人员有没有戴口罩的分类算法,能广泛的用于安防、生产安全等多种场景。本算法先基于人脸检测和人脸标准化获取的标准人脸,然后输入到口罩识别分类算法进行识别。
本人脸检测算法在数据集表现如下所示:
口罩识别 | ACC |
口罩分类验证集 | 99.7% |
基于EASY-EAI-Nano硬件主板的运行效率:
算法种类 | 运行效率 |
face_mask_judgement | 62ms |
2. 快速上手
2.1 开发环境准备
如果您初次阅读此文档,请阅读《入门指南/开发环境准备/Easy-Eai编译环境准备与更新》,并按照其相关的操作,进行编译环境的部署。
在PC端Ubuntu系统中执行run脚本,进入EASY-EAI编译环境,具体如下所示。
cd ~/develop_environment
./run.sh
2.2 源码下载以及例程编译
在EASY-EAI编译环境下创建存放源码仓库的管理目录:
cd /opt
mkdir EASY-EAI-Toolkit
cd EASY-EAI-Toolkit
通过git工具,在管理目录内克隆远程仓库
git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-C-Demo.git
注:
* 此处可能会因网络原因造成卡顿,请耐心等待。
* 如果实在要在gitHub网页上下载,也要把整个仓库下载下来,不能单独下载本实例对应的目录。
进入到对应的例程目录执行编译操作,具体命令如下所示:
cd EASY-EAI-Toolkit-C-Demo/algorithm-face_mask_judgement/
./build.sh cpres
注:
* 若build.sh脚本带有cpres参数,则会把Release/目录下的所有资源都拷贝到开发板上。
* 若build.sh脚本不带任何参数,则仅会拷贝demo编译出来的可执行文件。
* 由于依赖库部署在板卡上,因此交叉编译过程中必须保持adb连接。
2.3 模型部署
要完成算法Demo的执行,需要先下载人脸检测算法模型。
百度网盘链接为:https://pan.baidu.com/s/1cxnx1T0ldJvoqkyTk1RmUg(提取码:0b6h )。
也要下载口罩识别算法模型。
百度网盘链接为:https://pan.baidu.com/s/1KdytlkahhNptp7Gz2eGG0Q (提取码:2sdg )。
同时需要把下载的人脸检测算法模型复制粘贴到Release/目录:
再通过下方命令将模型署到板卡中,如下所示。
cp ./Release/*.model /mnt/userdata/Demo
2.4 例程运行
通过按键Ctrl+Shift+T创建一个新窗口,执行adb shell命令,进入板卡运行环境。
adb shell
进入板卡后,定位到例程上传的位置,如下所示:
cd /userdata/Demo
运行例程命令如下所示:
./test-face-mask-judgement 1.jpg
2.5 运行效果
face-mask-judgement的Demo执行效果如下所示:
再开一个窗口,在PC端Ubuntu环境通过以下命令可以把图片拉回来:
adb pull /userdata/Demo/result.jpg .
结果图片如下所示,戴口罩标绿色框:
API的详细说明,以及API的调用(本例程源码),详细信息见下方说明。
3. 人脸检测API说明
3.1 引用方式
为方便客户在本地工程中直接调用我们的EASY EAI api库,此处列出工程中需要链接的库以及头文件等,方便用户直接添加。
选项 | 描述 |
头文件目录 | easyeai-api/algorithm_api/face_detect |
库文件目录 | easyeai-api/algorithm_api/face_detect |
库链接参数 | -lface_detect -lface_alignment -lpthread -lrknn_api |
3.2 人脸检测初始化函数
设置人脸检测初始化函数原型如下所示。
int face_detect_init(rknn_context *ctx, const char *path)
具体介绍如下所示。
函数名:face_detect_init() | |
头文件 | face_detect.h |
输入参数 | ctx:rknn_context句柄 |
path:算法模型的路径 | |
返回值 | 成功返回:0 |
失败返回:-1 | |
注意事项 | 无 |
3.3 人脸检测运行函数
设face_detect_run原型如下所示。
int face_detect_run(rknn_context ctx, cv::Mat &input_image, std::vector<det> &result)
具体介绍如下所示。
函数名: face_detect_run () | |
头文件 | face_detect.h |
输入参数 | ctx: rknn_context句柄 |
input_image:Opencv Mat格式图像 | |
result:人脸检测的结果输出 | |
返回值 | 成功返回:0 |
失败返回:-1 | |
注意事项 | 无 |
3.4 人脸检测释放函数
人脸检测释放函数原型如下所示。
int face_detect_release(rknn_context ctx)
具体介绍如下所示。
函数名: face_detect_release () | |
头文件 | face_detect.h |
输入参数 | face_detect.h |
返回值 | 成功返回:0 |
失败返回:-1 | |
注意事项 | 无 |
4. 口罩识别API说明
4.1 引用方式
为方便客户在本地工程中直接调用我们的EASY EAI api库,此处列出工程中需要链接的库以及头文件等,方便用户直接添加。
选项 | 描述 |
头文件目录 | easyeai-api/algorithm_api/face_mask_judgement |
库文件目录 | easyeai-api/algorithm_api/face_mask_judgement |
库链接参数 | -lface_alignment -lface_mask_judgement -lpthread -lrknn_api |
4.2 口罩识别初始化函数
设置人脸检测初始化函数原型如下所示。
int face_mask_judgement_init(rknn_context *ctx, const char * path)
具体介绍如下所示。
函数名: face_mask_judgement_init() | |
头文件 | face_mask_judgement.h |
输入参数 | ctx:rknn_context句柄 |
path:算法模型的路径 | |
返回值 | 成功返回:0 |
失败返回:-1 | |
注意事项 | 无 |
4.3 口罩识别执行函数
设face_pose_estimation_run原型如下所示。
int face_mask_judgement_run(rknn_context ctx, cv::Mat *face_image, float *result)
具体介绍如下所示。
函数名: face_mask_judgement_run () | |
头文件 | face_landmark98.h |
输入参数 | ctx: rknn_context句柄 |
face_image:图像数据输入(cv::Mat是Opencv的类型) | |
result: 算法输出的二分类概率结果 | |
返回值 | 成功返回:0 |
失败返回:-1 | |
注意事项 | 无 |
4.4 口罩识别释放函数
口罩识别释放函数原型如下所示。
int face_mask_judgement_release(rknn_context ctx)
具体介绍如下所示。
函数名:face_mask_judgement_release () | |
头文件 | face_mask_judgement.h |
输入参数 | ctx: rknn_context句柄 |
返回值 | 成功返回:0 |
失败返回:-1 | |
注意事项 | 无 |
5. 口罩识别算法例程
例程目录为Toolkit-C-Demo/algorithm-face_mask_judgement/test-face-mask-judgement.cpp,操作流程如下。
参考例程如下所示。
#include <stdio.h>
#include <stdint.h>
#include <stdlib.h>
#include <fstream>
#include <iostream>
#include <fstream>
#include <atomic>
#include <queue>
#include <thread>
#include <mutex>
#include <chrono>
#include <sys/time.h>
#include <sys/stat.h>
#include <dirent.h>
#include <unistd.h>
#include <opencv2/opencv.hpp>
#include <unistd.h>
#include <sys/syscall.h>
#include "face_detect.h"
#include "face_alignment.h"
#include "face_mask_judgement.h"
using namespace std;
using namespace cv;
int main(int argc, char **argv)
{
if( argc != 2)
{
printf("./test-face-mask-judgement xxx.jpg \n");
return -1;
}
rknn_context detect_ctx, mask_judge_ctx;
std::vector<det> detect_result;
float mask_result[2];
int ret;
cv::Mat src;
src = cv::imread(argv[1], 1);
/* 人脸检测初始化 */
ret = face_detect_init(&detect_ctx, "./face_detect.model");
if( ret < 0)
{
printf("face_detect_init fail! ret=%d\n", ret);
return -1;
}
/* 人脸戴口罩判断初始化 */
ret = face_mask_judgement_init(&mask_judge_ctx, "./face_mask_judgement.model");
if( ret < 0)
{
printf("face_mask_judgement_init fail! ret=%d\n", ret);
return -1;
}
/* 人脸检测执行 */
face_detect_run(detect_ctx, src, detect_result);
for( int i=0; i < (int)detect_result.size() ; i++ )
{
Point2f points[5];
for (int j = 0; j < (int)detect_result[i].landmarks.size(); ++j)
{
points[j].x = (int)detect_result[i].landmarks[j].x;
points[j].y = (int)detect_result[i].landmarks[j].y;
}
Mat face_algin;
face_algin = face_alignment(src, points);
/* 人脸戴口罩判断运行 */
face_mask_judgement_run(mask_judge_ctx, &face_algin, mask_result);
printf("normal_face possibility:%f\n", mask_result[0]);
printf("masked_face possibility:%f\n", mask_result[1]);
int x = (int)(detect_result[i].box.x);
int y = (int)(detect_result[i].box.y);
int w = (int)(detect_result[i].box.width);
int h = (int)(detect_result[i].box.height);
if( mask_result[0] > 0.6 )
{
rectangle(src, Rect(x, y, w, h), Scalar(0, 0, 255), 2, 8, 0);
}
else
{
rectangle(src, Rect(x, y, w, h), Scalar(0, 255, 0), 2, 8, 0);
}
}
imwrite("result.jpg", src);
/* 人脸检测释放 */
face_detect_release(detect_ctx);
/* 人脸戴口罩判断释放 */
face_mask_judgement_release(mask_judge_ctx);
return 0;
}