基于树莓派的智能魔镜,支持人脸识别、情感监测、热词唤醒、语音交互,以及与手机APP交互、温湿度/新闻热点/日期显示等

2022-05-09 16:02:02 浏览数 (1)

功能清单

  •  硬件组装
  •  系统唤醒与亮屏
  •  获取传感器信息并显示
  •  获取天气、新闻等信息并显示
  •  UI界面绘制魔镜界面绘制
  •  安卓APP
  •  获取备忘录信息并显示
  •  推送使用情况到APP(能推,但不知道推啥)
  •  内容整合
  •  人脸识别
  •  情感监测
  •  语音对话

界面演示

系统框图

设计方案

整体结构

网站设计

 app设计

 魔镜界面设计

 温湿度传感器

 光电传感器

相关教程

第三方库的安装

安装库

代码语言:javascript复制
import paho.mqtt.client as pahomqtt
from PyQt5 import QtCore, QtGui, QtWidgets
from PyQt5.QtWidgets import QApplication
from PyQt5 import QtGui, QtCore, QtWidgets
from PyQt5.QtWidgets import *
from PyQt5.QtCore import *
from PyQt5.QtGui import *
from bs4 import BeautifulSoup
import Adafruit_DHT
from aip import AipSpeech
from aip import AipFace
from playsound import playsound
import pyaudio
import requests
import cv2
import snowboydecoder

from mirrorUI import Ui_MainWindow
from face import FaceFunction
from speech import SpeechFunction

import sys, os
import time
import string
import random
import hashlib
import base64
import signal
import RPi.GPIO as GPIO
import json
import wave
import urllib
import urllib3
import re
import threading

换源

代码语言:javascript复制
sudo nano /etc/apt/sources.list
deb http://mirrors.tuna.tsinghua.edu.cn/raspbian/raspbian/ buster main non-free contrib
deb-src http://mirrors.tuna.tsinghua.edu.cn/raspbian/raspbian/ buster main non-free contrib

sudo vim /etc/apt/sources.list.d/raspi.list
deb http://mirrors.tuna.tsinghua.edu.cn/raspberrypi/ buster main ui

sudo apt-get update
sudo apt-get upgrade

sudo mkdir ~/.pip
sudo vim ~/.pip/pip.conf
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
[install]
trusted-host=mirrors.aliyun.com

安装mqtt

代码语言:javascript复制
pip3 -V
pip3 install paho-mqtt

安装Qt5

代码语言:javascript复制
sudo apt-get install python3-pyqt5 -y

git clone提速

代码语言:javascript复制
git config --global http.postBuffer 524288000

安装Adafruit_DHT

代码语言:javascript复制
sudo git clone https://github.com/adafruit/Adafruit_Python_DHT.git
cd Adafruit_Python_DHT
sudo python3 setup.py install

opencv安装

代码语言:javascript复制
sudo apt-get install libhdf5-dev libhdf5-serial-dev -y
sudo apt-get install libqtgui4 libqtwebkit4 libqt4-test python3-pyqt5 -y
sudo apt-get install libatlas-base-dev -y
sudo apt-get install libjasper-dev -y

pip3 install opencv_python

安装字体

代码语言:javascript复制
复制到/usr/share/fonts/

安装portaudio

代码语言:javascript复制
下载portaudio库http://portaudio.com/download.html
sudo apt install libasound-dev # 一定要有这一句
sudo ./configure
sudo make
sudo make install
vim ~/.bashrc
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/lib
sudo ldconfig

安装snowboy

代码语言:javascript复制
sudo apt-get install pulseaudio -y
sudo apt-get install sox -y
sox -d -d  # 测试
sudo apt-get install python3-pyaudio -y
sudo apt-get install swig -y
sudo apt-get install libatlas-base-dev -y
git clone https://github.com/Kitt-AI/snowboy.git
cd snowboy/swig/Python3 && make

// snowboydecoder将第 5 行代码 from * import snowboydetect 改为 import snowboydetect 即可直接运行
// 具体用法可参考链接:https://www.jianshu.com/p/a1c06020f5fd

安装Gst(playsound用到)

代码语言:javascript复制
sudo apt-get install gir1.2-gst-plugins-base-1.0 -y

安装nginx

代码语言:javascript复制
1、安装nginx  web服务器
sudo apt-get install nginx -y
2、启动nginx
sudo /etc/init.d/nginx start
nginx的www根目录默认在 /usr/share/nginx/html中
3、修改nginx的配置文件
sudo vim /etc/nginx/sites-available/default

listen   8080;## listen for ipv4; this line is default and implied
//监听的端口号,如果与其它软件冲突,可以在这里更改
root /usr/share/nginx/www;
//nginx 默认路径html所在路径
index index.html index.htm index.php;
//nginx默认寻找的网页类型,可以增加一个index.php

其他库

代码语言:javascript复制
pip3 install bs4 requests playsound baidu-aip pyaudio lxml

框图与界面绘制

1、安装Qt

​ Index of /archive/qt/5.9/5.9.3

下载exe:qt-opensource-windows-x86-5.9.3.exe

2、使用下载工具IDM,100M宽带下载速度能达到12M/s

3、下载过程中,先去注册一个Qt账号

Qt Account Login

4、.ui转.py

代码语言:javascript复制
pyuic5 -o mirrorUI.py mirrorUI.ui

5、mirrorUI.py添加启动语句

代码语言:javascript复制
import sys
if __name__ == '__main__':
    app = QtWidgets.QApplication(sys.argv)   # 定义Qt应用
    MainWindow = QtWidgets.QMainWindow()     # 窗口实例
    ui = Ui_MainWindow()                     # 界面UI实例
    ui.setupUi(MainWindow)                   # 绘制界面
    MainWindow.show()                        # 显示窗口
    sys.exit(app.exec_())                    # 应用关闭

6、界面label对应表

代码语言:javascript复制
label_temperature 温度
label_humidity 湿度 
label_weather 天气 
label_weathertips 天气助手 
label_weathericon 天气图标 
label_time 时间 
label_date 日期 
label_week 星期 
label_historyhead 历史上的今天 
label_historymsg 历史上的今天 的内容 
label_communicate 文字交互区 
label_todohead 今日事项 
label_todomsg 今日事项 的内容 
label_headlineshead 今天头条 
label_headlinesmsg 今日头条 的内容 
label_gif 洛天依gif图

7、信号与槽函数

代码语言:javascript复制
# 继承QObject
class MQTT(QObject):  
# 创建信号量,传字符串
mqttSignal = pyqtSignal(object) 
# 连接信号与槽函数
mqtt.mqttSignal.connect(ui.updateCommunicate)
# 发送信号量
self.mqttSignal.emit("qwe")

8、mirrorUI.ui路径:

mirrorUI.ui

服务器部署

pictureViewer.zip下载链接:pictureViewer图片上传并显示网页-Web开发文档类资源-CSDN下载

web环境

搭建Linux Apache MySQL PHP环境。

第1步:安装Apache

Apache是一个免费开源软件,可运行世界上50%的Web服务器。

代码语言:javascript复制
sudo apt-get update
sudo apt-get upgrade
sudo apt-get install apache2
sudo /etc/init.d/apache2 restart

要检查是否安装了Apache,请将浏览器指向您服务器的IP地址(例如http://127.0.0.1)。

可以运行以下命令来显示你的服务器的IP地址:

代码语言:javascript复制
ifconfig | grep inet | awk '{ print $2 }'

第2步:安装MySQL(Ubuntu)

MySQL是一个强大的数据库管理系统,用于组织和检索数据。

代码语言:javascript复制
sudo apt-get install mysql-server mysql-client

查看端口:

代码语言:javascript复制
sudo netstat -tap | grep mysql

用命令激活它:

代码语言:javascript复制
sudo mysql_install_db

通过运行MySQL设置脚本完成:

代码语言:javascript复制
sudo /usr/bin/mysql_secure_installation
代码语言:javascript复制
Would you like to setup VALIDATE PASSWORD plugin? => y
Please enter 0 = LOW, 1 = MEDIUM and 2 = STRONG: 1 => 0
New password: => xxxxxxxx
Re-enter new password:  => xxxxxxxx
Remove anonymous users?: => y
Disallow root login remotely?: => y
Remove test database and access to it?: => y
Reload privilege tables now?: => y

第2步:安装MySQL(Raspbian)

代码语言:javascript复制
sudo apt-get install mariadb-server mariadb-client

用命令激活它:

代码语言:javascript复制
sudo mysql_install_db

启动服务

代码语言:javascript复制
/usr/bin/mysqld_safe --datadir='/var/lib/mysql'
sudo service mysql start

通过运行MySQL设置脚本完成:

代码语言:javascript复制
sudo /usr/bin/mysql_secure_installation
代码语言:javascript复制
Enter current password for root (enter for none):
Set root password? [Y/n] y
Remove anonymous users? [Y/n] y
Disallow root login remotely? [Y/n] y
Remove test database and access to it? [Y/n] y
Reload privilege tables now? [Y/n] y

第3步:安装PHP

PHP是一种开源的Web脚本语言,广泛用于构建动态网页。

代码语言:javascript复制
sudo apt install php7.2-mysql php7.2-curl php7.2-json php7.2-cgi php7.2 libapache2-mod-php7.2

测试PHP:

代码语言:javascript复制
查看版本:
php --version

输出phpinfo:
sudo vim /var/www/html/phpinfo.php
写入如下内容:
<?php echo phpinfo();?>
浏览器输入:
http://127.0.0.1/phpinfo.php

第4步:重新启动apache以使所有更改生效

代码语言:javascript复制
sudo service apache2 restart

第5步:安装phpmyadmin

代码语言:javascript复制
sudo apt install php-mbstring php7.2-mbstring php-gettext -y
sudo systemctl restart apache2.service
sudo apt install phpmyadmin -y

安装过程中的选项:

  • 选择 Apache2 并点击确定
  • 选择 Yes来配置 phpMyAdmin 管理的数据库
  • 输入刚设置的数据库密码
  • 若报错,可以选择ignore

安装完成后需要将phpmyadmin的文件夹复制到www/html文件夹下进行管理

代码语言:javascript复制
sudo cp -Rf /usr/share/phpmyadmin /var/www/html/

打开浏览器并输入http://127.0.0.1/phpmyadmin

输入用户名、密码后登陆

网站部署

放置页面

pictureViewer文件夹整个放到/var/www/html/路径下:

代码语言:javascript复制
复制:sudo cp -r pictureViewer /var/www/html
或
移动:sudo mv pictureViewer /var/www/html

修改权限:

代码语言:javascript复制
sudo chmod 777 /var/www/html/pictureViewer/*

将文件夹名pictureViewer修改为MagicMirror

代码语言:javascript复制
sudo mv /var/www/html/pictureViewer /var/www/html/MagicMirror

浏览器输入http://127.0.0.1/MagicMirror即可

测试是否能上传图片成功

打开并修改文件夹下的testUpload.py:

代码语言:javascript复制
vim /var/www/html/MagicMirror/testUpload.py
代码语言:javascript复制
url = 'http://127.0.0.1/MagicMirror/upload_file.php'

运行Python:

代码语言:javascript复制
cd /var/www/html/MagicMirror/
python3 testUpload.py

若提示缺少库,则先安装:

代码语言:javascript复制
pip3 install requests

上传成功后,刷新浏览器界面,会多一张图片。

MQTT环境

Eclipse Mosquitto是一个开源消息代理,实现了MQTT协议版本3.1和3.1.1。

Mosquitto安装

添加存储库(Raspbian可跳过):

代码语言:javascript复制
sudo apt-add-repository ppa:mosquitto-dev/mosquitto-ppa

更新软件包:

代码语言:javascript复制
sudo apt-get update

安装:

代码语言:javascript复制
sudo apt-get install mosquitto -y

安装命令行客户端:

代码语言:javascript复制
sudo apt-get install mosquitto-clients -y

默认情况下,Ubuntu将在安装后启动Mosquitto服务。

在新终端中,使用mosquitto_sub订阅测试主题:

代码语言:javascript复制
mosquitto_sub -h localhost -t test

新开一个其他终端并发布消息:

代码语言:javascript复制
mosquitto_pub -h localhost -t test -m "hello world"

启动服务端

代码语言:javascript复制
#-c:指定特定配置文件启动
#-d:后台运行 
mosquitto -c /etc/mosquitto/mosquitto.conf -d

异常情况

如果遇到Unable to acquire the dpkg frontend lock这个问题

首先检查是否在运行apt,apt-get相关的进程:

代码语言:javascript复制
ps aux | grep -i apt

如果存在与apt相关的正在运行的进程,kill掉进程:

代码语言:javascript复制
sudo kill -9 <process id>

继续上一次的配置:

代码语言:javascript复制
sudo dpkg --configure -a

或者直接简单粗暴的:

代码语言:javascript复制
sudo killall apt apt-get 

之后可以新的apt操作

人脸识别

流程图

原创内容,转载请注明来源!

0 人点赞