基于大疆EP和opencv完成人脸跟随项目(没EP车车哈)

2021-03-30 17:01:04 浏览数 (1)

实现步骤

连接EP——获取EP图像——处理EP图像——获得人脸坐标——控制云台运动 下面我们就开始吧。

环境安装

在运行程序的时候我们需要在python安装robomaster库和opencv库 安装robomaster库 在电脑的cmd输入pip install robomaster 在使用SDK时候需要安装VC,不然会出现下面的错误

需要安装VC,下载地址

代码语言:javascript复制
https://github.com/dji-sdk/robomaster-sdk

安装opencv :pip install opencv-python

具体步骤

1.连接EP,在大疆的开发者文档里有 WiFi 直连

2.获取EP的视频流-该项目显示200帧的视频流


3.处理EP图像并获取人脸坐标

代码语言:javascript复制
def shibei():
    global RLzhongxi_x,RLzhongxi_y #定义两个全局变量,用来储存人脸的坐标
    cv2.namedWindow("img", 1)  #新建一个显示窗口
    cv2.resizeWindow("img", 800, 400)  #图像框的大小
    ret,img=cap.read()#vc.read()读取图片的第一帧 返回两个值,第一个值是true或者false,判断有没有读取到,第二个值是当前的一帧图像
    gray=cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)#将读取到的值转化为灰度图
    faces = face_cascade.detectMultiScale(gray,1.1,5)#检测出图片中所有的人脸,并将人脸的各个坐标保持到faces里
    if len(faces)>0:#判断是否检测到人脸
        for faceRect in faces:   #依次读取faces的值
            x,y,w,h = faceRect
            cv2.rectangle(img,(x,y),(x w,y h),(255,0,0),3)#绘制人脸框
            roi_gray = gray[y:y h//2,x:x w]
            roi_color = img[y:y h//2,x:x w]
            RLzhongxi_x = x w/2 #获取人脸中心坐标
            RLzhongxi_y = y h/2
            eyes = eye_cascade.detectMultiScale(roi_gray,1.1,1,cv2.CASCADE_SCALE_IMAGE,(2,2))#检测眼睛
            for (ex,ey,ew,eh) in eyes:
                cv2.rectangle(roi_color,(ex,ey),(ex ew,ey eh),(0,255,0),2)#绘制眼睛框
    cv2.imshow("img",img)#显示图像
   
    return RLzhongxi_x,RLzhongxi_y#返回人脸中心坐标

4.控制云台运动 云台有两个轴,分别是航向轴和俯仰轴,航向轴是围绕的y轴转动,俯仰轴是围绕x轴转动,我们要做的是控制两个轴转到人脸的中心。

代码语言:javascript复制
def Error():
    RLzhongxi_x_1=centre[0]#将上面的值传到这里
    RLzhongxi_y_1=centre[1]
    TXzhongxi_x=400 #整个图像的中心坐标
    TXzhongxi_y=200
    error_x=TXzhongxi_x-RLzhongxi_x_1 #偏航轴的的误差
    error_y=TXzhongxi_y-RLzhongxi_y_1#俯仰轴的误差
    if abs(error_x) < 10:#判断误差是否小于10,如果小于默认为到达人脸中心
        yaw0_speed = 0
    else:
        yaw0_speed = KP*error_x#输出偏航轴的速度
    if abs(error_y) < 10:
        pitch0_speed = 0
    else:
        pitch0_speed = -KP*error_y#输出俯仰轴的速度
    print("yaw的速度:",yaw0_speed)
    print("Pitch的速度:",pitch0_speed)
    ep_gimbal.drive_speed(pitch_speed='{pitch}', yaw_speed='{yaw}'.format(pitch=pitch0_speed,yaw=yaw0_speed))#控制云台
代码语言:javascript复制
#导入需要用到的库
import cv2
import numpy as np
import wave
import re
import socket
import sys
import numpy as np

 
#创建新的对象
ep_robot = robot.Robot()

# 指定连接方式为AP 直连模式,初始化
ep_robot.initialize(conn_type='ap')    

#开始获取视频流,但是不播放
ep_camera.start_video_stream(display=False)

#设置模式为自由模式
ep_robot.set_robot_mode(mode=robot.FREE)





#获取官方提供的特征库,根据自己电脑设置路径
face_cascade = cv2.CascadeClassifier("D://python38//Lib//site-packages//cv2//data//haarcascade_frontalface_default.xml")  
eye_cascade = cv2.CascadeClassifier("D://python38//Lib//site-packages//cv2//data//haarcascade_eye.xml")
KP = 0.15#比例系数,让云台转的慢一点

   
   

 
def shibei():
    global RLzhongxi_x,RLzhongxi_y #定义两个全局变量,用来储存人脸的坐标
    cv2.namedWindow("img", 1)  #新建一个显示窗口
    cv2.resizeWindow("img", 800, 400)  #图像框的大小    
    img = ep_camera.read_cv2_image()#获取视频流的一帧图像
    gray=cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)#将读取到的值转化为灰度图
    faces = face_cascade.detectMultiScale(gray,1.1,5)#检测出图片中所有的人脸,并将人脸的各个坐标保持到faces里
    if len(faces)>0:#判断是否检测到人脸
        for faceRect in faces:   #依次读取faces的值
            x,y,w,h = faceRect
            cv2.rectangle(img,(x,y),(x w,y h),(255,0,0),3)#绘制人脸框
            roi_gray = gray[y:y h//2,x:x w]
            roi_color = img[y:y h//2,x:x w]
            RLzhongxi_x = x w/2 #获取人脸中心坐标
            RLzhongxi_y = y h/2
            eyes = eye_cascade.detectMultiScale(roi_gray,1.1,1,cv2.CASCADE_SCALE_IMAGE,(2,2))#检测眼睛
            for (ex,ey,ew,eh) in eyes:
                cv2.rectangle(roi_color,(ex,ey),(ex ew,ey eh),(0,255,0),2)#绘制眼睛框
    cv2.imshow("img",img)#显示图像
    cv2.waitKey(2)#每两帧的间隔时间
   
    return RLzhongxi_x,RLzhongxi_y#返回人脸中心坐标
 
def Error():
    RLzhongxi_x_1=centre[0]#将上面的值传到这里
    RLzhongxi_y_1=centre[1]
    TXzhongxi_x=400 #整个图像的中心坐标
    TXzhongxi_y=200
    error_x=TXzhongxi_x-RLzhongxi_x_1 #偏航轴的的误差
    error_y=TXzhongxi_y-RLzhongxi_y_1#俯仰轴的误差
    if abs(error_x) < 10:#判断误差是否小于10,如果小于默认为到达人脸中心
        yaw0_speed = 0
    else:
        yaw0_speed = KP*error_x#输出偏航轴的速度
    if abs(error_y) < 10:
        pitch0_speed = 0
    else:
        pitch0_speed = -KP*error_y#输出俯仰轴的速度
    print("yaw的速度:",yaw0_speed)
    print("Pitch的速度:",pitch0_speed)
    ep_gimbal.drive_speed(pitch_speed='{pitch}', yaw_speed='{yaw}'.format(pitch=pitch0_speed,yaw=yaw0_speed))#控制云台

while True:   
    shibei()
    centre = shibei()
    Error()

0 人点赞