最近看到Github上有个项目很火，于是尝试clone下玩玩。 项目名：animegan2-pytorch 项目地址：https://github.com/bryandlee/animegan2-pytorch
项目简介
AnimeGAN是来自武汉大学和湖北工业大学的一项研究，采用的是神经风格迁移 生成对抗网络（GAN）的组合。
AnimeGAN从去年就已经提出，使用的是Tensorflow框架，目前该项目已开发出了第二代版本，支持pytroch框架。
原论文：AnimeGAN: A Novel Lightweight GAN for Photo Animation https://github.com/TachibanaYoshino/AnimeGAN/blob/master/doc/Chen2020_Chapter_AnimeGAN.pdf
网络结构(图片节选自原论文，原理暂不细究)：
该项目可以实现将真人头像动漫化，例如下面的动图所示：
项目上手
文件预览
由于国外服务器下载较慢，本项目所有文件以及所需下载的其它文件我均做了备份。获取方式可以跳转到文末。
samples：用来放置一些示例图片 weghts：权重文件 colab_demo/demo.ipynb：两个使用案例 convert_weights.py：用来将权重文件夹里的tensorflow模型转换成pytorch模型文件 hubconf.py：在Pytorch.Hub上获取预加载模型
在使用中，只需要用到两个文件： 1、demo.ipynb 2、weights文件夹(内含四个模型，对应不同图片大小、美化程度、鲁棒性等…）
环境安装
首先在jupyter lab中打开demo.ipynb，然后根据import来配置环境。
Pytorch 安装
项目需要使用Pytorch框架，框架的安装可以看我之前的博文： 超简单的pytorch（GPU版）安装教程（亲测有效）
cmake安装
在进行dlib库安装时，直接安装会报错：
代码语言：javascript复制CMake must be installed to build the following extensions: dlib在此之前，需先进行cmake安装。 安装方式：
代码语言：javascript复制pip install cmakeface_recognition安装
安装完cmake后，先别急着装dlib，先安装face_recognition，这里面包含了一个版本的dlib。 安装方式：
代码语言：javascript复制pip install face_recognitiondlib检查与安装
安装好face_recognition之后，内部自带了一个dlib，此时可尝试运行demo中的第二段程序，如果dlib无报错，可不进行下面的步骤。 若报错，则可能是dlib的版本与python的版本不匹配，需卸载重装。 卸载方式：
代码语言：javascript复制pip uninstall dlib若使用pip进行dlib的安装，大概率会报错，因此需将dlib的包下载下来本地安装。
下面是dlib不同版本和python版本的对应关系
python3.5版本：19.4.0版本 python3.6版本：19.6.0版本; python3.7版本：19.14.0版本 python3.8版本：19.19.0版本;
我的安装的python版本为3.8，因此我需要下载dlib的19.19.0版本。 下载链接：https://pypi.org/project/dlib/19.19.0/#files
下载的是.tar.gz格式的文件： 下载好后需进行解压，在命令行切换到解压后的文件夹，运行：
代码语言：javascript复制python setup.py运行好之后，相应的dlib版本就安装完毕。
scipy安装
scipy是科学工具包，内含很多计算公式，后面有用到，安装比较简单：
代码语言：javascript复制pip install scipyrequests安装(可选）
玩过爬虫的都知道requests可以很方便的向服务器发送请求，后面测试图片如果需要获取网络资源，则需安装此库，本地图片加载可不用安装。 安装方式：
代码语言：javascript复制pip install requests特征点检测数据库下载
前面安装过的dlib可用来检测人脸特征，但库本身并不带特征点检测库，运行时会报错：
代码语言：javascript复制Unable to open shape_predictor_68_face_landmarks.dat解决方式： 将shape_predictor_68_face_landmarks.dat该文件放置在项目同文件夹下即可。 该文件在文末我备份的文件中已添加。
权重文件放置
运行代码第一段，它会用torch.hub.load来下载模型文件，如果你的网速不快，很可能会下载中断，产生报错。其实，下载的文件和克隆的项目文件一样，只不过会在C盘的缓冲区进行额外添加。 添加位置如图所示：
它会在相应文件夹下生成两个文件夹：
下载失败没关系，只要把项目内的相应文件拷贝进去即可。 第一个文件内容（即项目文件）
第二个文件内容（存放权重文件）
放好之后，在此运行第一段代码，就不会联网去下载，而会提示文件已存在。
代码功能解读
第一段代码，主要用来设置环境。
代码语言：javascript复制#@title Load Face2Paint model
import torch
from PIL import Image
device = "cuda" if torch.cuda.is_available() else "cpu"
model = torch.hub.load("bryandlee/animegan2-pytorch:main", "generator", device=device).eval()
face2paint = torch.hub.load("bryandlee/animegan2-pytorch:main", "face2paint", device=device, side_by_side=True)第二段代码，核心代码，通过dlib将人脸部分进行裁切，并检测出所有人脸特征点，进行标注，产生图片。
代码语言：javascript复制#@title Face Detector & FFHQ-style Alignment
# https://github.com/woctezuma/stylegan2-projecting-images
import os
import dlib
import collections
from typing import Union, List
import numpy as np
from PIL import Image
import matplotlib.pyplot as plt
def get_dlib_face_detector(predictor_path: str = "shape_predictor_68_face_landmarks.dat"):
if not os.path.isfile(predictor_path):
model_file = "shape_predictor_68_face_landmarks.dat.bz2"
os.system(f"wget http://dlib.net/files/{model_file}")
os.system(f"bzip2 -dk {model_file}")
detector = dlib.get_frontal_face_detector()
shape_predictor = dlib.shape_predictor(predictor_path)
def detect_face_landmarks(img: Union[Image.Image, np.ndarray]):
if isinstance(img, Image.Image):
img = np.array(img)
faces = []
dets = detector(img)
for d in dets:
shape = shape_predictor(img, d)
faces.append(np.array([[v.x, v.y] for v in shape.parts()]))
return faces
return detect_face_landmarks
def display_facial_landmarks(
img: Image,
landmarks: List[np.ndarray],
fig_size=[15, 15]
):
plot_style = dict(
marker='o',
markersize=4,
linestyle='-',
lw=2
)
pred_type = collections.namedtuple('prediction_type', ['slice', 'color'])
pred_types = {
'face': pred_type(slice(0, 17), (0.682, 0.780, 0.909, 0.5)),
'eyebrow1': pred_type(slice(17, 22), (1.0, 0.498, 0.055, 0.4)),
'eyebrow2': pred_type(slice(22, 27), (1.0, 0.498, 0.055, 0.4)),
'nose': pred_type(slice(27, 31), (0.345, 0.239, 0.443, 0.4)),
'nostril': pred_type(slice(31, 36), (0.345, 0.239, 0.443, 0.4)),
'eye1': pred_type(slice(36, 42), (0.596, 0.875, 0.541, 0.3)),
'eye2': pred_type(slice(42, 48), (0.596, 0.875, 0.541, 0.3)),
'lips': pred_type(slice(48, 60), (0.596, 0.875, 0.541, 0.3)),
'teeth': pred_type(slice(60, 68), (0.596, 0.875, 0.541, 0.4))
}
fig = plt.figure(figsize=fig_size)
ax = fig.add_subplot(1, 1, 1)
ax.imshow(img)
ax.axis('off')
for face in landmarks:
for pred_type in pred_types.values():
ax.plot(
face[pred_type.slice, 0],
face[pred_type.slice, 1],
color=pred_type.color, **plot_style
)
plt.show()
# https://github.com/NVlabs/ffhq-dataset/blob/master/download_ffhq.py
import PIL.Image
import PIL.ImageFile
import numpy as np
import scipy.ndimage
def align_and_crop_face(
img: Image.Image,
landmarks: np.ndarray,
expand: float = 1.0,
output_size: int = 1024,
transform_size: int = 4096,
enable_padding: bool = True,
):
# Parse landmarks.
# pylint: disable=unused-variable
lm = landmarks
lm_chin = lm[0 : 17] # left-right
lm_eyebrow_left = lm[17 : 22] # left-right
lm_eyebrow_right = lm[22 : 27] # left-right
lm_nose = lm[27 : 31] # top-down
lm_nostrils = lm[31 : 36] # top-down
lm_eye_left = lm[36 : 42] # left-clockwise
lm_eye_right = lm[42 : 48] # left-clockwise
lm_mouth_outer = lm[48 : 60] # left-clockwise
lm_mouth_inner = lm[60 : 68] # left-clockwise
# Calculate auxiliary vectors.
eye_left = np.mean(lm_eye_left, axis=0)
eye_right = np.mean(lm_eye_right, axis=0)
eye_avg = (eye_left eye_right) * 0.5
eye_to_eye = eye_right - eye_left
mouth_left = lm_mouth_outer[0]
mouth_right = lm_mouth_outer[6]
mouth_avg = (mouth_left mouth_right) * 0.5
eye_to_mouth = mouth_avg - eye_avg
# Choose oriented crop rectangle.
x = eye_to_eye - np.flipud(eye_to_mouth) * [-1, 1]
x /= np.hypot(*x)
x *= max(np.hypot(*eye_to_eye) * 2.0, np.hypot(*eye_to_mouth) * 1.8)
x *= expand
y = np.flipud(x) * [-1, 1]
c = eye_avg eye_to_mouth * 0.1
quad = np.stack([c - x - y, c - x y, c x y, c x - y])
qsize = np.hypot(*x) * 2
# Shrink.
shrink = int(np.floor(qsize / output_size * 0.5))
if shrink > 1:
rsize = (int(np.rint(float(img.size[0]) / shrink)), int(np.rint(float(img.size[1]) / shrink)))
img = img.resize(rsize, PIL.Image.ANTIALIAS)
quad /= shrink
qsize /= shrink
# Crop.
border = max(int(np.rint(qsize * 0.1)), 3)
crop = (int(np.floor(min(quad[:,0]))), int(np.floor(min(quad[:,1]))), int(np.ceil(max(quad[:,0]))), int(np.ceil(max(quad[:,1]))))
crop = (max(crop[0] - border, 0), max(crop[1] - border, 0), min(crop[2] border, img.size[0]), min(crop[3] border, img.size[1]))
if crop[2] - crop[0] < img.size[0] or crop[3] - crop[1] < img.size[1]:
img = img.crop(crop)
quad -= crop[0:2]
# Pad.
pad = (int(np.floor(min(quad[:,0]))), int(np.floor(min(quad[:,1]))), int(np.ceil(max(quad[:,0]))), int(np.ceil(max(quad[:,1]))))
pad = (max(-pad[0] border, 0), max(-pad[1] border, 0), max(pad[2] - img.size[0] border, 0), max(pad[3] - img.size[1] border, 0))
if enable_padding and max(pad) > border - 4:
pad = np.maximum(pad, int(np.rint(qsize * 0.3)))
img = np.pad(np.float32(img), ((pad[1], pad[3]), (pad[0], pad[2]), (0, 0)), 'reflect')
h, w, _ = img.shape
y, x, _ = np.ogrid[:h, :w, :1]
mask = np.maximum(1.0 - np.minimum(np.float32(x) / pad[0], np.float32(w-1-x) / pad[2]), 1.0 - np.minimum(np.float32(y) / pad[1], np.float32(h-1-y) / pad[3]))
blur = qsize * 0.02
img = (scipy.ndimage.gaussian_filter(img, [blur, blur, 0]) - img) * np.clip(mask * 3.0 1.0, 0.0, 1.0)
img = (np.median(img, axis=(0,1)) - img) * np.clip(mask, 0.0, 1.0)
img = PIL.Image.fromarray(np.uint8(np.clip(np.rint(img), 0, 255)), 'RGB')
quad = pad[:2]
# Transform.
img = img.transform((transform_size, transform_size), PIL.Image.QUAD, (quad 0.5).flatten(), PIL.Image.BILINEAR)
if output_size < transform_size:
img = img.resize((output_size, output_size), PIL.Image.ANTIALIAS)
return img第三段代码，设置图片导入方式（第一种网络读取图片，第二种本地加载），之后调用第二段中定义的算法，产生结果输出。
代码语言：javascript复制import requests
# img = Image.open(requests.get("https://upload.wikimedia.org/wikipedia/commons/8/85/Elon_Musk_Royal_Society_(crop1).jpg", stream=True).raw).convert("RGB")
img = Image.open(r"C:UsershpDesktopbidao.png").convert("RGB")
face_detector = get_dlib_face_detector()
landmarks = face_detector(img)
display_facial_landmarks(img, landmarks, fig_size=[5, 5])
for landmark in landmarks:
face = align_and_crop_face(img, landmark, expand=1.3)
display(face2paint(model=model, img=face, size=512))查看效果
好了，经历漫长和复杂的环境配置后，导入图片就能看到效果了。 我这里以毕导的图片为例： 原图：
人脸提取标注后：
动漫化对比：
结果非常Amazing啊！ 不过，由于原图分辨率不高，动漫化好像并不彻底，比如耳朵部分仍保留着三次元特征，和真正的二次元还有点距离。
