1 概述
GhostNet是华为诺亚方舟实验室提出的一个新型神经网络结构。目的类似Google提出的MobileNet，都是为了硬件、移动端设计的轻小网络，但是效果相比MobileNet更好。
GhostNet基于Ghost模块，这个特点是不改变卷积的输出特征图的尺寸和通道大小，但是可以让整个计算量和参数数量大幅度降低。简单的说，GhostNet的主要贡献就是减低计算量、提高运行速度的同时，精准度降低的更少了，而且这种改变，适用于任意的卷积网络，因为它不改变输出特征图的尺寸。下面来具体看一看GhostNet到底是怎么实现的吧。
GhostNet发现了一个这样的问题：想象一张要进行分类的图片，这个图片经过卷积层，假设产生了16个通道的特征图，如果我们把16个通道的图画出来，变成16个黑白图片，我们可以保证，每一个特征图都体现了原来图片不同的特征吗？如图1所示：
图19.9是处理MNIST手写数据集中第一层卷积层产生的32个特征图的图像，你可以找到多少组重复的、极为类似的特征图呢？不少吧。GhostNet就是觉得，既然有这么多的特征图都是相似的，那么生成相似的特征图的那部分计算量不就是多余的可以节省的嘛。
注意：这个相似的特征图，叫做Ghost，鬼影。
GhostNet的整体结构是仿照MobileNet-v3的结构，只是用Ghost Module作为基本组件，这里也不多将MobileNet-v3的结构了，下面要讲的就是我们能从GhostNet中到底学到什么？学到怎么用GhostNet的基本思想来降低我们模型的计算量。下面的内容就会围绕着GhostNet的Ghost-Blockneck展开。
注意：这个Ghost-Blockneck是基于Ghost Module组件，还有SE Module和Depthwise卷积。
1.1 Ghost Module
Ghost Module就是GhostNet的主要贡献了。来看代码：
代码语言：javascript复制class GhostModule(nn.Module):
def __init__(self, inp, oup, kernel_size=1, ratio=2, dw_size=3, stride=1, relu=True):
super(GhostModule, self).__init__()
self.oup = oup
init_channels = math.ceil(oup / ratio)
new_channels = init_channels*(ratio-1)
self.primary_conv = nn.Sequential(
nn.Conv2d(inp, init_channels, kernel_size, stride, padding=kernel_size//2, bias=False),
nn.BatchNorm2d(init_channels),
nn.ReLU(inplace=True) if relu else nn.Sequential(),
)
self.cheap_operation = nn.Sequential(
nn.Conv2d(init_channels, new_channels,dw_size,stride=1,
padding=dw_size//2, groups=init_channels, bias=False),
nn.BatchNorm2d(new_channels),
nn.ReLU(inplace=True) if relu else nn.Sequential(),
)
def forward(self, x):
x1 = self.primary_conv(x)
x2 = self.cheap_operation(x1)
out = torch.cat([x1,x2], dim=1)
return out[:,:self.oup,:,:]
一个非常标准的PyTorch模型类的定义。代码中主要有以下内容需要注意：
- 看一下参数，inp就是输入的通道数，oup就是输出的通道数。这里的ratio参数是一个重点，体现了特征图中，有多少的特征图不是Ghost的比例。比方说，生成16个特征图，然后ratio=2的话，就说明有8个特征图不是鬼影，如果ratio=4的话，那就是只有4个特征图不是鬼影。
- init_channels就是不是鬼影的特征图的通道数量，new_channels就是鬼影特征图的通道数量。两者相加应该是等于oup的，但是因为math.ceil(oup / ratio) 是向上取整，所以可能出现两者相加大于oup的情况，所以在forward函数的return中，仅仅返回前oup个通道，来保证输出特征图和预想的通道数是一致的。
- 整个过程也很简单，先用卷积生成init_channels通道数量的特征图，认为这些是有效的、不重复的，然后再用这些init_channels通道特征图再通过卷积生成new_channels个鬼影通道特征图，是鬼影的和不是鬼影的在通道维度上拼接起来，就完事了。但是在生成鬼影特征图的过程中，卷积中出现了一个陌生的参数groups，这个就是分组卷积的知识，下一个小节会讲解。
- 这个Conv层 BN层 ReLU激活函数基本是标准配置了。
1.2 分组卷积
- 英文是Group Convolution 之前在MobileNet的深度可分离卷积中已经讲了什么是Depthwise，其实这就是分组卷积的一种形式。如果分的组数等于输入特征图的通道数，那么就是Depthwise了，如果分的组没有那么多，就是一般的分组卷积。具体区分如图所示：
在这里介绍分组卷积只是因为在代码中使用到了这个概念。在代码中可以看到生成鬼影特征图的时候，使用的是分组卷积（也是Depthwise）：
代码语言：javascript复制self.cheap_operation = nn.Sequential(
nn.Conv2d(init_channels, new_channels,dw_size,stride=1,
padding=dw_size//2, groups=init_channels, bias=False),
nn.BatchNorm2d(new_channels),
nn.ReLU(inplace=True) if relu else nn.Sequential(),
)
有一个参数groups就是要分的组数，如果groups的数值等于输入通道数，那么就是Depthwise的方法。
注意：现在用分组卷积的话，一般就是用Depthwise的方法，所以要是看到Depthwise，实现的时候要想到用分组卷积groups这个参数。
1.3 SE Module
SE Module是SENet网络提出的Module，这个网络在2017年的ImageNet的图像分类任务中拿到了冠军。SENet是啥就不说了，2017年的冠军现在在AI领域中现在已经有点过时了，但是SENet的核心SE Module保留了下来。
SE是Squeeze-and-Excitation，挤压与刺激（这个SE的翻译有点奇怪）。废话不多说，直接看代码来理解吧：
代码语言：javascript复制class SELayer(nn.Module):
def __init__(self, channel, reduction=4):
super(SELayer, self).__init__()
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.fc = nn.Sequential(
nn.Linear(channel, channel // reduction), # //是求商，%是求余数。8//2=4，8%2=0
nn.ReLU(inplace=True),
nn.Linear(channel // reduction, channel),
)
def forward(self, x):
b, c, _, _ = x.size()
y = self.avg_pool(x).view(b, c)
y = self.fc(y).view(b, c, 1, 1)
y = torch.clamp(y, 0, 1)
return x * y
这个自适应池化层，其实就是可以随便设置池化之后的尺寸，然后这个都可以适应。比方说，输入的维度是[16,64,7,7]，这个batch中有16个特征图，然后每一个图片有64个通道，特征图的尺寸是7*7的，然后假设设置的参数是(5,7)，那么可以得到[16,64,5,7]这样的池化结果。具体过程就不讲解了，在这里只用知道怎么用就行了。
这里的参数是1，那么就会产生[16,64,1]这样的结果。说白了，就是一个全局平均池化层嘛。
然后继续上面的例子，把这个[16,64,1]变成[16,64]之后输入到全连接层，经过两层全连接层后还是[16,64]的尺寸，然后x*y就是SE Module的最终返回值。
其实很好理解，相当于SE Module对通道进行了一个权重的评估。有的通道可能重要，有的通道可能不重要，所以经过这个过程让特征图的每一个通道，得到了1个权重值。如何体现权重值的？就是让那个通道的每一个值，都乘上这个权重值就行了，简单粗暴，但是是有效果的。
- 注意：SE Module使用全连接层，如果每一层都是用SE Module的话，可能增加10%左右的计算量。
喜欢的话微信扫码关注公众号【机器学习炼丹术】。里面有更多的校招算法岗的知识点，还有项目经历分享！
