深度判别和共享特征学习的图像分类

秋雨思童年，落花念爱霖！一场秋雨的洗礼，让我们进入了真正能感觉得到的秋季。秋季是丰收的季节，不知朋友您收获如何？但是我相信您一定硕果累累，满载着各种成果、业绩和快乐继续向下一个目标努力前行。

今天我们来谈谈深度学习过程中的一些判别与共享关系。这也是一篇不错的paper（来自模式识别），并且通过实现和改进真的可以有一个较好的提升。

在图像表示中，为了编码类的相关性和类的具体信息，文章提出了一个深度判别和可共享的特征学习一个新局部特征的学习方法。该方法旨在分层学习特征变换滤波器组，将原始像素图像块变换为特征。

所学习的滤波器组被期望为：

（1）编码一些合适数量类别的普通图像；

（2）编码判别信息;

（3）在不同视觉等级分层提取图案。

特别是，在新框架的每一层，可共享的滤波器共同学习那些相似模式的类。滤波器的判别能力，通过使同一类的特征更加相近，而不同类的特征彼此远离来完成的。此外，还提出了两种选择方法的模型，为了更有效地迭代选择训练数据和有效地学习。根据实验结果，新框架可以达到非常有好的性能。

现在特征学习方法目的在于从原始像素图像数据中去自动学习数据自适应图像表示，然而这些方法在数据中提取和组织判别信息较差，大多数的学习框架都用无监督方式，但没有考虑到类标签的信息，这可是图像分类的关键。所以提出了在已存在的类别组中编码可共享信息，且判别模式在特征学习过程中拥有具体类。

于是建立一个多层特征学习框架：深度判别和共享的特征学习。

目的：分层学习变换滤波器组去将局部图像块的像素值变换为特征。在下图中，每一个特征学习层，目的是去学习一个过完备滤波器组，其可能涉及到不同类的块差异，同时在相似类中保持共享相关性和每一个类的判别力。直观地，这目标可以通过随机寻找训练块，对每个类单独学习滤波器组，然后连接在一起来完成。

但是有3个问题：

有些模式在一些类中是共享的，重复学习滤波器相当于类似的模式既没有内存压缩也没有效计算，同时特征维度随着类的数量成线性增长；
判别力不能被充分利用，因为类的具体特征是普遍的且不明显，不需与其他类比较；
图像被噪声和无意义的块影响，从随机采样的图像块中学习滤波器将会增加学习成本并降低性能。

训练过程：

a）原始图像输入或前层特征的输出，稠密提取图像块或局部特征（黄色块）；b）选择样本训练（红色快）；

c）进行新框架训练模块并学习滤波器组。

测试过程：

d）应用所学习的滤波器组W到原始输入图像或前层特征，对当前层稠密提取新框架特征；

e）进行LLC和SPM，然后变换局部特征到全局图像表示，并应用线性SVM去做最后的分类。

在新框架模块中，在全局滤波器组W中w1，w2，...，wD表示滤波器。在训练步骤，对于每一层，强制它去激活一个小子集的滤波器（被激活的滤波器已经用不同颜色强调），不同类可以分享相同的滤波器。最后，一个图像块Xi的新框架特征可以表示为fi=F(WXi)。

为了学习紧致和有效的滤波器组，在学习过程中，每一类都只能激活全局滤波器的一个子集。除了减小特征维度，共享滤波器也可以导致特征更鲁棒。图像属于不同类但是分享了相同的信息（例如在图像中，计算机房和办公室都含有电脑和桌子）。信息共享的数量取决于不同类之间的相似性。所以允许滤波器可以共享，意味着相同的滤波器可以通过一些类被激活。于是引入了一个二进制选择向量去自适应选择哪一个滤波器去共享并在哪类中。

为了提高判别力，强制将来自相同类的特征去更接近，将来自不同类的特征去远离。（例如，与办公室里书架相对应的块在计算机房很难找到）。然而来自相同类的局部块是非常多样化的。

因此，提出去测量相似性，通过强制一个块相似于相同类训练样本的一个子集。与此同时，不是所有不同类的局部块都需要分离。因此减少判别条件，允许通过不同类去共享相似的块，重点分离不相似的块。

为了提高滤波器的质量和学习过程的效率，提出两个样本选择方案去选择有效地训练数据。所提出的方法目的是去除普遍存在于不同类的训练块的噪声，并选择包含共享和判别的模式作为训练数据去学习滤波器组。拓展单层特征学习模块到分层结构。建立了3层学习框架。在结构中，先从小的原始像素值图像块（16x16）学习特征；然后对于更高的层，用一个大的区域（32x32和64x64，分别为第二层和第三层）卷积前层特征作为输入去PCA，并用降维数据（设置所有层维度都是300）作为输入去训练当前层的滤波器组（设置每一层去学习400个滤波器）；最后结合3层所有学习到的特征作为新框架特征。