有三AI知识星球的"网络结构"板块已经正式升级为“网络结构1000变”,顾名思义,就是要更新1000 网络结构解读,同时该板块还有以下变化。
- 更新频率由一天一篇提升为一天两篇,预计年内将有500 网络结构解读文章。
- 即将增加分割,检测,跟踪,GAN等各个子领域的内容。
- 模板已经固定为如下的卡片形式,包含“网络名字 摘要 内容”。同时每次会提供论文下载,方便大家收藏与检索。
有三AI知识星球-网络结构1000变
Octave Convolution
Octave Convolution不仅是不同分辨率的分组卷积网络,而且高分辨率和低分辨率通道还存在信息交换,因此可以称为高低频分组卷积网络,比普通的多分辨率分组卷积网络性能更加强大。
作者/编辑 言有三
在前面我们讲述了多尺度通道分组网络Big-Little Net,它的网络结构如下:
它的核心思想就是两个通道具有不同的分辨率,低分辨率通道通道数更多,高分辨率通道通道数更少,从而可以兼顾性能和速度,能在维持性能的情况下,减少30%的计算量。
上面的网络结构有一个特点,那就是两个通道完全没有信息的交换,而只是结果融合,如果两个通道有信息交换呢?
Octave Convolution便是这样的一个结构,它也是一个高分辨率通道 一个低分辨率通道,低分辨率具有较多的通道,被称为低频分量。高分辨率具有较少的通道,被称为高频分量,两者各自学习,并且进行了信息的融合。高分辨率通道通过池化与低分辨率通道融合,低分辨率通过上采样与高分辨率通道融合。
为什么要进行信息融合呢?这实际上来自于图像特征的考虑,一个图像可以分为高频和低频部分,高频拥有更多结构细节,需要高分辨率,低频保留主体信息,只需要低分辨率,但是两者要共同组合才能得到完整的信息,所以通道之间信息的交换是必要的。
该模型最终在22.2GFLOPS的计算量下,ImageNet Top-1的精度达到了82.9%。
目前内容已经超过40篇文章,2万多字,覆盖经典网络,残差网络及其变种,分组网络及其变种,非正常卷积及其变种,时序网络等内容。