[卷积神经网络]课程:The basics of ConvNets习题解析

2019-07-01 15:24:33 浏览数 (1)

Coursera上的deep learning在线课程可以说是深度学习最经典的入门教程,其讲师Andrew Ng在业界赫赫有名。目前该套课程已经授权给网易云课堂,我们可以在网易云课堂上免费学习该课程。但有点不好的是,网易云课堂上的课程没有配套的习题和编程练习。个人认为,除了听课之外,必要的练习和编程也是必需的,所以我还是上Coursera上注册了该课程。如果想省钱的话,可以先上网易云课堂把课程听完,然后去Coursera上注册课程,在7天试用期之内完成习题和编程训练,就可以免费了。

Coursera上的习题可以重复提交,取最高的成绩,所以每次提交后只会告诉对错,但不指明错误的地方。对于初学者而言,可能希望弄明白到底错在哪儿,所以在此分析一下习题的答案,供大家参考。

deep learning一共包含5门子课程,分别是:[神经网络和深度学习]、[改善深层神经网络:超参数调试、正则化以及优化]、[结构化机器学习项目]、[卷积神经网络]和[序列模型]。下面分析[卷积神经网络]课程:The basics of ConvNets部分的习题。

注:为了避免记答案,coursera上的习题每次进去都有所变化,不过大体都是差不多,通常只是调整次序。

这个题目有一定的迷惑性,课程上列举的边缘检测过滤器有如下几种:

都不符合题目中的过滤器,但如果我们仔细观察这个矩阵,会发现其基本按照列对称,但符号相反,可以判断出是用来实现垂直边缘检测,所以答案是选项4。

这个题目需要注意输入是RGB通道,所以300x300x3x100=27000000,加上bias: 1x100,和是27000100,答案是选项4。

这个题目不要被输入图像的宽高所迷惑,对于卷积网络而言,我们就是需要找到过滤器中的参数值,本题中过滤器大小为5x5,一个过滤器的参数为25x3(通道数和输入图像相同,数量是3),加上bias就是76,最后的答案就是76x100,答案是选项4。

这个使用(n 2p-f)/s 1公式计算,n=63, p=0,f=7,s=2,结果是29,卷积计算输出的通道数等于过滤器的个数,所以答案是选项3。

填充后,宽高都要增加2p,通道数量不受影响,所以答案是选项4: 19x19x8

根据公式2p-f 1=0,可以计算出p=3,所以答案是选项3。

这个题目比较容易,同样使用(n 2p-f)/s 1,不改变通道数,答案是选项3。

池化层没有需要求解的参数,但有超参数,比如过滤器大小、步长、选择max pooling还是average pooling,同样影响反向梯度递减运算的结果,所以答案是选项2:False。

选项1明显错误,一个任务上学习到的参数无法直接应用到另外一个任务上。

参数越多,需要的训练样本越多,才能避免过拟合,减少参数可以避免过拟合是正确的。

课程上并没有说梯度递减计算出的参数值为0,而是说会减少参数,所以这个选项是错误的。

这个在课程上有讲到: A feature detector(such as a vertical edge detector) that’s useful in one part of the image is probably useful in another part of the image.

综合以上,该题的答案是:2、4

稀疏连接的好处在课程中有明确的说明,答案是:选项4。

0 人点赞