最近学习吴恩达《Machine Learning》课程以及《深度学习入门：基于Python的理论与实现》书，一些东西总结了下。现就后者学习进行笔记总结。本文是本书的学习笔记（三）神经网络。
感知机优缺点：
- 即便对于复杂的函数，感知机也隐含着能够表示它的可能性。
- 但设定权重的工作，即确定合适的、能符合预期的输入与输出的权重，现在还是由人工进行的。
而神经网络的出现就是为了解决上面设定权重工作的缺点的。神经网络的可以自动地从数据中学习到合适的权重参数。
激活函数
将输入信号的总和转换为输出信号，这种函数一般称为激活函数。激活函数决定如何来激活输入信号的总和。激活函数是连接感知机和神经网络的桥梁。
感知机中使用了阶跃函数（一旦输入超过阈值，就切换输出的函数）作为激活函数。
sigmoid函数
ℎ(
