深度学习-神经网络NN的复杂度
NN的复杂度一般是用NN层数和参数的个数来表示的。
上面是一个简单的只包含一个隐藏层的神经网络:
- 输入层:3个节点
- 隐藏层:4个节点;输入层和输出层之间的所有层数都叫隐藏层
- 输出层:2中节点
输入层
输入层的功能仅仅是传入数据,一般不计入神经网络的层数计算中。
空间复杂度
神经网络层数
NN的层数=所有隐藏层 输出层。上面就是1 1=2层
参数计算
NN的参数 = 总共的w 总共的b
图中的第一层加上第二层的参数:上面的结果为: (3*4 4 ) (4*2 2) = 26
时间复杂度
指的是模型的运算次数,只需要看乘加运算的次数。上面的结果可表示为:3*4 4*2