最新 最热

机器学习作业4-反向传播

)就是下标为j的神经元的偏导,正好可以用来当梯度用,这里感觉应该是近似,这里看懂了就明白吴恩达视频里的盲区了。注意,按照链式法则求偏导,(...

2021-03-09
1

DNN深度神经网络损失函数选择

1.均方误差(MSE)、SVM的合页损失(hinge loss)、交叉熵(cross entropy) 2.相对熵 相对熵又称KL散度,用于衡量对于同一个随机变量x的两个分布p(x)和q(x)之间的差异。在机器学习中,p(x)常用于描述样本的真实分布,例如[1,0,0,0]表...

2021-01-14
1